Случаи, в которых роботы пытаются заменить человека, но у них пока не получается

ForbesHi-Tech

Не только «Сбербанк»: пять самых эпичных ошибок искусственного интеллекта

Наглядные случаи, в которых роботы пытаются заменить человека, но у них пока не получается

Артем Гладких 

rtx6m61x.jpg__1551795657__23673.jpg
Фото Matthew Stock / REUTERS

Ошибки искусственного интеллекта на миллиарды рублей убытка стали самой громкой технологической новостью недели в России. Точная версия слов президента Сбербанка Германа Грефа остается предметом обсуждения, но стала поводом для того, чтобы вспомнить самые громкие случаи провалов ИИ.

Расизм и дискриминация

Корпорация Amazon, наряду с другими технологическими гигантами США, является одним из центров разработок в области искусственного интеллекта. В 2017 году компания закрыла экспериментальный проект по найму сотрудников на основе ИИ, который вела около трех лет. По словам представителей компании, в результате они ожидали получить некий «Святой Грааль», который мог бы отобрать пятерку лучших кандидатов из сотни резюме. Одной из ключевых проблем стала гендерная дискриминация кандидатов — алгоритм занижал оценки кандидатов-женщин, поскольку был обучен на прошлом десятилетнем опыте отбора кандидатов в Amazon, среди которых преобладали мужчины. Были и другие сложности: алгоритм нередко выдавал практически случайные результаты.

Применение алгоритмов в рекламных инструментах Facebook (соцсеть признана в РФ экстремистской и запрещена) привело к появлению предложений по группировке целевых аудиторий на основе такого признака, как антисемитизм. В 2016 году президенту Microsoft Research Питеру Ли пришлось извиняться за чат-бота Тау, который менее чем за сутки общения с пользователями Twitter научился расистским высказываниям. Проект был приостановлен.

Опасность на дороге

Распространение беспилотных автомобилей выглядит неизбежным будущим, однако еще не решены важные вопросы — например, этический выбор в опасных ситуациях. При этом сами тестовые испытания проходят с трагическими последствиями. Весной 2018 года Uber тестировала беспилотный автомобиль на базе одной из моделей Volvo на улицах города Темп в штате Аризона, США. Машина сбила женщину насмерть. Тестирование автопилота проводилось при сниженной чувствительности к распознанным опасным объектам, чтобы избежать ложных срабатываний. Когда порог чувствительности снижался, система видела опасные объекты там, где их не было.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Одри Хепбёрн: Есть вещи поважнее, чем кино Одри Хепбёрн: Есть вещи поважнее, чем кино

4 мая – 90 лет со дня рождения Одри Хепбёрн

Лиза
Как модные корпорации поддерживают женщин Как модные корпорации поддерживают женщин

Женщин поддерживает добрая половина брендов

Vogue
Есть, чего ждать: самые ожидаемые смартфоны 2019 года Есть, чего ждать: самые ожидаемые смартфоны 2019 года

Какие телефоны мы с особым нетерпением ждем в 2019 году

CHIP
Гибкое время Фабиана Офнера Гибкое время Фабиана Офнера

Как по частям собрать момент, которого никогда не было

Популярная механика
Мама в роли лучшей подруги — хорошо ли это? Мама в роли лучшей подруги — хорошо ли это?

Близкие отношения с родителями считаются идеалом, к которому стремится семья

Psychologies
Lyft против Uber: готова ли компания стать первым публичным агрегатором такси Lyft против Uber: готова ли компания стать первым публичным агрегатором такси

Что мы знаем о главном американском конкуренте Uber?

Forbes
Африканская Тоскана Африканская Тоскана

В самом центре Африки находится страна тысячи холмов — Руанда

The Rake
Идеальное увольнение: как покинуть компанию, чтобы все остались довольны Идеальное увольнение: как покинуть компанию, чтобы все остались довольны

Решение сотрудника покинуть компанию порой оборачивается головной болью

Forbes
5 типичных ошибок при выборе светодиодных ламп 5 типичных ошибок при выборе светодиодных ламп

О преимуществах LED-освещения все уже знают, но как их правильно выбрать?

CHIP
Как программисты из России ускорили интернет и заработали $670 млн Как программисты из России ускорили интернет и заработали $670 млн

Что привлекает в технологии Nginx ее клиентов

Forbes
Конкурент с Ямала. Как «Новатэк» потеснил «Газпром» в Европе Конкурент с Ямала. Как «Новатэк» потеснил «Газпром» в Европе

Снижение поставок трубопроводного газа ведет к потерям российского бюджета

Forbes
15 домашних питомцев - от самых любящих до тех, кому на вас наплевать 15 домашних питомцев - от самых любящих до тех, кому на вас наплевать

Что же такое любовь питомца, и как понять, как он к вам относится

Популярная механика
Сколько раз в неделю нужно мыться (пора уже делать это правильно) Сколько раз в неделю нужно мыться (пора уже делать это правильно)

Тебе может казаться, что чем чаще моешься, тем лучше. Но, увы, ты не совсем прав

Playboy
Юлечка, не сдавайся! Юлечка, не сдавайся!

Пожелания здоровья и скорейшего возвращения на сцену красавице нашей эстрады

StarHit
KEF’2019 Транспортный каркас страны KEF’2019 Транспортный каркас страны

Масштабные инвестиции в модернизацию и расширение транспортной инфраструктуры

Forbes
25 модных ошибок на свадьбе 25 модных ошибок на свадьбе

Учитесь на чужих просчетах, чтобы не захотелось сбежать с собственной церемонии

Vogue
90-е: весело и честно 90-е: весело и честно

25 марта на телеканале СТС стартует сериал «90-е. Весело и громко»

OK!
Где стоит есть блины всю масленичную неделю Где стоит есть блины всю масленичную неделю

Классика и гибриды в московских ресторанах

Vogue
Марта Кауффман — о феноменальной популярности «Друзей» и о том, почему перезапуска никогда не будет Марта Кауффман — о феноменальной популярности «Друзей» и о том, почему перезапуска никогда не будет

Марта Кауффман о том, почему все по‑прежнему смотрят и любят «Друзей»

Esquire
Что подарить девушке на годовщину отношений? 18 самых лучших идей Что подарить девушке на годовщину отношений? 18 самых лучших идей

Каким должен быть подарок, который ей и понравится, и запомнится?

Playboy
Самые удобные банки мира. Рейтинг Forbes Самые удобные банки мира. Рейтинг Forbes

Клиенты по всему миру признали ING Bank и Citi самыми удобными банками

Forbes
«Если бы я пошел к президенту, меня бы вынесли вперед ногами»: Андрей Белоусов о деле Baring Vostok «Если бы я пошел к президенту, меня бы вынесли вперед ногами»: Андрей Белоусов о деле Baring Vostok

Помощник президента Андрей Белоусов рассказал о дружбе с Артемом Аветисяном

Forbes
Москва следам поверит Москва следам поверит

Шесть необычных маршрутов, раскрывающих Москву с неожиданных сторон

GQ
«Сексуальная медсестра»: всё, что тебе понадобится для ролевой игры в доктора «Сексуальная медсестра»: всё, что тебе понадобится для ролевой игры в доктора

Как организовать ролевую игру, чтобы она запомнилась надолго

Cosmopolitan
Модная история тренча Модная история тренча

Путь любимого плаща из окопов Первой мировой в современные гардеробы

Vogue
Как защитить ребенка в Интернете и соцсетях: важные ответы для родителей Как защитить ребенка в Интернете и соцсетях: важные ответы для родителей

Как защитить детей от опасностей из Сети?

CHIP
Российские слоны и тигры Российские слоны и тигры

Что изобрели в СССР, история Чернобыльской катастрофы и как воруют в России

Forbes
Выход в свет. Что помогает женщинам становиться руководителями глобального уровня Выход в свет. Что помогает женщинам становиться руководителями глобального уровня

Женщины, управляющие компаниями, выходят на глобальный рынок труда

Forbes
Как менялся стиль Криса Пайна Как менялся стиль Криса Пайна

Как менялся стиль актера, который, кажется, родился в костюме-тройке

GQ
Две зацепки в деле Абызова и воздушный поцелуй: как Басманный суд отправил бывшего министра под арест Две зацепки в деле Абызова и воздушный поцелуй: как Басманный суд отправил бывшего министра под арест

Михаил Абызов ближайшие два месяца проведет под арестом

Forbes
Открыть в приложении