Случаи, в которых роботы пытаются заменить человека, но у них пока не получается

ForbesHi-Tech

Не только «Сбербанк»: пять самых эпичных ошибок искусственного интеллекта

Наглядные случаи, в которых роботы пытаются заменить человека, но у них пока не получается

Артем Гладких 

rtx6m61x.jpg__1551795657__23673.jpg
Фото Matthew Stock / REUTERS

Ошибки искусственного интеллекта на миллиарды рублей убытка стали самой громкой технологической новостью недели в России. Точная версия слов президента Сбербанка Германа Грефа остается предметом обсуждения, но стала поводом для того, чтобы вспомнить самые громкие случаи провалов ИИ.

Расизм и дискриминация

Корпорация Amazon, наряду с другими технологическими гигантами США, является одним из центров разработок в области искусственного интеллекта. В 2017 году компания закрыла экспериментальный проект по найму сотрудников на основе ИИ, который вела около трех лет. По словам представителей компании, в результате они ожидали получить некий «Святой Грааль», который мог бы отобрать пятерку лучших кандидатов из сотни резюме. Одной из ключевых проблем стала гендерная дискриминация кандидатов — алгоритм занижал оценки кандидатов-женщин, поскольку был обучен на прошлом десятилетнем опыте отбора кандидатов в Amazon, среди которых преобладали мужчины. Были и другие сложности: алгоритм нередко выдавал практически случайные результаты.

Применение алгоритмов в рекламных инструментах Facebook привело к появлению предложений по группировке целевых аудиторий на основе такого признака, как антисемитизм. В 2016 году президенту Microsoft Research Питеру Ли пришлось извиняться за чат-бота Тау, который менее чем за сутки общения с пользователями Twitter научился расистским высказываниям. Проект был приостановлен.

Опасность на дороге

Распространение беспилотных автомобилей выглядит неизбежным будущим, однако еще не решены важные вопросы — например, этический выбор в опасных ситуациях. При этом сами тестовые испытания проходят с трагическими последствиями. Весной 2018 года Uber тестировала беспилотный автомобиль на базе одной из моделей Volvo на улицах города Темп в штате Аризона, США. Машина сбила женщину насмерть. Тестирование автопилота проводилось при сниженной чувствительности к распознанным опасным объектам, чтобы избежать ложных срабатываний. Когда порог чувствительности снижался, система видела опасные объекты там, где их не было.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Гламурная семейка Гламурная семейка

Кольцехвостые лемуры — настоящие звезды экрана

Вокруг света
Мини-пиги и мини-тигры: откуда берутся уменьшенные версии больших животных Мини-пиги и мини-тигры: откуда берутся уменьшенные версии больших животных

Тысячелетиями люди занимались селекцией животных

Популярная механика

"Алита: боевой ангел": киборги сегодня и через 500 лет

Популярная механика
Hyundai Elantra: Интерес к геометрии Hyundai Elantra: Интерес к геометрии

Что принес рестайлинг седану Hyundai Elantra?

АвтоМир
Сценарий жизни Сценарий жизни

Сергей Зиновьев о возможностях и перспективах digital–мозга

SALON-Interior
Война без особых причин Война без особых причин

Конфликт казаков с властями Речи Посполитой затянулся на долгие годы

Дилетант
Перемены неизбежны Перемены неизбежны

Мода будущего: одежда из 3D-принтера, отказ от меха и экзоскелеты

Grazia
Греческий Vogue перезапускается — с самым молодым главредом Греческий Vogue перезапускается — с самым молодым главредом

Кто она, 29-летняя Талия Карафиллиду?

Vogue
«Покидая Неверленд»: почему об этом заговорили только сейчас «Покидая Неверленд»: почему об этом заговорили только сейчас

Документальный фильм о сексуальных преступлениях поп-короля Майкла Джексона

Cosmopolitan
«Не кормите и не трогайте пеликанов»: фрагмент нового романа Андрея Аствацатурова «Не кормите и не трогайте пеликанов»: фрагмент нового романа Андрея Аствацатурова

Отрывок из главы «Мертвые опаснее живых» нового романа Андрея Аствацатурова

Esquire
«Сайлент Хилл», Припять и еще 6 городов-призраков «Сайлент Хилл», Припять и еще 6 городов-призраков

Некоторые из погибших городов остались практически неизменными

Cosmopolitan
Что подарить девушке на годовщину отношений? 18 самых лучших идей Что подарить девушке на годовщину отношений? 18 самых лучших идей

Каким должен быть подарок, который ей и понравится, и запомнится?

Playboy
Arkana появится в нужный момент Arkana появится в нужный момент

Выяснили у главного стратега французской марки в России, чего ждать дальше

Quattroruote
Как мы учились чистить зубы: почти 2 миллиона (!) лет проб и ошибок Как мы учились чистить зубы: почти 2 миллиона (!) лет проб и ошибок

Как менялись приспособления для чистки зубов

National Geographic
Папины дочки: 10 богатейших женщин мира Папины дочки: 10 богатейших женщин мира

Среди самых обеспеченных женщин мира по версии Forbes — новый лидер

Forbes
«На самом деле наша галактика очень пыльная» «На самом деле наша галактика очень пыльная»

Почему во вселенной так много порядка, а на Земле так мало?

Огонёк
12 причин отказаться от диет 12 причин отказаться от диет

В долгосрочной перспективе диеты бесполезны и вредны

Psychologies
По соображениям разума: как экономика предотвращает войну По соображениям разума: как экономика предотвращает войну

В XX веке между Индией и Пакистаном произошло немало кровопролитных столкновений

Forbes
Освобождение от господствующего строя. Временное Освобождение от господствующего строя. Временное

Как правильно тряхнуть телесным низом на Венецианском карнавале

Русский репортер
Демократы снова в деле Демократы снова в деле

Против президента США Дональда Трампа возобновлены расследования

РБК
Польза и вред витамина Е для организма мужчины: почему он необходим? Польза и вред витамина Е для организма мужчины: почему он необходим?

Важнейший компонент вашего организма, влияющий на многие органы

Playboy
Чудо-остров Чудо-остров

Ирина Безрукова об участии в шоу «Последний герой. Актёры против экстрасенсов»

OK!
Пузырь тишины: как защитить себя от шума Пузырь тишины: как защитить себя от шума

Присмотритесь к наушникам с активным шумоподавлением

Популярная механика
Не доводи до предела Не доводи до предела

Как помочь подростку разобраться в самом себе и уберечь его от ошибок

Лиза
Светлана Ганнушкина: «Приходится быть оптимистом» Светлана Ганнушкина: «Приходится быть оптимистом»

Почему «Гражданское содействие» — гордость России, а не иноагент

Русский репортер
Как быстро убрать засос в домашних условиях: 12 верных способов Как быстро убрать засос в домашних условиях: 12 верных способов

Страсть — это, конечно, хорошо, но синяки точно никому не нужны

Playboy
Из рук в руки Из рук в руки

15 лет российского футбола в историях пяти клубов

Forbes
Михаил Башкатов «Что я делаю лучше всего? Сыновей» Михаил Башкатов «Что я делаю лучше всего? Сыновей»

Актер признался, что обожает помедитировать, когда моет посуду

StarHit
Своя игра Своя игра

Шарлотта Бильтген готова к компромиссам с заказчиком

AD
На русском глобусе климата нет. Подростков и прессы тоже На русском глобусе климата нет. Подростков и прессы тоже

По миру прокатились многотысячные детские экологические митинги

СНОБ
Открыть в приложении