Случаи, в которых роботы пытаются заменить человека, но у них пока не получается

ForbesHi-Tech

Не только «Сбербанк»: пять самых эпичных ошибок искусственного интеллекта

Наглядные случаи, в которых роботы пытаются заменить человека, но у них пока не получается

Артем Гладких 

rtx6m61x.jpg__1551795657__23673.jpg
Фото Matthew Stock / REUTERS

Ошибки искусственного интеллекта на миллиарды рублей убытка стали самой громкой технологической новостью недели в России. Точная версия слов президента Сбербанка Германа Грефа остается предметом обсуждения, но стала поводом для того, чтобы вспомнить самые громкие случаи провалов ИИ.

Расизм и дискриминация

Корпорация Amazon, наряду с другими технологическими гигантами США, является одним из центров разработок в области искусственного интеллекта. В 2017 году компания закрыла экспериментальный проект по найму сотрудников на основе ИИ, который вела около трех лет. По словам представителей компании, в результате они ожидали получить некий «Святой Грааль», который мог бы отобрать пятерку лучших кандидатов из сотни резюме. Одной из ключевых проблем стала гендерная дискриминация кандидатов — алгоритм занижал оценки кандидатов-женщин, поскольку был обучен на прошлом десятилетнем опыте отбора кандидатов в Amazon, среди которых преобладали мужчины. Были и другие сложности: алгоритм нередко выдавал практически случайные результаты.

Применение алгоритмов в рекламных инструментах Facebook (соцсеть признана в РФ экстремистской и запрещена) привело к появлению предложений по группировке целевых аудиторий на основе такого признака, как антисемитизм. В 2016 году президенту Microsoft Research Питеру Ли пришлось извиняться за чат-бота Тау, который менее чем за сутки общения с пользователями Twitter научился расистским высказываниям. Проект был приостановлен.

Опасность на дороге

Распространение беспилотных автомобилей выглядит неизбежным будущим, однако еще не решены важные вопросы — например, этический выбор в опасных ситуациях. При этом сами тестовые испытания проходят с трагическими последствиями. Весной 2018 года Uber тестировала беспилотный автомобиль на базе одной из моделей Volvo на улицах города Темп в штате Аризона, США. Машина сбила женщину насмерть. Тестирование автопилота проводилось при сниженной чувствительности к распознанным опасным объектам, чтобы избежать ложных срабатываний. Когда порог чувствительности снижался, система видела опасные объекты там, где их не было.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

8 постельных кино-сцен, которые лучше не повторять в реальной жизни 8 постельных кино-сцен, которые лучше не повторять в реальной жизни

Тот случай, когда сто раз увидеть все-таки лучше, чем один раз попробовать

Maxim
Особенные машины: советская школа танкостроения Особенные машины: советская школа танкостроения

Школа танкостроения СССР всегда шла самобытным путем

Популярная механика
Есть, чего ждать: самые ожидаемые смартфоны 2019 года Есть, чего ждать: самые ожидаемые смартфоны 2019 года

Какие телефоны мы с особым нетерпением ждем в 2019 году

CHIP
Обзор игры Kingdom Hearts 3: милая ролевая для PS4 Обзор игры Kingdom Hearts 3: милая ролевая для PS4

Несмотря на всю няшность игры, Kingdom Hearts 3 оказалась довольно сложной RPG

CHIP
Цифровой прорыв: как компании привлекают женщин в ИТ Цифровой прорыв: как компании привлекают женщин в ИТ

Гендерный баланс положительно сказывается на бизнес-показателях

Forbes
Рай на Земле: названы самые счастливые и несчастные страны мира Рай на Земле: названы самые счастливые и несчастные страны мира

В рейтинге World Happiness Report 2019 лидирует Финляндия

Forbes
25 модных ошибок на свадьбе 25 модных ошибок на свадьбе

Учитесь на чужих просчетах, чтобы не захотелось сбежать с собственной церемонии

Vogue
Наполеоновские планы Наполеоновские планы

В этих отелях жили наследники Луи Вюиттона и останавливался Сальвадор Дали

GQ
Эльвира Галимова: Эльвира Галимова:

Cosmopolitan пообщался с Эльвирой Галимовой

Cosmopolitan
Клей нации. Как присоединение Крыма раскалывает общество Клей нации. Как присоединение Крыма раскалывает общество

Крым стал рутиной и в то же время расколол нацию, склеенную одним мифом

Forbes
Вы не видите инопланетян? А они есть, говорят астрофизики Вы не видите инопланетян? А они есть, говорят астрофизики

Компьютерное моделирование эволюции галактики позволяет разрешить парадокс Ферми

Forbes
Проверка на прочность Проверка на прочность

В судьбе человека заложены как минимум три кризиса, которых невозможно избежать

Лиза
По образу и подобию. Кому можно доверить франшизу своего бизнеса По образу и подобию. Кому можно доверить франшизу своего бизнеса

О бизнесменах, с которыми договор франшизы лучше заключать с осторожностью

Forbes
«Я никогда не стремился быть богатым» «Я никогда не стремился быть богатым»

Алексей Мордашов вспоминает вместе с нами прошедшие пятнадцать лет

Forbes
Гастроэнтерология — это не страшно Гастроэнтерология — это не страшно

Что с вами может случиться в кабинете гастроэнтеролога и почему не стоит бояться

Популярная механика
«Холодное сердце»: как снова стать собой, если чувства заморожены «Холодное сердце»: как снова стать собой, если чувства заморожены

Быть собой — казалось бы, чего уж проще. Чувствуй, мечтай, живи

Psychologies
Почетные кости Почетные кости

Советская агиткость из коллекции Александра Добровинского

The Rake
Спасаем аллергиков: 7 устройств, с которыми легче дышится Спасаем аллергиков: 7 устройств, с которыми легче дышится

Подборка устройств, которые помогут спрятаться от аллергии

CHIP
Остаться людьми Остаться людьми

Экстрасенсы и актеры рассказывают о том, что им помогает выжить на острове

StarHit
Вафля на «полторашку» Вафля на «полторашку»

В Москве начнут штрафовать за выезд на перекресток, если образовалась пробка

АвтоМир
Кроссовки дня: кеды-таби Maison Margiela как пример андеграундного дизайна, который эпатирует вот уже 30 лет подряд Кроссовки дня: кеды-таби Maison Margiela как пример андеграундного дизайна, который эпатирует вот уже 30 лет подряд

Чем примечательны кеды-таби

Esquire
Летающий автомат Калашникова: МиГ-21 Летающий автомат Калашникова: МиГ-21

В воздушном бою индийский истребитель МиГ-21 Bison сбил пакистанский F-16

Популярная механика
Новое чувство Новое чувство

Интервью с Юлией Ковальчук

Домашний Очаг
На другую планету в поисках себя На другую планету в поисках себя

Всего пять часов, и вы уже там, на планете под названием Дубай

Psychologies
Венеция мечты Венеция мечты

Идеальным этот город в Италии бывает не всегда

Лиза
Прожектор Shortparis Прожектор Shortparis

Встреча в фуд-корте с главной авангардной группой поколения Shortparis

Esquire
Диета молодости Диета молодости

«Включите» гены, которые отвечают за молодость

Домашний Очаг
Как всегда! Как всегда!

Женевский автосалон по-прежнему многолюден и насыщен яркими новинками

АвтоМир
Сможет ли Илон Маск выпускать миллион Tesla Model Y в год? Сможет ли Илон Маск выпускать миллион Tesla Model Y в год?

Недавно намерения выпускать электромобиль миллионными тиражами вызывали улыбку

Forbes
Зачем женщины идут работать военными репортерами Зачем женщины идут работать военными репортерами

Мэри Колвин об опасной профессии военного журналиста

Vogue
Открыть в приложении