Случаи, в которых роботы пытаются заменить человека, но у них пока не получается

ForbesHi-Tech

Не только «Сбербанк»: пять самых эпичных ошибок искусственного интеллекта

Наглядные случаи, в которых роботы пытаются заменить человека, но у них пока не получается

Артем Гладких 

rtx6m61x.jpg__1551795657__23673.jpg
Фото Matthew Stock / REUTERS

Ошибки искусственного интеллекта на миллиарды рублей убытка стали самой громкой технологической новостью недели в России. Точная версия слов президента Сбербанка Германа Грефа остается предметом обсуждения, но стала поводом для того, чтобы вспомнить самые громкие случаи провалов ИИ.

Расизм и дискриминация

Корпорация Amazon, наряду с другими технологическими гигантами США, является одним из центров разработок в области искусственного интеллекта. В 2017 году компания закрыла экспериментальный проект по найму сотрудников на основе ИИ, который вела около трех лет. По словам представителей компании, в результате они ожидали получить некий «Святой Грааль», который мог бы отобрать пятерку лучших кандидатов из сотни резюме. Одной из ключевых проблем стала гендерная дискриминация кандидатов — алгоритм занижал оценки кандидатов-женщин, поскольку был обучен на прошлом десятилетнем опыте отбора кандидатов в Amazon, среди которых преобладали мужчины. Были и другие сложности: алгоритм нередко выдавал практически случайные результаты.

Применение алгоритмов в рекламных инструментах Facebook (соцсеть признана в РФ экстремистской и запрещена) привело к появлению предложений по группировке целевых аудиторий на основе такого признака, как антисемитизм. В 2016 году президенту Microsoft Research Питеру Ли пришлось извиняться за чат-бота Тау, который менее чем за сутки общения с пользователями Twitter научился расистским высказываниям. Проект был приостановлен.

Опасность на дороге

Распространение беспилотных автомобилей выглядит неизбежным будущим, однако еще не решены важные вопросы — например, этический выбор в опасных ситуациях. При этом сами тестовые испытания проходят с трагическими последствиями. Весной 2018 года Uber тестировала беспилотный автомобиль на базе одной из моделей Volvo на улицах города Темп в штате Аризона, США. Машина сбила женщину насмерть. Тестирование автопилота проводилось при сниженной чувствительности к распознанным опасным объектам, чтобы избежать ложных срабатываний. Когда порог чувствительности снижался, система видела опасные объекты там, где их не было.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как прокачать память, работая с телом? Как прокачать память, работая с телом?

Отличный повод прокачать когнитивные функции

Psychologies
6 самых частых ошибок, которые ты допускаешь после похода в спортзал 6 самых частых ошибок, которые ты допускаешь после похода в спортзал

Вещи, которые ты делаешь после тренировки, могут повредить твоему прогрессу

Playboy
Есть, чего ждать: самые ожидаемые смартфоны 2019 года Есть, чего ждать: самые ожидаемые смартфоны 2019 года

Какие телефоны мы с особым нетерпением ждем в 2019 году

CHIP
Mazda3: Пока держится Mazda3: Пока держится

Второе поколение Mazda3 нас слегка усыпило беспроблемностью

АвтоМир
9 мужских наручных часов, которые стоят, как маленький остров (а так и не скажешь) 9 мужских наручных часов, которые стоят, как маленький остров (а так и не скажешь)

Не все то дорого, что с бриллиантами

Playboy
Именем короля Именем короля

Что же скрыто среди тысячи слоев «Наполеона»

Добрые советы
Ледилайк: 12 главных образов весны в самом женственном стиле Ледилайк: 12 главных образов весны в самом женственном стиле

В чем пойти на работу, собеседование, важную встречу?

Cosmopolitan
Мастера Богатырёвы Мастера Богатырёвы

Икона из Верх-Нейвинска: с четырьмя сюжетами, вся покрытая трещинами

Дилетант
Три сестры Три сестры

Сестры-музыканты из лос-анджелесского трио Haim

Vogue
Го играть: 6 очень крутых положительных эффектов видеоигр (спасибо, Господи!) Го играть: 6 очень крутых положительных эффектов видеоигр (спасибо, Господи!)

Го играть: 6 очень крутых положительных эффектов видеоигр (спасибо, Господи!)

Playboy
Каким был Александр Маккуин: воспоминания близких и режиссеров, снявших о дизайнере фильм Каким был Александр Маккуин: воспоминания близких и режиссеров, снявших о дизайнере фильм

Esquire составил портрет великого дизайнера Александра Маккуина

Esquire
6 вопросов, которые мать должна задать дочери 6 вопросов, которые мать должна задать дочери

Как помочь своей дочери найти правильное решение

Psychologies
Время единорогов. Как в Рунете создается бизнес стоимостью $1 млрд Время единорогов. Как в Рунете создается бизнес стоимостью $1 млрд

Российские интернет-компании разрастаются в крупные экосистемы

Forbes
«Громкая связь»: MAXIM посмотрел новый фильм «Квартета И» и хочет выговориться «Громкая связь»: MAXIM посмотрел новый фильм «Квартета И» и хочет выговориться

«Громкая связь»: MAXIM посмотрел новый фильм «Квартета И» и хочет выговориться

Maxim
Байкер-революционер Байкер-революционер

Самая негероическая биография Че Гевары — история не революции, но дружбы

Дилетант
Сибирский богатырь Сибирский богатырь

Что смотреть и чем заняться в Красноярске

Лиза
Как Виталий Пономарев создал стартап стоимостью $500 млн и сможет ли продлить жизнь людей Как Виталий Пономарев создал стартап стоимостью $500 млн и сможет ли продлить жизнь людей

Основатель и генеральный директор WayRay занялся проблемой долголетия

Forbes
Новый белорусский Новый белорусский

Как покорить iTunes, выпустить альбом и отправиться в тур по России

Glamour
Как построить бизнес на хобби? Как построить бизнес на хобби?

Разговор с CEO единого фитнес-абонемента FITMOST Александрой Герасимовой

Cosmopolitan
Что будет, если поднести к глазу пылесос? Отбрасываем мифы, оставляем факты Что будет, если поднести к глазу пылесос? Отбрасываем мифы, оставляем факты

Что случится с глазом, если поднести к нему включенный пылесос?

Playboy
Сколько стоит ваше время? Сколько стоит ваше время?

Как научиться ценить свои усилия и почему часы и минуты дороже рублей?

Psychologies
«Все хорошо, только дел невпроворот». Так ли это на самом деле? «Все хорошо, только дел невпроворот». Так ли это на самом деле?

Если у вас слишком много дел, не пора ли пересмотреть свое отношение к жизни?

Psychologies
Танец для себя Танец для себя

37‑летняя Натали Портман открывает себя заново

Glamour
Тина Паллада Тина Паллада

Тина Канделаки – о стиле, харассменте и телевидении

Cosmopolitan
Как общаться с девушкой в «ВК»: темы для разговоров, лайфхаки и ошибки Как общаться с девушкой в «ВК»: темы для разговоров, лайфхаки и ошибки

Проверь привлекательность своего профиля

Playboy
«Наденем дождевик, возьмем зонтик». Миллиардер Алексей Репик о санкциях, участии бизнеса в нацпроектах и сверхпотреблении богатых «Наденем дождевик, возьмем зонтик». Миллиардер Алексей Репик о санкциях, участии бизнеса в нацпроектах и сверхпотреблении богатых

Алексей Репик рассказал, чего бизнес ждет от власти

Forbes
Обзор Nokia 7.1: хороший смартфон среднего класса Обзор Nokia 7.1: хороший смартфон среднего класса

Тестируем смартфон Nokia 7.1 на Android One

CHIP
Porsсhe 911. Чистейшее техно Porsсhe 911. Чистейшее техно

Porsсhe 911. Чистейшее техно

АвтоМир
Хак ми тендер. Как кража персональных данных становится самым распространенным преступлением Хак ми тендер. Как кража персональных данных становится самым распространенным преступлением

Границ безопасности для современного человека фактически не осталось

СНОБ
Алиса Фрейндлих. Очень личное Алиса Фрейндлих. Очень личное

Алиса Фрейндлих и ее исторический приход в БДТ

СНОБ
Открыть в приложении