Случаи, в которых роботы пытаются заменить человека, но у них пока не получается

ForbesHi-Tech

Не только «Сбербанк»: пять самых эпичных ошибок искусственного интеллекта

Наглядные случаи, в которых роботы пытаются заменить человека, но у них пока не получается

Артем Гладких 

rtx6m61x.jpg__1551795657__23673.jpg
Фото Matthew Stock / REUTERS

Ошибки искусственного интеллекта на миллиарды рублей убытка стали самой громкой технологической новостью недели в России. Точная версия слов президента Сбербанка Германа Грефа остается предметом обсуждения, но стала поводом для того, чтобы вспомнить самые громкие случаи провалов ИИ.

Расизм и дискриминация

Корпорация Amazon, наряду с другими технологическими гигантами США, является одним из центров разработок в области искусственного интеллекта. В 2017 году компания закрыла экспериментальный проект по найму сотрудников на основе ИИ, который вела около трех лет. По словам представителей компании, в результате они ожидали получить некий «Святой Грааль», который мог бы отобрать пятерку лучших кандидатов из сотни резюме. Одной из ключевых проблем стала гендерная дискриминация кандидатов — алгоритм занижал оценки кандидатов-женщин, поскольку был обучен на прошлом десятилетнем опыте отбора кандидатов в Amazon, среди которых преобладали мужчины. Были и другие сложности: алгоритм нередко выдавал практически случайные результаты.

Применение алгоритмов в рекламных инструментах Facebook (соцсеть признана в РФ экстремистской и запрещена) привело к появлению предложений по группировке целевых аудиторий на основе такого признака, как антисемитизм. В 2016 году президенту Microsoft Research Питеру Ли пришлось извиняться за чат-бота Тау, который менее чем за сутки общения с пользователями Twitter научился расистским высказываниям. Проект был приостановлен.

Опасность на дороге

Распространение беспилотных автомобилей выглядит неизбежным будущим, однако еще не решены важные вопросы — например, этический выбор в опасных ситуациях. При этом сами тестовые испытания проходят с трагическими последствиями. Весной 2018 года Uber тестировала беспилотный автомобиль на базе одной из моделей Volvo на улицах города Темп в штате Аризона, США. Машина сбила женщину насмерть. Тестирование автопилота проводилось при сниженной чувствительности к распознанным опасным объектам, чтобы избежать ложных срабатываний. Когда порог чувствительности снижался, система видела опасные объекты там, где их не было.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Русский монгол Русский монгол

Его называют одним из самых известных современных импрессионистов

Караван историй
Как стать роковой женщиной: практическое руководство Как стать роковой женщиной: практическое руководство

Роковой женщиной может стать любая, достаточно следовать простым правилам

Psychologies

"Алита: боевой ангел": киборги сегодня и через 500 лет

Популярная механика
Один из них станет следующим Бондом: вместе выбираем одного из 13 лучших Один из них станет следующим Бондом: вместе выбираем одного из 13 лучших

Кто достоин стать следующим Бондом?

Playboy
«Начальник моложе меня»: как с этим смириться «Начальник моложе меня»: как с этим смириться

Представьте ситуацию: руководителем назначили того, кто ощутимо моложе вас

Psychologies
Практикуйте благодарность, чтобы изменить пищевые привычки Практикуйте благодарность, чтобы изменить пищевые привычки

Новый способ, помогающий улучшить пищевые привычки, — благодарность

Psychologies
Arkana появится в нужный момент Arkana появится в нужный момент

Выяснили у главного стратега французской марки в России, чего ждать дальше

Quattroruote
Шесть ненормальных правил нормальных отношений Шесть ненормальных правил нормальных отношений

Самые счастливые пары остаются вместе, поступая вопреки общепринятым нормам

Psychologies
Собчак против: все звезды, с которыми скандалила телеведущая Собчак против: все звезды, с которыми скандалила телеведущая

Список врагов Ксении Собчак пополняется с завидной регулярностью

Cosmopolitan
Регресс во благо: как заработает второй миллиард пионер индустрии беспилотных авто Регресс во благо: как заработает второй миллиард пионер индустрии беспилотных авто

Зачем бизнесмен Дэвид Холл решил упростить собственный продукт

Forbes
Нарциссизм — это норма? Нарциссизм — это норма?

Сегодня самолюбование становится нормой

Psychologies
Как продолжать жить с девушкой, когда вы расстались: жизненно важный гид Как продолжать жить с девушкой, когда вы расстались: жизненно важный гид

Что делать, если разъехаться сразу после расставания невозможно

Playboy
Разгружая Лас-Вегас. Маск построит в городе подземную систему для борьбы с пробками Разгружая Лас-Вегас. Маск построит в городе подземную систему для борьбы с пробками

Власти Лас-Вегаса хотят, чтобы Маск построил систему подземных туннелей

Forbes
Токсичный заряд Токсичный заряд

Кто и зачем перерабатывает батарейки и аккумуляторы

РБК
Почему балет дешевле футбола, а билеты на него — дороже? Почему балет дешевле футбола, а билеты на него — дороже?

Зарабатывают ли на гастролях лучшие балетные труппы мира

Forbes
Светлана Немоляева: У меня есть правило: я должна держать себя в форме Светлана Немоляева: У меня есть правило: я должна держать себя в форме

Интервью со Светланой Немоляевой

Лиза
Семь способов приблизиться к мечте Семь способов приблизиться к мечте

Несколько советов от Барбары Шер о том, как начать жить так, как вам нравится

Psychologies
Genesis G70: За что полюбили? Genesis G70: За что полюбили?

В Genesis поняли, как искать поклонников G70

АвтоМир
Реваз Юсупов: Зачем нужна цифровая маркировка сигарет Реваз Юсупов: Зачем нужна цифровая маркировка сигарет

С 1 марта в России введена обязательная электронная маркировка сигарет

СНОБ
Как выбрать хороший бинокль и не прогадать Как выбрать хороший бинокль и не прогадать

Руководство по выбору бинокля

CHIP
Один, совсем один: как выйти из этого состояния Один, совсем один: как выйти из этого состояния

Почему нас настигает состояние одиночества и как из него выбраться?

Psychologies
Дед «Джамбо-джет»: самый известный пассажирский самолет в мире Дед «Джамбо-джет»: самый известный пассажирский самолет в мире

Boeing 747 отметил в этом году полувековой юбилей

Популярная механика
Нам не дано предугадать Нам не дано предугадать

Люк Перри отписал все состояние своим детям

StarHit
Антикризисный пиар: как вывести компанию из-под удара Антикризисный пиар: как вывести компанию из-под удара

Что делать, если ваша компания оказалась в центре негативных событий

Forbes
Первые для второго Первые для второго

Как звезды строят отношения с детьми от прошлого брака

Лиза
Что такое жировая ткань и каковы ее функции Что такое жировая ткань и каковы ее функции

Для чего человеку нужны жировые прослойки?

СНОБ
«Зеленые» перспективы «Зеленые» перспективы

Как и когда в Москве ограничат движение неэкологичных автомобилей

АвтоМир
Тестируем светодиодные лампы: какая светит лучше? Тестируем светодиодные лампы: какая светит лучше?

Протестировали продукцию 8 популярных брендов светодиодных ламп

CHIP
9 продуктов, которые полезнее, чем кажутся 9 продуктов, которые полезнее, чем кажутся

Какие продукты незаслуженно занесены в черный список?

9 месяцев
Что умеют социальные сети Что умеют социальные сети

Как можно использовать возможности соцсетей

Лиза
Открыть в приложении