Случаи, в которых роботы пытаются заменить человека, но у них пока не получается

ForbesHi-Tech

Не только «Сбербанк»: пять самых эпичных ошибок искусственного интеллекта

Наглядные случаи, в которых роботы пытаются заменить человека, но у них пока не получается

Артем Гладких 

rtx6m61x.jpg__1551795657__23673.jpg
Фото Matthew Stock / REUTERS

Ошибки искусственного интеллекта на миллиарды рублей убытка стали самой громкой технологической новостью недели в России. Точная версия слов президента Сбербанка Германа Грефа остается предметом обсуждения, но стала поводом для того, чтобы вспомнить самые громкие случаи провалов ИИ.

Расизм и дискриминация

Корпорация Amazon, наряду с другими технологическими гигантами США, является одним из центров разработок в области искусственного интеллекта. В 2017 году компания закрыла экспериментальный проект по найму сотрудников на основе ИИ, который вела около трех лет. По словам представителей компании, в результате они ожидали получить некий «Святой Грааль», который мог бы отобрать пятерку лучших кандидатов из сотни резюме. Одной из ключевых проблем стала гендерная дискриминация кандидатов — алгоритм занижал оценки кандидатов-женщин, поскольку был обучен на прошлом десятилетнем опыте отбора кандидатов в Amazon, среди которых преобладали мужчины. Были и другие сложности: алгоритм нередко выдавал практически случайные результаты.

Применение алгоритмов в рекламных инструментах Facebook (соцсеть признана в РФ экстремистской и запрещена) привело к появлению предложений по группировке целевых аудиторий на основе такого признака, как антисемитизм. В 2016 году президенту Microsoft Research Питеру Ли пришлось извиняться за чат-бота Тау, который менее чем за сутки общения с пользователями Twitter научился расистским высказываниям. Проект был приостановлен.

Опасность на дороге

Распространение беспилотных автомобилей выглядит неизбежным будущим, однако еще не решены важные вопросы — например, этический выбор в опасных ситуациях. При этом сами тестовые испытания проходят с трагическими последствиями. Весной 2018 года Uber тестировала беспилотный автомобиль на базе одной из моделей Volvo на улицах города Темп в штате Аризона, США. Машина сбила женщину насмерть. Тестирование автопилота проводилось при сниженной чувствительности к распознанным опасным объектам, чтобы избежать ложных срабатываний. Когда порог чувствительности снижался, система видела опасные объекты там, где их не было.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Человек и салат: 9 мифов о Юлии Цезаре Человек и салат: 9 мифов о Юлии Цезаре

Правда и мифы о Юлии Цезаре

Вокруг света
#Земное>небесное #Земное>небесное

Как устроена жизнь между блогом и Богом

Русский репортер
7 бесплатных альтернатив Microsoft Office: офис без затрат 7 бесплатных альтернатив Microsoft Office: офис без затрат

Бесплатная замена Microsoft Office

CHIP
«Это управляемая передача власти»: экономисты о том, что значит уход Назарбаева для России «Это управляемая передача власти»: экономисты о том, что значит уход Назарбаева для России

Что отставка Нурсултана Назарбаева значит для бизнеса и экономики России

Forbes
Антикризисный пиар: как вывести компанию из-под удара Антикризисный пиар: как вывести компанию из-под удара

Что делать, если ваша компания оказалась в центре негативных событий

Forbes
Мицеллярная вода: что мы о ней знаем и какую выбрать Мицеллярная вода: что мы о ней знаем и какую выбрать

Какая мицеллярная вода подойдет тебе

Cosmopolitan
Один день: что происходило в Москве и мире 29 марта 2010 года Один день: что происходило в Москве и мире 29 марта 2010 года

Хроника одного дня, который мог остаться обычным, если бы не произошла трагедия

Esquire
Из глубины: что снимает российская подводная суперкамера Из глубины: что снимает российская подводная суперкамера

Эта камера снимает только морские звезды, водоросли и неровности морского дна

Популярная механика
На своей волне На своей волне

Тель-Авив живет в свое удовольствие. Это нам по душе

Лиза
Лукавые цифры: что скрывают данные о доходах в России Лукавые цифры: что скрывают данные о доходах в России

Почему статистические данные не отражают реальных показателей доходов населения

Forbes
Наценка или скидка? Наценка или скидка?

Насколько справедливо страховые компании относятся к прекрасным дамам за рулем

АвтоМир
Esquire Heroes: вечеринка, на которой вы узнаете имена, которые нужно запомнить Esquire Heroes: вечеринка, на которой вы узнаете имена, которые нужно запомнить

22 марта на одной из станций московского метрополитена Esquire устроит вечеринку

Cosmopolitan
Голосовые практики осознанности Голосовые практики осознанности

Три медитации на звук

Yoga Journal
Как всегда! Как всегда!

Женевский автосалон по-прежнему многолюден и насыщен яркими новинками

АвтоМир
5 услуг, которые мы не решаемся отключить и покорно платим 5 услуг, которые мы не решаемся отключить и покорно платим

Есть ли коммунальные услуги, за которые можно безболезненно не платить?

CHIP
Станционный смотритель Станционный смотритель

Дизайнер и галерист поселился в здании бывшей железнодорожной станции

AD
Социальное равенство: как преодолеть скрытые предрассудки Социальное равенство: как преодолеть скрытые предрассудки

Замечать различия между людьми — естественное свойство человека

Psychologies
Дед «Джамбо-джет»: самый известный пассажирский самолет в мире Дед «Джамбо-джет»: самый известный пассажирский самолет в мире

Boeing 747 отметил в этом году полувековой юбилей

Популярная механика
Проблемы есть у всех. Вопрос, как вы с ними справляетесь Проблемы есть у всех. Вопрос, как вы с ними справляетесь

Как вы справляетесь с трудностями

Psychologies
Территория сновидений Территория сновидений

Какие важные детали помогут превратить спальню в романтический уголок

Лиза
От бедра От бедра

Финалистка шоу «Топ-модель по-американски» обманывала своих поклонников

StarHit
Почетные кости Почетные кости

Советская агиткость из коллекции Александра Добровинского

The Rake
Мама в роли лучшей подруги — хорошо ли это? Мама в роли лучшей подруги — хорошо ли это?

Близкие отношения с родителями считаются идеалом, к которому стремится семья

Psychologies
Капитан пустыни Капитан пустыни

Жизнь погонщика верблюдов в марокканских песках похожа на жизнь моряка

Вокруг света
Стоит ли женщинам горевать из-за развода? Стоит ли женщинам горевать из-за развода?

Женщины чаще относятся к расставанию как к катастрофе

Psychologies
Цена крымской загогулины. Экономист Алексашенко о том, во сколько обошлось России присоединение полуострова Цена крымской загогулины. Экономист Алексашенко о том, во сколько обошлось России присоединение полуострова

Отрывки из главы книги «Русское экономическое чудо: что пошло не так?»

Forbes
Отвращение к любому реформаторству Отвращение к любому реформаторству

Кто готовил путч и закон о свободной торговле

Русский репортер
Четыре восьмых Четыре восьмых

Skoda Octavia появилась на свет... А вот и не в 1990-х

Quattroruote
Волонтерство как вторая работа: зачем оно вам? Волонтерство как вторая работа: зачем оно вам?

В России насчитывается около 7 миллионов волонтеров

Psychologies
Древние люди и новые технологии: как Ли Бергер использовал все средства в поисках предков человека Древние люди и новые технологии: как Ли Бергер использовал все средства в поисках предков человека

Как за счет технологий привлечь финансирование в научное исследование

Forbes
Открыть в приложении