Случаи, в которых роботы пытаются заменить человека, но у них пока не получается

ForbesHi-Tech

Не только «Сбербанк»: пять самых эпичных ошибок искусственного интеллекта

Наглядные случаи, в которых роботы пытаются заменить человека, но у них пока не получается

Артем Гладких 

rtx6m61x.jpg__1551795657__23673.jpg
Фото Matthew Stock / REUTERS

Ошибки искусственного интеллекта на миллиарды рублей убытка стали самой громкой технологической новостью недели в России. Точная версия слов президента Сбербанка Германа Грефа остается предметом обсуждения, но стала поводом для того, чтобы вспомнить самые громкие случаи провалов ИИ.

Расизм и дискриминация

Корпорация Amazon, наряду с другими технологическими гигантами США, является одним из центров разработок в области искусственного интеллекта. В 2017 году компания закрыла экспериментальный проект по найму сотрудников на основе ИИ, который вела около трех лет. По словам представителей компании, в результате они ожидали получить некий «Святой Грааль», который мог бы отобрать пятерку лучших кандидатов из сотни резюме. Одной из ключевых проблем стала гендерная дискриминация кандидатов — алгоритм занижал оценки кандидатов-женщин, поскольку был обучен на прошлом десятилетнем опыте отбора кандидатов в Amazon, среди которых преобладали мужчины. Были и другие сложности: алгоритм нередко выдавал практически случайные результаты.

Применение алгоритмов в рекламных инструментах Facebook (соцсеть признана в РФ экстремистской и запрещена) привело к появлению предложений по группировке целевых аудиторий на основе такого признака, как антисемитизм. В 2016 году президенту Microsoft Research Питеру Ли пришлось извиняться за чат-бота Тау, который менее чем за сутки общения с пользователями Twitter научился расистским высказываниям. Проект был приостановлен.

Опасность на дороге

Распространение беспилотных автомобилей выглядит неизбежным будущим, однако еще не решены важные вопросы — например, этический выбор в опасных ситуациях. При этом сами тестовые испытания проходят с трагическими последствиями. Весной 2018 года Uber тестировала беспилотный автомобиль на базе одной из моделей Volvo на улицах города Темп в штате Аризона, США. Машина сбила женщину насмерть. Тестирование автопилота проводилось при сниженной чувствительности к распознанным опасным объектам, чтобы избежать ложных срабатываний. Когда порог чувствительности снижался, система видела опасные объекты там, где их не было.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Успокоительное прошлое: почему нас никак не отпустит ностальгия? Успокоительное прошлое: почему нас никак не отпустит ностальгия?

Почему в 2010-е общество пережило XX век и что заставляет нас возвращаться

РБК
Про детские как бы игры Про детские как бы игры

Лев Рубинштейн вспоминает, каким был досуг детей до изобретения компьютеров

GQ
7 бесплатных альтернатив Microsoft Office: офис без затрат 7 бесплатных альтернатив Microsoft Office: офис без затрат

Бесплатная замена Microsoft Office

CHIP
Как сохранить здоровый мозг вопреки возрасту Как сохранить здоровый мозг вопреки возрасту

Сохранить острый ум, несмотря на возраст, вполне реально

Psychologies
Глава из романа «Союз еврейских полисменов» Майкла Шейбона Глава из романа «Союз еврейских полисменов» Майкла Шейбона

Отрывок из «альтернативной истории независимого еврейского государства»

Esquire
Вирусы-гиганты в океане жизни Вирусы-гиганты в океане жизни

Самое громкое открытие в вирусологии недавних лет – обнаружение вирусов-гигантов

Популярная механика
4 странных способа предсказать погоду (и они работают!) 4 странных способа предсказать погоду (и они работают!)

Против всякой логики — это работает!

Playboy
Инвестор без сапог: как обувной гигант Zenden похоронил 100 млн рублей в Крыму Инвестор без сапог: как обувной гигант Zenden похоронил 100 млн рублей в Крыму

Андрей Павлов — один из самых ярых патриотов в российском бизнесе

Forbes
Эпоха, сгоревшая за 34 секунды: катастрофа «Гинденбурга» Эпоха, сгоревшая за 34 секунды: катастрофа «Гинденбурга»

Самый известный в мире дирижабль Hindenburg

Популярная механика
KEF’2019 Транспортный каркас страны KEF’2019 Транспортный каркас страны

Масштабные инвестиции в модернизацию и расширение транспортной инфраструктуры

Forbes
Audi Q8: Исполняющий обязанности Audi Q8: Исполняющий обязанности

Audi выпускает на рынок свой первый купе-кроссовер Q8

АвтоМир
Полугусеничные автомобили: хороший старт и скромный финиш Полугусеничные автомобили: хороший старт и скромный финиш

В начале ХХ века никто не сомневался в перспективах полугусеничной техники

Популярная механика
«Не зашло». Как выбрать фильм и не пожалеть? «Не зашло». Как выбрать фильм и не пожалеть?

Как выбрать фильм, чтобы не было больно за время, проведенное без удовольствия?

Psychologies
Без багажа: 5 городов, куда стоит полететь с рюкзаком Без багажа: 5 городов, куда стоит полететь с рюкзаком

Путешествие без чемодана реально и очень даже привлекательно

Cosmopolitan
Хорошо кончается Хорошо кончается

Мир меняется с космической скоростью, и интимная жизнь вместе с ним

Cosmopolitan
Как одеться в выходной весной Как одеться в выходной весной

Лениться нужно со вкусом

GQ
Валюта без спроса. Почему стоит ждать укрепления рубля? Валюта без спроса. Почему стоит ждать укрепления рубля?

В начале года реализовались риски для рубля

Forbes
Соль, медь и два бунта Соль, медь и два бунта

Управление доходами через дорогую соль и дешёвую медь привело к восстаниям

Дилетант
Муж бросил экс-солистку «Ранеток» Женю Огурцову с тяжелобольным ребенком Муж бросил экс-солистку «Ранеток» Женю Огурцову с тяжелобольным ребенком

Женя Огурцова откровенно рассказала о распавшейся семье

Cosmopolitan
Кто свободен Кто свободен

Иляна Эрднеева обсудила с Сергеем Светлаковым палитру современного юмора

Glamour
«Покидая Неверленд»: что думают о скандальном фильме Бородина, Глюкоза и другие «Покидая Неверленд»: что думают о скандальном фильме Бородина, Глюкоза и другие

Какой точки зрения придерживаются звезды относительно фильма «Покидая Неверленд»

Cosmopolitan
Бакальчук против Безоса: где Wildberries будет конкурировать с Amazon Бакальчук против Безоса: где Wildberries будет конкурировать с Amazon

Российский гигант e-commerce, похоже, собрался завоевывать Польшу

Forbes
Персиковый жилет Supreme и Stone Island можно носить в любом возрасте Персиковый жилет Supreme и Stone Island можно носить в любом возрасте

Вы оказались на границе двух вселенных – хайпбистов и Анатолия Вассермана

GQ
Анна Банщикова: «Женился на актрисе – терпи» Анна Банщикова: «Женился на актрисе – терпи»

Звезда сериала «Ищейка» и многодетная мама о страхах за наследников

StarHit
В Москве прошла презентация проекта Esquire Heroes В Москве прошла презентация проекта Esquire Heroes

Мероприятие Esquire Heroes, посвященное самым ярким новым героям 2019 года

Cosmopolitan
Альберта Ферретти и Ливия Ферт о совместной экоколлекции Альберта Ферретти и Ливия Ферт о совместной экоколлекции

Ливия Ферт морщится, когда слышит словосочетание «осознанная мода»

Vogue
Гостиная Гостиная

Пять примеров гостиных, типичных для России, Франции, Испании, Америки и Англии

AD
Тестируем светодиодные лампы: какая светит лучше? Тестируем светодиодные лампы: какая светит лучше?

Протестировали продукцию 8 популярных брендов светодиодных ламп

CHIP
Genesis G70: За что полюбили? Genesis G70: За что полюбили?

В Genesis поняли, как искать поклонников G70

АвтоМир
Из глубины: что снимает российская подводная суперкамера Из глубины: что снимает российская подводная суперкамера

Эта камера снимает только морские звезды, водоросли и неровности морского дна

Популярная механика
Открыть в приложении