Не только «Сбербанк»: пять самых эпичных ошибок искусственного интеллекта

Случаи, в которых роботы пытаются заменить человека, но у них пока не получается

ForbesHi-Tech

Не только «Сбербанк»: пять самых эпичных ошибок искусственного интеллекта

Наглядные случаи, в которых роботы пытаются заменить человека, но у них пока не получается

Артем Гладких 

rtx6m61x.jpg__1551795657__23673.jpg
Фото Matthew Stock / REUTERS

Ошибки искусственного интеллекта на миллиарды рублей убытка стали самой громкой технологической новостью недели в России. Точная версия слов президента Сбербанка Германа Грефа остается предметом обсуждения, но стала поводом для того, чтобы вспомнить самые громкие случаи провалов ИИ.

Расизм и дискриминация

Корпорация Amazon, наряду с другими технологическими гигантами США, является одним из центров разработок в области искусственного интеллекта. В 2017 году компания закрыла экспериментальный проект по найму сотрудников на основе ИИ, который вела около трех лет. По словам представителей компании, в результате они ожидали получить некий «Святой Грааль», который мог бы отобрать пятерку лучших кандидатов из сотни резюме. Одной из ключевых проблем стала гендерная дискриминация кандидатов — алгоритм занижал оценки кандидатов-женщин, поскольку был обучен на прошлом десятилетнем опыте отбора кандидатов в Amazon, среди которых преобладали мужчины. Были и другие сложности: алгоритм нередко выдавал практически случайные результаты.

Применение алгоритмов в рекламных инструментах Facebook привело к появлению предложений по группировке целевых аудиторий на основе такого признака, как антисемитизм. В 2016 году президенту Microsoft Research Питеру Ли пришлось извиняться за чат-бота Тау, который менее чем за сутки общения с пользователями Twitter научился расистским высказываниям. Проект был приостановлен.

Опасность на дороге

Распространение беспилотных автомобилей выглядит неизбежным будущим, однако еще не решены важные вопросы — например, этический выбор в опасных ситуациях. При этом сами тестовые испытания проходят с трагическими последствиями. Весной 2018 года Uber тестировала беспилотный автомобиль на базе одной из моделей Volvo на улицах города Темп в штате Аризона, США. Машина сбила женщину насмерть. Тестирование автопилота проводилось при сниженной чувствительности к распознанным опасным объектам, чтобы избежать ложных срабатываний. Когда порог чувствительности снижался, система видела опасные объекты там, где их не было.

Авторизуйтесь и читайте статьи из популярных журналов

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Великая Пермская революция: как чиновники, бизнесмены и культурные деятели меняли Пермь — и что из этого вышло Великая Пермская революция: как чиновники, бизнесмены и культурные деятели меняли Пермь — и что из этого вышло

Forbes Life поговорил с ключевыми участниками пермской культурной революции

Forbes, октябрь'19
Опыт читателя: как я апгрейдил компьютер без интернета в 90-х годах Опыт читателя: как я апгрейдил компьютер без интернета в 90-х годах

Насколько сложно было провести апгрейд компьютера в конце прошлого века

CHIP, сентябрь'19
Что такое скрытый стресс, чем он опасен и как с ним бороться Что такое скрытый стресс, чем он опасен и как с ним бороться

Откуда берется стресс, если в жизни все хорошо?

Women’s Health, август'19
100 лайфхаков красоты 100 лайфхаков красоты

Бьюти-эксперты раскрывают свои профессиональные секреты

Домашний Очаг, апрель'19
Короли кэша: 10 миллиардеров с наибольшими доходами. Рейтинг Forbes Короли кэша: 10 миллиардеров с наибольшими доходами. Рейтинг Forbes

Миллиардеры, которые в 2018 году заработали в общей сложности более $11 млрд

Forbes, март'19
Александр Петров: «Моя профессия - артист, и основная работа - играть в театре Александр Петров: «Моя профессия - артист, и основная работа - играть в театре

Александр Петров рассказал о том, как пришла идея открыть свой отель

Cosmopolitan, март'19
Отчетливый школьный привкус Отчетливый школьный привкус

Школьная столовка стала символом невкусной еды

Огонёк, март'19
Кроссовки дня: кеды-таби Maison Margiela как пример андеграундного дизайна, который эпатирует вот уже 30 лет подряд Кроссовки дня: кеды-таби Maison Margiela как пример андеграундного дизайна, который эпатирует вот уже 30 лет подряд

Чем примечательны кеды-таби

Esquire, март'19
Genesis G70: За что полюбили? Genesis G70: За что полюбили?

В Genesis поняли, как искать поклонников G70

АвтоМир, март'19
Частное станет явным Частное станет явным

Прогноз экспертов: мы вступаем в эпоху «конца приватности»

Огонёк, март'19
Без конвоя Без конвоя

Калифорнийский стартап строит грузовые дроны для полетов на все континенты

Популярная механика, апрель'19
Вызов гравитации Вызов гравитации

Как научиться удерживаться в стойке на руках без труда

Yoga Journal, апрель'19
Промышленники и Дуров: 10 самых разбогатевших российских миллиардеров Промышленники и Дуров: 10 самых разбогатевших российских миллиардеров

Нефтяники, газовики и металлурги — наиболее удачливые бизнесмены в списке Forbes

Forbes, март'19
Короли Уолл-стрит. Самые успешные трейдеры по версии Forbes Короли Уолл-стрит. Самые успешные трейдеры по версии Forbes

Заработать смогли те трейдеры, который полагаются на математические модели

Forbes, март'19
«Бюджетники беззащитны перед госаппаратом» «Бюджетники беззащитны перед госаппаратом»

Власть заявила о намерении сократить число чиновников

Огонёк, март'19
На Мосбирже появится возможность инвестировать в индекс ведущих компаний США На Мосбирже появится возможность инвестировать в индекс ведущих компаний США

На Мосбирже появятся биржевые ПИФы, отслеживающие динамику индекса S&P 500

Forbes, март'19
Алекперов рассказал о плюсах продажи алкоголя на АЗС Алекперов рассказал о плюсах продажи алкоголя на АЗС

Продажа алкогольных напитков на заправках поможет сгладить скачки цен на бензин

Forbes, март'19
Игра престолов. Финал Игра престолов. Финал

Самая ожидаемая премьера этой весны состоится 14 апреля (в России 15 апреля)

Playboy, март'19
Любимые мужчины Юлии Началовой не приходили к ней в больницу Любимые мужчины Юлии Началовой не приходили к ней в больницу

38-летняя Юлия Началова не могла оплатить свое лечение

Cosmopolitan, март'19
Они все простят: как автомобили Subaru позволяют водителю ошибаться Они все простят: как автомобили Subaru позволяют водителю ошибаться

Система безопасности EyeSight в новых Subaru

National Geographic, март'19
По следам Гензеля и Гретель По следам Гензеля и Гретель

В этих умиротворяющих и трогательно милых пейзажах чувствуешь себя героем сказок

Quattroruote, апрель'19
Не успеваем в роддом! Не успеваем в роддом!

Пошаговая инструкция, как принять роды

9 месяцев, март'19
«Борьба за порядок превратилась в источник дохода» «Борьба за порядок превратилась в источник дохода»

«Огонек» заинтересовался деталями сложившейся репрессивной системы

Огонёк, март'19
Челюсти из опала: как открыли уиуорразавров Челюсти из опала: как открыли уиуорразавров

В Австралии случайно был открыт динозавр нового вида

National Geographic, март'19
Вы хотите похудеть... для чего? Вы хотите похудеть... для чего?

За желанием похудеть обычно стоит нечто большее

Psychologies, март'19
Можно ли клонировать мамонта: эксперимент Японии и России Можно ли клонировать мамонта: эксперимент Японии и России

Как вернуть жизнь зверю, который погиб 28 000 лет назад?

National Geographic, март'19
«Капитан Марвел» – феминистическая передышка в ожидании финала «Мстителей» «Капитан Марвел» – феминистическая передышка в ожидании финала «Мстителей»

Революцию силами Капитана Марвел совершить не удалось

GQ, март'19
6 выставок, на которые стоит сходить в марте 6 выставок, на которые стоит сходить в марте

Модный Пепперштейн в «Гараже, каноничный Репин в Третьяковке

GQ, март'19
Рокировка «Ноль Первого» Рокировка «Ноль Первого»

Отставка президента Казахстана запустила транзит верховной власти в стране

Эксперт, март'19
11 доказанных наукой причин, почему человек влюбляется (почему эта фигня происходит!) 11 доказанных наукой причин, почему человек влюбляется (почему эта фигня происходит!)

В чем заключаются причины влюбленности

Playboy, март'19