Случаи, в которых роботы пытаются заменить человека, но у них пока не получается

ForbesHi-Tech

Не только «Сбербанк»: пять самых эпичных ошибок искусственного интеллекта

Наглядные случаи, в которых роботы пытаются заменить человека, но у них пока не получается

Артем Гладких 

rtx6m61x.jpg__1551795657__23673.jpg
Фото Matthew Stock / REUTERS

Ошибки искусственного интеллекта на миллиарды рублей убытка стали самой громкой технологической новостью недели в России. Точная версия слов президента Сбербанка Германа Грефа остается предметом обсуждения, но стала поводом для того, чтобы вспомнить самые громкие случаи провалов ИИ.

Расизм и дискриминация

Корпорация Amazon, наряду с другими технологическими гигантами США, является одним из центров разработок в области искусственного интеллекта. В 2017 году компания закрыла экспериментальный проект по найму сотрудников на основе ИИ, который вела около трех лет. По словам представителей компании, в результате они ожидали получить некий «Святой Грааль», который мог бы отобрать пятерку лучших кандидатов из сотни резюме. Одной из ключевых проблем стала гендерная дискриминация кандидатов — алгоритм занижал оценки кандидатов-женщин, поскольку был обучен на прошлом десятилетнем опыте отбора кандидатов в Amazon, среди которых преобладали мужчины. Были и другие сложности: алгоритм нередко выдавал практически случайные результаты.

Применение алгоритмов в рекламных инструментах Facebook (соцсеть признана в РФ экстремистской и запрещена) привело к появлению предложений по группировке целевых аудиторий на основе такого признака, как антисемитизм. В 2016 году президенту Microsoft Research Питеру Ли пришлось извиняться за чат-бота Тау, который менее чем за сутки общения с пользователями Twitter научился расистским высказываниям. Проект был приостановлен.

Опасность на дороге

Распространение беспилотных автомобилей выглядит неизбежным будущим, однако еще не решены важные вопросы — например, этический выбор в опасных ситуациях. При этом сами тестовые испытания проходят с трагическими последствиями. Весной 2018 года Uber тестировала беспилотный автомобиль на базе одной из моделей Volvo на улицах города Темп в штате Аризона, США. Машина сбила женщину насмерть. Тестирование автопилота проводилось при сниженной чувствительности к распознанным опасным объектам, чтобы избежать ложных срабатываний. Когда порог чувствительности снижался, система видела опасные объекты там, где их не было.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Маленький принц: 9 мифов об Антуане де Сент-Экзюпери Маленький принц: 9 мифов об Антуане де Сент-Экзюпери

«Вокруг света» разобрался, правда ли, что Сент-Экзюпери…

Вокруг света
Что определяет нашу личность Что определяет нашу личность

Проблема тождества личности

Psychologies
Есть, чего ждать: самые ожидаемые смартфоны 2019 года Есть, чего ждать: самые ожидаемые смартфоны 2019 года

Какие телефоны мы с особым нетерпением ждем в 2019 году

CHIP
Страх как система Страх как система

Как охранительство стало национальной идеей России

Огонёк
Фрустрация: что с ней делать и как предотвратить Фрустрация: что с ней делать и как предотвратить

Как выработать к фрустрации устойчивый иммунитет

Psychologies
Леди Гага: от Paparazzi к «Оскару» за 10 лет Леди Гага: от Paparazzi к «Оскару» за 10 лет

Леди Гага и Брэдли Купер на «Оскаре» 2019 вызвали больший резонанс

GQ
Желтый полиэтиленовый пакет Желтый полиэтиленовый пакет

Что Чичваркин вывез из России в Лондон в крепком желтом пакете «Евросети»

Forbes
Мужская марка, за которой стоит следить: Bode Мужская марка, за которой стоит следить: Bode

Рассказываем про Эмили Адамс Боде

Esquire
Гиалуроновая кислота: вопросы и ответы Гиалуроновая кислота: вопросы и ответы

Что такое гиалуроновая кислота и как она действует на кожу?

9 месяцев
Диета молодости Диета молодости

«Включите» гены, которые отвечают за молодость

Домашний Очаг
Сергей Лазарев: «Помню, как мама проплакала всю ночь» Сергей Лазарев: «Помню, как мама проплакала всю ночь»

Артист признался, что хочет еще детей

StarHit
Отчетливый школьный привкус Отчетливый школьный привкус

Школьная столовка стала символом невкусной еды

Огонёк
Индюшатина, сэр: 5 крутых инди-игр в 3D Индюшатина, сэр: 5 крутых инди-игр в 3D

Игры с неповторимой атмосферой

CHIP
Какие послания таят наши опоздания? Какие послания таят наши опоздания?

Какие сообщения люди посылают в мир своими опозданиями

Psychologies
Четыре новых российских миллиардера: кто в 2019 году впервые попал в рейтинг Forbes Четыре новых российских миллиардера: кто в 2019 году впервые попал в рейтинг Forbes

Новые имена в рейтинге долларовых миллиардеров Forbes

Forbes
Почему нам необходима тишина Почему нам необходима тишина

Оказывается, чрезмерный уровень шума сокращает продолжительность жизни

Psychologies
Франц Шехтель. Великий Виньетист Франц Шехтель. Великий Виньетист

Франц Шехтель — один из наиболее ярких представителей стиля модерн в зодчестве

Караван историй
На другую планету в поисках себя На другую планету в поисках себя

Всего пять часов, и вы уже там, на планете под названием Дубай

Psychologies
Новое чувство Новое чувство

Интервью с Юлией Ковальчук

Домашний Очаг
Как носить верхнюю одежду в клетку Как носить верхнюю одежду в клетку

С чем сочетать пальто, тренч и куртку с самым популярным узором

GQ
Виды батареек по размерам и химическому составу: шпаргалка CHIP Виды батареек по размерам и химическому составу: шпаргалка CHIP

Чем литиевая батарейка отличается от солевой или щелочной? Какая лучше?

CHIP
Мама Саши Селипанова написала письмо в Ferrari, и он стал дизайнером Bugatti Мама Саши Селипанова написала письмо в Ferrari, и он стал дизайнером Bugatti

Мир автомобильного дизайна накрывает русская волна

GQ
Человек-проблема международного масштаба: куда собрался Конор Макгрегор? Человек-проблема международного масштаба: куда собрался Конор Макгрегор?

Конор Макгрегор объявил об уходе из спорта

Esquire
10 самых обедневших российских миллиардеров 10 самых обедневших российских миллиардеров

Десять обедневших российских миллиардеров потеряли в общей сложности $12,7 млрд

Forbes
Подход к отходам Подход к отходам

Как оренбургский бизнес научился зарабатывать на раздельном сборе мусора

РБК
Как менялся стиль Криса Пайна Как менялся стиль Криса Пайна

Как менялся стиль актера, который, кажется, родился в костюме-тройке

GQ
Как помочь ребенку справиться с тяжелым стрессом Как помочь ребенку справиться с тяжелым стрессом

Все мы, взрослые, привыкли так или иначе справляться со стрессом

Psychologies
Белье брать будете? Что о вас говорит одежда, в которой вы спите Белье брать будете? Что о вас говорит одежда, в которой вы спите

В чем спать — личное дело каждого, но одежда о вас может кое-что рассказать

Esquire
Крым. Точка невозврата. RU Крым. Точка невозврата. RU

Чем и как живет полуостров спустя пять лет после русской весны

Русский репортер
Лучшие кепки, бейсболки и панамы Сэмюэля Л. Джексона с 1993 года по 2019 Лучшие кепки, бейсболки и панамы Сэмюэля Л. Джексона с 1993 года по 2019

Самые модные и самые комичные головные уборы Сэмюэля Л. Джексона

Esquire
Открыть в приложении