Случаи, в которых роботы пытаются заменить человека, но у них пока не получается

ForbesHi-Tech

Не только «Сбербанк»: пять самых эпичных ошибок искусственного интеллекта

Наглядные случаи, в которых роботы пытаются заменить человека, но у них пока не получается

Артем Гладких 

rtx6m61x.jpg__1551795657__23673.jpg
Фото Matthew Stock / REUTERS

Ошибки искусственного интеллекта на миллиарды рублей убытка стали самой громкой технологической новостью недели в России. Точная версия слов президента Сбербанка Германа Грефа остается предметом обсуждения, но стала поводом для того, чтобы вспомнить самые громкие случаи провалов ИИ.

Расизм и дискриминация

Корпорация Amazon, наряду с другими технологическими гигантами США, является одним из центров разработок в области искусственного интеллекта. В 2017 году компания закрыла экспериментальный проект по найму сотрудников на основе ИИ, который вела около трех лет. По словам представителей компании, в результате они ожидали получить некий «Святой Грааль», который мог бы отобрать пятерку лучших кандидатов из сотни резюме. Одной из ключевых проблем стала гендерная дискриминация кандидатов — алгоритм занижал оценки кандидатов-женщин, поскольку был обучен на прошлом десятилетнем опыте отбора кандидатов в Amazon, среди которых преобладали мужчины. Были и другие сложности: алгоритм нередко выдавал практически случайные результаты.

Применение алгоритмов в рекламных инструментах Facebook (соцсеть признана в РФ экстремистской и запрещена) привело к появлению предложений по группировке целевых аудиторий на основе такого признака, как антисемитизм. В 2016 году президенту Microsoft Research Питеру Ли пришлось извиняться за чат-бота Тау, который менее чем за сутки общения с пользователями Twitter научился расистским высказываниям. Проект был приостановлен.

Опасность на дороге

Распространение беспилотных автомобилей выглядит неизбежным будущим, однако еще не решены важные вопросы — например, этический выбор в опасных ситуациях. При этом сами тестовые испытания проходят с трагическими последствиями. Весной 2018 года Uber тестировала беспилотный автомобиль на базе одной из моделей Volvo на улицах города Темп в штате Аризона, США. Машина сбила женщину насмерть. Тестирование автопилота проводилось при сниженной чувствительности к распознанным опасным объектам, чтобы избежать ложных срабатываний. Когда порог чувствительности снижался, система видела опасные объекты там, где их не было.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Послушные растения Дианы Шерер Послушные растения Дианы Шерер

Художница Диана Шерер заставляет корни травы расти так, как ей хочется

Популярная механика
Алекперов рассказал о плюсах продажи алкоголя на АЗС Алекперов рассказал о плюсах продажи алкоголя на АЗС

Продажа алкогольных напитков на заправках поможет сгладить скачки цен на бензин

Forbes
7 бесплатных альтернатив Microsoft Office: офис без затрат 7 бесплатных альтернатив Microsoft Office: офис без затрат

Бесплатная замена Microsoft Office

CHIP
Кто свободен Кто свободен

Иляна Эрднеева обсудила с Сергеем Светлаковым палитру современного юмора

Glamour
15 способов улучшить настроение всей семье 15 способов улучшить настроение всей семье

Несколько способов оздоровить атмосферу, посмеяться и стать ближе друг другу

Домашний Очаг
Лондон: Туманный Вавилон Лондон: Туманный Вавилон

Николай Сванидзе — о Лондоне, где «раз сто точно был, а потом перестал считать»

Вокруг света
В Москве прошла презентация проекта Esquire Heroes В Москве прошла презентация проекта Esquire Heroes

Мероприятие Esquire Heroes, посвященное самым ярким новым героям 2019 года

Cosmopolitan
Вирусы-гиганты в океане жизни Вирусы-гиганты в океане жизни

Самое громкое открытие в вирусологии недавних лет – обнаружение вирусов-гигантов

Популярная механика
7 пугающих практик медицины прошлого: от трепанации до прижигания ран 7 пугающих практик медицины прошлого: от трепанации до прижигания ран

О медицинских практиках прошлого, вызывающих сейчас отвращение и ужас

Популярная механика
Пора поучиться: Топ-9 приложений с лучшими курсами Пора поучиться: Топ-9 приложений с лучшими курсами

Самые лучшие приложения для учебы на мобильном: от менеджмента до ИТ

CHIP
Новая надежда Новая надежда

Самые юные номинанты премии Chopard Talent Award

Vogue
Прожигатели жизни Прожигатели жизни

Жители Валенсии ежегодно 19 марта сжигают в ритуальных кострах миллионы евро

Вокруг света
Почему так тяжело смириться с потерей домашних животных Почему так тяжело смириться с потерей домашних животных

Век питомцев гораздо короче человеческого, и терять их невыносимо горько

Psychologies
Светлана Немоляева: У меня есть правило: я должна держать себя в форме Светлана Немоляева: У меня есть правило: я должна держать себя в форме

Интервью со Светланой Немоляевой

Лиза
Как понять, что ваши родители были садистами Как понять, что ваши родители были садистами

Некоторым повезло меньше — их родители были настоящими садистами

Psychologies
«Врете, недоноски». «Газпром» отреагировал на «пропажу» трубопровода под Приозерском «Врете, недоноски». «Газпром» отреагировал на «пропажу» трубопровода под Приозерском

Возбуждено уголовное дело о хищении 700 млн рублей за газопровод под Петербургом

Forbes
И смех, и грех И смех, и грех

Как нарастить броню, надежно защищающую от насмешек

Добрые советы
«В том, что вы не можете похудеть, виноваты не вы, а диеты» «В том, что вы не можете похудеть, виноваты не вы, а диеты»

Ивлин Трибол разработала методику интуитивного питания

Psychologies
11 доказанных наукой причин, почему человек влюбляется (почему эта фигня происходит!) 11 доказанных наукой причин, почему человек влюбляется (почему эта фигня происходит!)

В чем заключаются причины влюбленности

Playboy
На другую планету в поисках себя На другую планету в поисках себя

Всего пять часов, и вы уже там, на планете под названием Дубай

Psychologies
У мужа появилась другая… У мужа появилась другая…

Что делать, если ты узнала об измене мужа?

Лиза
Недостаточно средств на карте Недостаточно средств на карте

Распределение семейного бюджета – непростой вопрос для многих пар

Лиза
Как всегда! Как всегда!

Женевский автосалон по-прежнему многолюден и насыщен яркими новинками

АвтоМир
Чем закончится «Игра престолов»? 9 самых необычных и крутых фанатских теорий Чем закончится «Игра престолов»? 9 самых необычных и крутых фанатских теорий

Самые крутые теории и предположения о том, чем закончится «Игра престолов»

Playboy
На русском глобусе климата нет. Подростков и прессы тоже На русском глобусе климата нет. Подростков и прессы тоже

По миру прокатились многотысячные детские экологические митинги

СНОБ
Время женщин Время женщин

Юлия Ауг поговорила с дочерью Полиной

Собака.ru
Восточная мудрость: зачем учиться в Китае и ждут ли там иностранцев Восточная мудрость: зачем учиться в Китае и ждут ли там иностранцев

Чем Китай привлекает студентов из-за рубежа и легко ли там найти работу

Forbes
Как убить в себе перфекциониста Как убить в себе перфекциониста

В стремлении к идеалу мы часто перегибаем палку и боимся браться за новое дело

Forbes
Все, что ни делается, – к лучшему? Все, что ни делается, – к лучшему?

Насколько сильно наша жизнь зависит от того, как мы сами ее воспринимаем

Psychologies
Светлана Немоляева: «Все время думаю о Саше» Светлана Немоляева: «Все время думаю о Саше»

Актриса Светлана Немоляева о тоске по мужу, пенсии и помощи внука

StarHit
Открыть в приложении