Случаи, в которых роботы пытаются заменить человека, но у них пока не получается

ForbesHi-Tech

Не только «Сбербанк»: пять самых эпичных ошибок искусственного интеллекта

Наглядные случаи, в которых роботы пытаются заменить человека, но у них пока не получается

Артем Гладких 

rtx6m61x.jpg__1551795657__23673.jpg
Фото Matthew Stock / REUTERS

Ошибки искусственного интеллекта на миллиарды рублей убытка стали самой громкой технологической новостью недели в России. Точная версия слов президента Сбербанка Германа Грефа остается предметом обсуждения, но стала поводом для того, чтобы вспомнить самые громкие случаи провалов ИИ.

Расизм и дискриминация

Корпорация Amazon, наряду с другими технологическими гигантами США, является одним из центров разработок в области искусственного интеллекта. В 2017 году компания закрыла экспериментальный проект по найму сотрудников на основе ИИ, который вела около трех лет. По словам представителей компании, в результате они ожидали получить некий «Святой Грааль», который мог бы отобрать пятерку лучших кандидатов из сотни резюме. Одной из ключевых проблем стала гендерная дискриминация кандидатов — алгоритм занижал оценки кандидатов-женщин, поскольку был обучен на прошлом десятилетнем опыте отбора кандидатов в Amazon, среди которых преобладали мужчины. Были и другие сложности: алгоритм нередко выдавал практически случайные результаты.

Применение алгоритмов в рекламных инструментах Facebook (соцсеть признана в РФ экстремистской и запрещена) привело к появлению предложений по группировке целевых аудиторий на основе такого признака, как антисемитизм. В 2016 году президенту Microsoft Research Питеру Ли пришлось извиняться за чат-бота Тау, который менее чем за сутки общения с пользователями Twitter научился расистским высказываниям. Проект был приостановлен.

Опасность на дороге

Распространение беспилотных автомобилей выглядит неизбежным будущим, однако еще не решены важные вопросы — например, этический выбор в опасных ситуациях. При этом сами тестовые испытания проходят с трагическими последствиями. Весной 2018 года Uber тестировала беспилотный автомобиль на базе одной из моделей Volvo на улицах города Темп в штате Аризона, США. Машина сбила женщину насмерть. Тестирование автопилота проводилось при сниженной чувствительности к распознанным опасным объектам, чтобы избежать ложных срабатываний. Когда порог чувствительности снижался, система видела опасные объекты там, где их не было.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Гранд-тур по модернизму Гранд-тур по модернизму

Символы и коды легендарной школы Баухаус навсегда вписаны в историю искусства

Robb Report
За что мы не любим российский футбол За что мы не любим российский футбол

Рассказываем о том, как наша игра с мячом могла бы стать лучше

GQ
7 бесплатных альтернатив Microsoft Office: офис без затрат 7 бесплатных альтернатив Microsoft Office: офис без затрат

Бесплатная замена Microsoft Office

CHIP
Клава Кока: Клава Кока:

Клава Кока рассказала о своей номинации в Kids’ Choice Awards 2019

Cosmopolitan
Жизнь с алкоголиком: почему так сложно уйти Жизнь с алкоголиком: почему так сложно уйти

Жить с алкоголиком горько, тяжело, иногда даже невыносимо

Psychologies
Вот что мы увидели в российской триллер-драме о психиатрах «Амбивалентность» Вот что мы увидели в российской триллер-драме о психиатрах «Амбивалентность»

Оценка фильма «Амбивалентность» по шкале везения

Maxim
Джек-потрошитель против современной генетики: хроники скандала Джек-потрошитель против современной генетики: хроники скандала

Можно ли с помощью анализа ДНК раскрыть преступление, совершенное 130 лет назад

Forbes
Пять трешовых фильмов из Южной Кореи: боевики Голливуда покажутся цветочками Пять трешовых фильмов из Южной Кореи: боевики Голливуда покажутся цветочками

Контент для тех, кто устал от банальщины

Playboy
Создана нейросеть, ускоряющая поиск новых частиц на LHC Создана нейросеть, ускоряющая поиск новых частиц на LHC

Метод, ускоряющий моделирование процессов на Большом адронном коллайдере

Популярная механика
Возвращение в реальность. Почему ранчо Майкла Джексона подешевело втрое Возвращение в реальность. Почему ранчо Майкла Джексона подешевело втрое

«Звездные» ранчо оказались сильно переоценены

Forbes
Со всем уважением. Чем обернется для Рунета  закон об оскорблении власти Со всем уважением. Чем обернется для Рунета  закон об оскорблении власти

Штрафные санкции за оскорбление власти открывают путь к злоупотреблениям

Forbes
Диалог власти, бизнеса и молодежи на KEF'2019 Диалог власти, бизнеса и молодежи на KEF'2019

Завершилась первая пленарная сессия «Комфортный город. Конкуренция за человека»

Forbes
Эндшпиль престолов Эндшпиль престолов

14 апреля стартует финальный сезон «Игры престолов»

Maxim
Как Levi Strauss с триумфом вернулся на биржу Как Levi Strauss с триумфом вернулся на биржу

Немногие компании на высококонкурентном рынке одежды решаются на IPO

Forbes
5 страшных мифов о детском балете, в которые пора перестать верить 5 страшных мифов о детском балете, в которые пора перестать верить

Живущий по своим законам мир балета скрыт от глаз посторонних и окутан мифами

Psychologies
Артемизия Джентилески. Бои без правил Артемизия Джентилески. Бои без правил

Первая феминистка, которая победила лишь спустя века

Караван историй
Бран Старк рассказывает, чем закончится «Игра престолов» Бран Старк рассказывает, чем закончится «Игра престолов»

Айзек Хемпстед-Райт рассказал о том, как проходили съемки «Игры престолов»

GQ
Большой. Художественный Большой. Художественный

3 марта свое 100-летие отмечает Большой драматический театр

Собака.ru
Взрослая девочка Взрослая девочка

Европейские социологи признали: люди взрослеют все позже

Лиза
Секреты спортзала: 7 ситуаций, с которыми сталкивался каждый (и хотел бы о них забыть) Секреты спортзала: 7 ситуаций, с которыми сталкивался каждый (и хотел бы о них забыть)

Есть некоторые нюансы, о которых не принято говорить вслух...

Playboy
Красочная война Красочная война

В 2018 году сборная России ударно выступила в самой неожиданной дисциплине

Популярная механика
Слабая позиция. Почему женщины зарабатывают меньше мужчин Слабая позиция. Почему женщины зарабатывают меньше мужчин

Гендерный разрыв в зарплатах действительно существует

Forbes
Как наследница империи L'Oréal стала богатейшей женщиной мира Как наследница империи L'Oréal стала богатейшей женщиной мира

Состояние Франсуазы Бетанкур-Майерс увеличилось на $7,1 млрд

Forbes
Что нельзя делать в самолете? Чеклист из 11 пунктов (ради твоего же блага) Что нельзя делать в самолете? Чеклист из 11 пунктов (ради твоего же блага)

Ты же не хочешь лишних проблем?

Playboy
Еще современнее, еще умнее Еще современнее, еще умнее

В поисках второй молодости Actros делает ставку на интерфейс «человек-машина»

Quattroruote
Почему показ H&M Studio переместился из Парижа в Аризону Почему показ H&M Studio переместился из Парижа в Аризону

Рассказываем о новой концепции масс-маркет-гиганта

Vogue
Экзоскелет на связи с мозгом. Как будут возвращать к нормальной жизни больных в будущем? Экзоскелет на связи с мозгом. Как будут возвращать к нормальной жизни больных в будущем?

Как спасти людей, перенесших инсульт и потерявших способность двигаться?

Forbes
Буллинг вместо троллинга Буллинг вместо троллинга

Утопия и антиутопия новейших медиа

Русский репортер
Культурный обмен Культурный обмен

2-я церемония вручения международной профессиональной музыкальной Премии BraVo

OK!
Значит, война: 5 вещей в стиле милитари, которые пригодятся тебе этой весной Значит, война: 5 вещей в стиле милитари, которые пригодятся тебе этой весной

Арина Яганова дает стильные подсказки на новый сезон

Cosmopolitan
Открыть в приложении