Случаи, в которых роботы пытаются заменить человека, но у них пока не получается

ForbesHi-Tech

Не только «Сбербанк»: пять самых эпичных ошибок искусственного интеллекта

Наглядные случаи, в которых роботы пытаются заменить человека, но у них пока не получается

Артем Гладких 

rtx6m61x.jpg__1551795657__23673.jpg
Фото Matthew Stock / REUTERS

Ошибки искусственного интеллекта на миллиарды рублей убытка стали самой громкой технологической новостью недели в России. Точная версия слов президента Сбербанка Германа Грефа остается предметом обсуждения, но стала поводом для того, чтобы вспомнить самые громкие случаи провалов ИИ.

Расизм и дискриминация

Корпорация Amazon, наряду с другими технологическими гигантами США, является одним из центров разработок в области искусственного интеллекта. В 2017 году компания закрыла экспериментальный проект по найму сотрудников на основе ИИ, который вела около трех лет. По словам представителей компании, в результате они ожидали получить некий «Святой Грааль», который мог бы отобрать пятерку лучших кандидатов из сотни резюме. Одной из ключевых проблем стала гендерная дискриминация кандидатов — алгоритм занижал оценки кандидатов-женщин, поскольку был обучен на прошлом десятилетнем опыте отбора кандидатов в Amazon, среди которых преобладали мужчины. Были и другие сложности: алгоритм нередко выдавал практически случайные результаты.

Применение алгоритмов в рекламных инструментах Facebook (соцсеть признана в РФ экстремистской и запрещена) привело к появлению предложений по группировке целевых аудиторий на основе такого признака, как антисемитизм. В 2016 году президенту Microsoft Research Питеру Ли пришлось извиняться за чат-бота Тау, который менее чем за сутки общения с пользователями Twitter научился расистским высказываниям. Проект был приостановлен.

Опасность на дороге

Распространение беспилотных автомобилей выглядит неизбежным будущим, однако еще не решены важные вопросы — например, этический выбор в опасных ситуациях. При этом сами тестовые испытания проходят с трагическими последствиями. Весной 2018 года Uber тестировала беспилотный автомобиль на базе одной из моделей Volvo на улицах города Темп в штате Аризона, США. Машина сбила женщину насмерть. Тестирование автопилота проводилось при сниженной чувствительности к распознанным опасным объектам, чтобы избежать ложных срабатываний. Когда порог чувствительности снижался, система видела опасные объекты там, где их не было.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Что известно о новом iPhone и его конкурентах Что известно о новом iPhone и его конкурентах

Кто и в чем будет конкурировать с iPhone 11

РБК
У мужа появилась другая… У мужа появилась другая…

Что делать, если ты узнала об измене мужа?

Лиза

"Алита: боевой ангел": киборги сегодня и через 500 лет

Популярная механика
Цифровая фобия. Что пугает россиян в искусственном интеллекте Цифровая фобия. Что пугает россиян в искусственном интеллекте

Интернет-пользователи не верят в справедливость искусственного интеллекта

Forbes
Как Levi Strauss с триумфом вернулся на биржу Как Levi Strauss с триумфом вернулся на биржу

Немногие компании на высококонкурентном рынке одежды решаются на IPO

Forbes
Покоряя стихию Покоряя стихию

Отправляемся в необычный джип-тур, чтобы оказаться как можно ближе к природе

АвтоМир
В Москве прошла презентация проекта Esquire Heroes В Москве прошла презентация проекта Esquire Heroes

Мероприятие Esquire Heroes, посвященное самым ярким новым героям 2019 года

Cosmopolitan
Kia Stinger: На каждый день Kia Stinger: На каждый день

Минпромторг включил этот лифтбек в перечень роскошных автомобилей

АвтоМир
Слабая позиция. Почему женщины зарабатывают меньше мужчин Слабая позиция. Почему женщины зарабатывают меньше мужчин

Гендерный разрыв в зарплатах действительно существует

Forbes
Эльвира Галимова: Эльвира Галимова:

Cosmopolitan пообщался с Эльвирой Галимовой

Cosmopolitan
Цветы, совы или горох? Самые женственные принты весны и как их носить Цветы, совы или горох? Самые женственные принты весны и как их носить

Арина Яганова предлагает готовые решения для весеннего гардероба

Cosmopolitan
100 надежных российских банков — 2019. Рейтинг Forbes 100 надежных российских банков — 2019. Рейтинг Forbes

Forbes изучил рейтинги и финансовые показатели ведущих российских банков

Forbes
Женя Беркович: «Нас самих так учили, и ничего, людьми выросли». О школьных уроках труда Женя Беркович: «Нас самих так учили, и ничего, людьми выросли». О школьных уроках труда

Об уроках труда как одной из основ российского гендерного воспитания

СНОБ
«Динамика доходов говорит о стагнации». Владимир Мау о реальном состоянии российской экономики «Динамика доходов говорит о стагнации». Владимир Мау о реальном состоянии российской экономики

Интервью с ректором РАНХиГС Владимиром Мау

Forbes
Похудеть любой ценой?! Похудеть любой ценой?!

Почему после похудения мы снова набираем вес и как этого избежать

Psychologies
Казаки и реестр Казаки и реестр

Обращению казацких отрядов в армию посодействовали власти Речи Посполитой

Дилетант
Всем на зависть Всем на зависть

Громкие романы Собчак и причины расставаний с мужчинами

StarHit
О чем важно помнить, когда ребенок идет в гости к друзьям О чем важно помнить, когда ребенок идет в гости к друзьям

Для развития социальных навыков ребенку надо общаться со сверстниками

Psychologies
Таймлайн: эволюция методов обращения с мусором от Средневековья до 2019 года Таймлайн: эволюция методов обращения с мусором от Средневековья до 2019 года

Как люди веками боролись с мусором — и какие у нас есть варианты

Esquire
Успеть увидеть в театре: 10 спектаклей-открытий «Золотой маски» Успеть увидеть в театре: 10 спектаклей-открытий «Золотой маски»

Гид на национальному театральному фестивалю

Forbes
Заряд в массы Заряд в массы

Загадываем желание — мы впервые за рулем городского электробуса Mercedes-Benz

Quattroruote
Не Цукербергом единым: чем опасны истории успеха Не Цукербергом единым: чем опасны истории успеха

Проанализируйте всю картину целиком — возможно, герою просто повезло

Forbes
7 чудес Солнечной системы 7 чудес Солнечной системы

Путешествие по любимым достопримечательностям космических туристов

Вокруг света
От бедра От бедра

Финалистка шоу «Топ-модель по-американски» обманывала своих поклонников

StarHit
Андрей Бурковский. Крутой поворот Андрей Бурковский. Крутой поворот

Как Андрей Бурковский однажды все бросил и пошел учиться в Школу-студию МХАТ

Караван историй
Через тернии к пяти звездам Через тернии к пяти звездам

Старинный особняк, ставший военным госпиталем, вернул себе былую роскошь

GQ
Как выбрать хороший отель, где вы сможете почувствовать себя как дома: 11 советов Как выбрать хороший отель, где вы сможете почувствовать себя как дома: 11 советов

Когда бронировать отель, чтобы сэкономить и как получить улучшенный номер

Esquire
6 страшных способов наказаний, которые используются до сих пор 6 страшных способов наказаний, которые используются до сих пор

Это страшный сон? Нет, это реальность XXI века

Playboy
Что будет, если не пить 7 дней подряд (речь об обычной воде, а вы что подумали?) Что будет, если не пить 7 дней подряд (речь об обычной воде, а вы что подумали?)

Если не пить воду неделю, ничего хорошего не будет

Playboy
Легкий люкс Легкий люкс

Скромная роскошь в интерьерах французского декоратора Tристана Оэра

The Rake
Открыть в приложении