Случаи, в которых роботы пытаются заменить человека, но у них пока не получается

ForbesHi-Tech

Не только «Сбербанк»: пять самых эпичных ошибок искусственного интеллекта

Наглядные случаи, в которых роботы пытаются заменить человека, но у них пока не получается

Артем Гладких 

rtx6m61x.jpg__1551795657__23673.jpg
Фото Matthew Stock / REUTERS

Ошибки искусственного интеллекта на миллиарды рублей убытка стали самой громкой технологической новостью недели в России. Точная версия слов президента Сбербанка Германа Грефа остается предметом обсуждения, но стала поводом для того, чтобы вспомнить самые громкие случаи провалов ИИ.

Расизм и дискриминация

Корпорация Amazon, наряду с другими технологическими гигантами США, является одним из центров разработок в области искусственного интеллекта. В 2017 году компания закрыла экспериментальный проект по найму сотрудников на основе ИИ, который вела около трех лет. По словам представителей компании, в результате они ожидали получить некий «Святой Грааль», который мог бы отобрать пятерку лучших кандидатов из сотни резюме. Одной из ключевых проблем стала гендерная дискриминация кандидатов — алгоритм занижал оценки кандидатов-женщин, поскольку был обучен на прошлом десятилетнем опыте отбора кандидатов в Amazon, среди которых преобладали мужчины. Были и другие сложности: алгоритм нередко выдавал практически случайные результаты.

Применение алгоритмов в рекламных инструментах Facebook (соцсеть признана в РФ экстремистской и запрещена) привело к появлению предложений по группировке целевых аудиторий на основе такого признака, как антисемитизм. В 2016 году президенту Microsoft Research Питеру Ли пришлось извиняться за чат-бота Тау, который менее чем за сутки общения с пользователями Twitter научился расистским высказываниям. Проект был приостановлен.

Опасность на дороге

Распространение беспилотных автомобилей выглядит неизбежным будущим, однако еще не решены важные вопросы — например, этический выбор в опасных ситуациях. При этом сами тестовые испытания проходят с трагическими последствиями. Весной 2018 года Uber тестировала беспилотный автомобиль на базе одной из моделей Volvo на улицах города Темп в штате Аризона, США. Машина сбила женщину насмерть. Тестирование автопилота проводилось при сниженной чувствительности к распознанным опасным объектам, чтобы избежать ложных срабатываний. Когда порог чувствительности снижался, система видела опасные объекты там, где их не было.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как эффективно разогнать мозг: советы невролога Как эффективно разогнать мозг: советы невролога

У нас такой же мозг, как у людей, которые придумали теорию струн и баночное пиво

Maxim
Индюшатина, сэр: 5 крутых инди-игр в 3D Индюшатина, сэр: 5 крутых инди-игр в 3D

Игры с неповторимой атмосферой

CHIP

"Алита: боевой ангел": киборги сегодня и через 500 лет

Популярная механика
Звездная качалка: будь крутой, как Капитан Марвел! Праздничная тренировка для читательниц MAXIM Звездная качалка: будь крутой, как Капитан Марвел! Праздничная тренировка для читательниц MAXIM

Упражнения сильной и независимой Капитан Марвел

Maxim
8 мест, где запрещено фотографировать, но люди все равно фоткаются 8 мест, где запрещено фотографировать, но люди все равно фоткаются

Спрячь свой инстаграм подальше от неприятностей

Playboy
Дело Абызова и дело Калви: совпадения случайны Дело Абызова и дело Калви: совпадения случайны

Арест Михаила Абызова некоторым наблюдателям напоминает дело Baring Vostok

Forbes
Александр Петров: «Моя профессия - артист, и основная работа - играть в театре Александр Петров: «Моя профессия - артист, и основная работа - играть в театре

Александр Петров рассказал о том, как пришла идея открыть свой отель

Cosmopolitan
Как выйти из карьерной карусели и начать свое дело Как выйти из карьерной карусели и начать свое дело

На чем сконцентрироваться человеку, если он решил поменять работу

СНОБ
Как модные корпорации поддерживают женщин Как модные корпорации поддерживают женщин

Женщин поддерживает добрая половина брендов

Vogue
Где есть блины в Москве Где есть блины в Москве

Рестораны готовы к масленичной неделе

Forbes
11 доказанных наукой причин, почему человек влюбляется (почему эта фигня происходит!) 11 доказанных наукой причин, почему человек влюбляется (почему эта фигня происходит!)

В чем заключаются причины влюбленности

Playboy
Спасибо, не надо: что не стоит дарить девушке на 8 марта Спасибо, не надо: что не стоит дарить девушке на 8 марта

Как бы вы ни старались, иногда можно "не угадать" и расстроить, а не обрадовать

CHIP
Мужественность: почему она присуща не всем мужчинам Мужественность: почему она присуща не всем мужчинам

Женщина хочет видеть в партнере уверенного в себе, сильного человека

Psychologies
Закрытое правительство: Абызов стал жертвой политического климат-контроля Закрытое правительство: Абызов стал жертвой политического климат-контроля

Кейс Абызова больше говорит о политическом климат-контроле, чем о деловом

Forbes
О чем важно помнить, когда ребенок идет в гости к друзьям О чем важно помнить, когда ребенок идет в гости к друзьям

Для развития социальных навыков ребенку надо общаться со сверстниками

Psychologies
Прощание с пакетом Прощание с пакетом

Чем торгуют магазины без упаковки

РБК
Новое чувство Новое чувство

Интервью с Юлией Ковальчук

Домашний Очаг
«Все будет по-моему!» А если нет? «Все будет по-моему!» А если нет?

Чем непомерно высокая планка отличается от высоких стандартов

Psychologies
Одиссея Пенелопы Одиссея Пенелопы

Интервью с Пенелопой Крус о силе знаний и красоты

Grazia
История Пугачевского бунта История Пугачевского бунта

Алла Пугачева на сцене не просто поет, но живет

Vogue
Новая глава Новая глава

Сиенна Миллер официально представила нового бойфренда!

Grazia
9 способов заработать свой первый миллион от настоящих миллиардеров 9 способов заработать свой первый миллион от настоящих миллиардеров

Кто может сказать об успехе лучше тех, кто его добились?

Playboy
Коробка счастья. Как сервис доставки одежды обошел по инновационности Apple Коробка счастья. Как сервис доставки одежды обошел по инновационности Apple

Что помогло сервису доставки одежды обойти по инновационности мировых гигантов

Forbes
Почему нам необходима тишина Почему нам необходима тишина

Оказывается, чрезмерный уровень шума сокращает продолжительность жизни

Psychologies
Kia Stinger: На каждый день Kia Stinger: На каждый день

Минпромторг включил этот лифтбек в перечень роскошных автомобилей

АвтоМир
Кто заказывает музыку? О незаконных требованиях к музыкальному оформлению бизнеса Кто заказывает музыку? О незаконных требованиях к музыкальному оформлению бизнеса

Какие требования к музыкальному оформлению законны, а какие нет

Forbes
Вок из машины Вок из машины

Впечатлит ли успех сервиса по доставке еды от Uber инвесторов перед IPO

Forbes
Что подарить девушке на годовщину отношений? 18 самых лучших идей Что подарить девушке на годовщину отношений? 18 самых лучших идей

Каким должен быть подарок, который ей и понравится, и запомнится?

Playboy
До встречи в Монако До встречи в Монако

Самые дорогие вещи обычно не самые крупные

Robb Report
Купить не глядя. Почему онлайн-продажи машин никак не разгонятся Купить не глядя. Почему онлайн-продажи машин никак не разгонятся

AliExpress начнет реализовывать в России автомобили марки Chery

Forbes
Открыть в приложении