Олег Бяхов — об этичных трендах и общении с искусственным интеллектом

РБКHi-Tech

Даже лучший алгоритм может навредить человеку

Олег Бяхов — об этичных трендах и общении с искусственным интеллектом.

Фото: Владислав Шатило для РБК

Один из краеугольных камней любого использования искусственного интеллекта (ИИ) — установка на то, что ИИ лишь дополняет человеческий. Любое важное решение, которое имеет этические аспекты, всегда должно приниматься человеком. В частности, IBM использует коллегиальные механизмы принятия решений и контроля для встраивания в бизнес-приложениях ИИ человеческой ответственности за окончательное решение. Таким образом, этика принятия решений остается за человеком.

На сегодняшний день самый обсуждаемый вопрос в контексте этики алгоритмов — это биометрические данные. В июле 2020 года IBM сняли с рынка всю линейку продуктов для распознавания лиц. Дело в том, что в 2018 году выяснилось, что большинство коммерческих продуктов в области распознавания лиц, которые поставлялись крупнейшими компаниями, включая IBM, имели уровень ошибки распознавания для белых мужчин гораздо ниже, чем уровень ошибки для темнокожих женщин. Достоверность распознавания белых мужчин — выше 97%, а темнокожих женщин — от 65 до 80%.

Если такого рода алгоритмы встраиваются в правоохранительную систему, то темнокожих женщин могут недостоверно подозревать в каком-либо преступлении. Чтобы исправить эту ситуацию, IBM выложила общедоступный набор данных, основанный на публично лицензированных фотоизображениях миллиона лиц. В то же время стандартные учебные датасеты включают около 2 тыс. изображений лиц, и более 70% из них — белые мужчины. И когда ты обучаешь машину на некорректном наборе данных, то как бы хорош ни был твой алгоритм, он все равно будет приходить к некорректным выводам.

IBM на рынке обработки данных находится многие десятилетия. Мы всегда относились к накопленной информации как к данным, которые принадлежат их владельцу, например пользователю. Поэтому для обучения алгоритмов мы всегда получаем согласие владельца данных на их использование.

Что касается этики использования, то несколько ИИ-сервисов для СМИ и маркетологов, например IBM Personality Insights, IBM Watson Advertising, IBM Watson Media, предназначены для вовлечения целевой аудитории онлайн за счет персонализации контентного или продуктового коридора. Тренд персонализации через десять лет приведет к тому, что у каждого человека появится возможность получать максимально кастомизированный, специально изготовленный под него продукт.

Олег Бяхов — директор по государственным программам и развитию бизнеса IBM в России и СНГ. Окончил философский факультет Ростовского госуниверситета по специальности «логика», в компании IBM работает с 2007 года.

По теме, затронутой Олегом Бяховым, высказались еще два эксперта тренда: Дмитрий Марков (статья «Рейтинг доверия») и Константин Синюшин (статья «Сохранить лицо»).

Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Нейросеть GPT-3: «Роботы никогда не заменят потребность в людях» Нейросеть GPT-3: «Роботы никогда не заменят потребность в людях»

Собеседник РБК — третье поколение алгоритма по обработке естественного языка

РБК
Героини времени нашего Героини времени нашего

Истории выдающихся женщин, которые смело меняют и свою жизнь, и мир вокруг себя

Лиза
Боты против уток. Сможет ли искусственный интеллект избавить соцсети от Fake News Боты против уток. Сможет ли искусственный интеллект избавить соцсети от Fake News

Мы считаем, что интернет создан ради нас, но на деле его пользователи — боты

РБК
Пять вопросов педиатру Пять вопросов педиатру

Врач-педиатр, кандидат медицинских наук отвечает на вопросы о детском здоровье

9 месяцев
«Ждем, когда 5G станет реальностью, а не только поводом для хайпа» «Ждем, когда 5G станет реальностью, а не только поводом для хайпа»

Александр Чуб — о том, как в России развивается инфраструктура для сотовой связи

РБК
Энергетическая независимость: зачем России производить свои газовые турбины Энергетическая независимость: зачем России производить свои газовые турбины

Впервые в истории страны появится полностью своя газовая турбина

Inc.
Давид Ян: «В мире появится движение Robot lives matter» Давид Ян: «В мире появится движение Robot lives matter»

Давид Ян уверен, что нейросети нужен эмоциональный интеллект

РБК
Шкурный интерес Шкурный интерес

Как правильно выбрать ковер

Добрые советы
Рейтинг доверия Рейтинг доверия

Дмитрий Марков — о рисках и преимуществах биометрических систем

РБК
5 самых эпичных рукотворных объектов для экстремальных видов спорта 5 самых эпичных рукотворных объектов для экстремальных видов спорта

Быстрее, выше, глубже!

Maxim
То, чего не может быть То, чего не может быть

У любого униформологического парадокса есть своё историческое объяснение

Дилетант
«Нормально, Григорий! Отлично, Константин!»: как Михаил Жванецкий помогал стране переживать абсурдные эпохи «Нормально, Григорий! Отлично, Константин!»: как Михаил Жванецкий помогал стране переживать абсурдные эпохи

Как творчество Михаила Жванецкого повлияло на культуру России

Forbes
Три раза в день после еды Три раза в день после еды

Надо ли любить свои недостатки, особенно если это удается с трудом

Psychologies
Шпалера со смыслами Шпалера со смыслами

Фламандская шпалера середины XVI века

Дилетант
5 писателей-фантастов, предсказавших будущее 5 писателей-фантастов, предсказавших будущее

Этим авторам удалось предвидеть тенденции развития нашего мира

Популярная механика
Евгений Водолазкин: Оправдание острова. Отрывок из седьмого романа лауреата «Большой книги» Евгений Водолазкин: Оправдание острова. Отрывок из седьмого романа лауреата «Большой книги»

Отрывок из романа Евгения Водолазкина об острове, которого нет на картах

СНОБ
Псилоцибин помог при мигрени Псилоцибин помог при мигрени

Клиническое исследование показало эффективность псилоцибина при мигрени

N+1
«Парень он, конечно, неплохой…» Что не так с Льюисом Хэмилтоном и его чемпионскими титулами «Парень он, конечно, неплохой…» Что не так с Льюисом Хэмилтоном и его чемпионскими титулами

Размышления о Льюисе Хэмилтоне — чемпионе-рекордсмене «Формулы-1»

Maxim
Игорь Пальчицкий. Дотянуться до звезды Игорь Пальчицкий. Дотянуться до звезды

Двадцатого ноября Майе Плисецкой исполнилось бы девяносто пять лет

Караван историй

Комедия "Кавказская пленница прославила своих героев

Cosmopolitan
Скажи мне, кто твой друг… Скажи мне, кто твой друг…

Иногда подруги могут разрушить нашу жизнь

Лиза
«Бог всех пикапов»: Rezvani сделал 6-колёсный броневик Hercules «Бог всех пикапов»: Rezvani сделал 6-колёсный броневик Hercules

Американская компания Rezvani Motors представила новую модель Hercules 6x6

Популярная механика
«Женщины слишком эмоциональны и не умеют рисковать». Почему в российском венчуре так мало женщин «Женщины слишком эмоциональны и не умеют рисковать». Почему в российском венчуре так мало женщин

Почему венчур до сих пор остаётся «мужским клубом»?

Inc.
Дважды в Голливуде Дважды в Голливуде

«Афера по-голливудски» — ремейк культовой комедии 1980-х

Weekend
Дежурный по стране. Памяти Михаила Жванецкого — великого советского сатирика Дежурный по стране. Памяти Михаила Жванецкого — великого советского сатирика

Михаил Жванецкий — великий комедийный артист

Esquire
Девушка из «Завтрака у Тиффани»: как Маргарет Литтман вдохновила Трумена Капоте и собрала миллионы долларов на борьбу с ВИЧ Девушка из «Завтрака у Тиффани»: как Маргарет Литтман вдохновила Трумена Капоте и собрала миллионы долларов на борьбу с ВИЧ

Какой была Маргарет Литтман — прообраз героини Хепберн в «Завтраке у Тиффани»

Forbes
Палеонтологи разобрались в родственных связях древних и современных медоедов Палеонтологи разобрались в родственных связях древних и современных медоедов

Древний медоед был мельче современного и приходился ему сестринским видом

N+1
Меняю автомат на беспилотник Меняю автомат на беспилотник

Первое боестолкновение, где решающую роль сыграли беспилотные дроны

Популярная механика
Гедимин и его потомки Гедимин и его потомки

Все правители Москвы со времён Василия I были потомками литовских князей

Дилетант
Профессор Гарвардской школы бизнеса назвал самые большие ошибки компаний, переходящих на удаленку Профессор Гарвардской школы бизнеса назвал самые большие ошибки компаний, переходящих на удаленку

Ошибки, которые совершают компании, которые переходят на удаленку

Inc.
Открыть в приложении