Олег Бяхов — об этичных трендах и общении с искусственным интеллектом

РБКHi-Tech

Даже лучший алгоритм может навредить человеку

Олег Бяхов — об этичных трендах и общении с искусственным интеллектом.

Фото: Владислав Шатило для РБК

Один из краеугольных камней любого использования искусственного интеллекта (ИИ) — установка на то, что ИИ лишь дополняет человеческий. Любое важное решение, которое имеет этические аспекты, всегда должно приниматься человеком. В частности, IBM использует коллегиальные механизмы принятия решений и контроля для встраивания в бизнес-приложениях ИИ человеческой ответственности за окончательное решение. Таким образом, этика принятия решений остается за человеком.

На сегодняшний день самый обсуждаемый вопрос в контексте этики алгоритмов — это биометрические данные. В июле 2020 года IBM сняли с рынка всю линейку продуктов для распознавания лиц. Дело в том, что в 2018 году выяснилось, что большинство коммерческих продуктов в области распознавания лиц, которые поставлялись крупнейшими компаниями, включая IBM, имели уровень ошибки распознавания для белых мужчин гораздо ниже, чем уровень ошибки для темнокожих женщин. Достоверность распознавания белых мужчин — выше 97%, а темнокожих женщин — от 65 до 80%.

Если такого рода алгоритмы встраиваются в правоохранительную систему, то темнокожих женщин могут недостоверно подозревать в каком-либо преступлении. Чтобы исправить эту ситуацию, IBM выложила общедоступный набор данных, основанный на публично лицензированных фотоизображениях миллиона лиц. В то же время стандартные учебные датасеты включают около 2 тыс. изображений лиц, и более 70% из них — белые мужчины. И когда ты обучаешь машину на некорректном наборе данных, то как бы хорош ни был твой алгоритм, он все равно будет приходить к некорректным выводам.

IBM на рынке обработки данных находится многие десятилетия. Мы всегда относились к накопленной информации как к данным, которые принадлежат их владельцу, например пользователю. Поэтому для обучения алгоритмов мы всегда получаем согласие владельца данных на их использование.

Что касается этики использования, то несколько ИИ-сервисов для СМИ и маркетологов, например IBM Personality Insights, IBM Watson Advertising, IBM Watson Media, предназначены для вовлечения целевой аудитории онлайн за счет персонализации контентного или продуктового коридора. Тренд персонализации через десять лет приведет к тому, что у каждого человека появится возможность получать максимально кастомизированный, специально изготовленный под него продукт.

Олег Бяхов — директор по государственным программам и развитию бизнеса IBM в России и СНГ. Окончил философский факультет Ростовского госуниверситета по специальности «логика», в компании IBM работает с 2007 года.

По теме, затронутой Олегом Бяховым, высказались еще два эксперта тренда: Дмитрий Марков (статья «Рейтинг доверия») и Константин Синюшин (статья «Сохранить лицо»).

Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Боты против уток. Сможет ли искусственный интеллект избавить соцсети от Fake News Боты против уток. Сможет ли искусственный интеллект избавить соцсети от Fake News

Мы считаем, что интернет создан ради нас, но на деле его пользователи — боты

РБК
Саудовская Аравия Саудовская Аравия

Люди, прошлое, религия, противоречия – и будущее

kiozk originals
Двойная игра Двойная игра

Иван Бегтин — о больших данных и мире без секретов

РБК
Дважды в Голливуде Дважды в Голливуде

«Афера по-голливудски» — ремейк культовой комедии 1980-х

Weekend
Шахзад Ансари: «У подрывных инноваций есть и темная сторона» Шахзад Ансари: «У подрывных инноваций есть и темная сторона»

Беседа с ведущим экспертом по внедрению инноваций Шахзадом Ансари

РБК
Дикий и забытый: факты и мифы о невероятном Lamborghini LM002 Дикий и забытый: факты и мифы о невероятном Lamborghini LM002

Самый скандальный и неожиданный итальянский внедорожник Lamborghini LM002

Популярная механика
Давид Ян: «В мире появится движение Robot lives matter» Давид Ян: «В мире появится движение Robot lives matter»

Давид Ян уверен, что нейросети нужен эмоциональный интеллект

РБК
Как оценить стоимость стартапа. Ультимативное руководство для фаундера Как оценить стоимость стартапа. Ультимативное руководство для фаундера

Мир венчурных инвестиций особенно загадочен в части оценки стоимости стартапов

Inc.
Рейтинг доверия Рейтинг доверия

Дмитрий Марков — о рисках и преимуществах биометрических систем

РБК
Ученые, ставшие фантастами: Стивен Эриксон и Адам Пшехшта Ученые, ставшие фантастами: Стивен Эриксон и Адам Пшехшта

Ученые Стивен Эриксон и Адам Пшехшта стали фантастами. Рассказываем о них

Популярная механика
5 невероятных проектов для борьбы с потеплением 5 невероятных проектов для борьбы с потеплением

Как люди собираются противостоять глобальному потеплению

Популярная механика
Правила жизни Роберто Кавалли Правила жизни Роберто Кавалли

Правила жизни основателя бренда Roberto Cavalli

Esquire
Трагическое наследство Трагическое наследство

Как Катерина Босов оказалась втянутой в борьбу за активы мужа

Forbes
Мы с вами давно знакомы Мы с вами давно знакомы

Саксония – самый восточный регион Германии – всегда привлекала русских туристов

Лиза
Электроды на лице и шее позволили нейросети озвучить беззвучную речь Электроды на лице и шее позволили нейросети озвучить беззвучную речь

Алгоритм научили считывать сокращения мышц во время беззвучной речи

N+1
Марта Кетро о великолепных мужчинах: что остаётся после ярких романов Марта Кетро о великолепных мужчинах: что остаётся после ярких романов

Сильные и талантливые мужчины иной раз оставляют огромный след в наших жизнях

Cosmopolitan
От «Сверхъестественного» до «Тьмы»: 7 мистических сериалов От «Сверхъестественного» до «Тьмы»: 7 мистических сериалов

Семь лучших телешоу, которые позволят ненадолго уйти от реальности

РБК
«Совместимость. Как контролировать искусственный интеллект» «Совместимость. Как контролировать искусственный интеллект»

Отрывок из книги Стюарта Рассела об искусственном интеллекте

N+1
Сколько состояний материи вы сможете назвать: мир вокруг нас Сколько состояний материи вы сможете назвать: мир вокруг нас

Все мы знаем о том, что есть три агрегатных состояния вещества

Популярная механика
Дети за новогодним столом Дети за новогодним столом

Как максимально безопасно для детей провести Новый год праздник за общим столом

Здоровье
«Теперь спорт – только в удовольствие» «Теперь спорт – только в удовольствие»

Татьяна убедилась, что жесткие диеты, позволяют похудеть, но ненадолго

Худеем правильно
Портрет писателя с котиком Портрет писателя с котиком

Домашние животные, помогавшие писателям писать

Weekend
Завезенных в Австралию ос назвали угрозой безопасности авиаперелетов Завезенных в Австралию ос назвали угрозой безопасности авиаперелетов

Гнезда насекомых могут привести к катастрофе

N+1
8 секретов, спрятанных в известных картинах 8 секретов, спрятанных в известных картинах

У великих мастеров и пасхалки великие!

Maxim
9 актеров, у которых есть реквизит из знаменитых фильмов 9 актеров, у которых есть реквизит из знаменитых фильмов

Как говорится, мелочь, а потом можно продать за кучу денег!

Maxim

Накануне своего 80-летия сэр Патрик Стюарт рассказывает о своей жизни и карьере

Playboy
Нейросеть напрямую определила пищевую ценность блюда по фотографии Нейросеть напрямую определила пищевую ценность блюда по фотографии

Новый алгоритм напрямую определяет содержание белков, жиров и углеводов в блюдах

N+1
Пришла в чувство Пришла в чувство

Актриса Юлия Персильд рассказала, что делать с внезапно нахлынувшим чувством

Grazia
Энергия из воздуха. Как развивается ветряная генерация в России и мире Энергия из воздуха. Как развивается ветряная генерация в России и мире

Как Россия вводит в эксплуатацию экологически чистую энергию ветра

Inc.
Все провалы Илона Маска одним списком Все провалы Илона Маска одним списком

Veni, vidi, vici — это точно не про Илона Маска

Maxim
Открыть в приложении