Олег Бяхов — об этичных трендах и общении с искусственным интеллектом

РБКHi-Tech

Даже лучший алгоритм может навредить человеку

Олег Бяхов — об этичных трендах и общении с искусственным интеллектом.

Фото: Владислав Шатило для РБК

Один из краеугольных камней любого использования искусственного интеллекта (ИИ) — установка на то, что ИИ лишь дополняет человеческий. Любое важное решение, которое имеет этические аспекты, всегда должно приниматься человеком. В частности, IBM использует коллегиальные механизмы принятия решений и контроля для встраивания в бизнес-приложениях ИИ человеческой ответственности за окончательное решение. Таким образом, этика принятия решений остается за человеком.

На сегодняшний день самый обсуждаемый вопрос в контексте этики алгоритмов — это биометрические данные. В июле 2020 года IBM сняли с рынка всю линейку продуктов для распознавания лиц. Дело в том, что в 2018 году выяснилось, что большинство коммерческих продуктов в области распознавания лиц, которые поставлялись крупнейшими компаниями, включая IBM, имели уровень ошибки распознавания для белых мужчин гораздо ниже, чем уровень ошибки для темнокожих женщин. Достоверность распознавания белых мужчин — выше 97%, а темнокожих женщин — от 65 до 80%.

Если такого рода алгоритмы встраиваются в правоохранительную систему, то темнокожих женщин могут недостоверно подозревать в каком-либо преступлении. Чтобы исправить эту ситуацию, IBM выложила общедоступный набор данных, основанный на публично лицензированных фотоизображениях миллиона лиц. В то же время стандартные учебные датасеты включают около 2 тыс. изображений лиц, и более 70% из них — белые мужчины. И когда ты обучаешь машину на некорректном наборе данных, то как бы хорош ни был твой алгоритм, он все равно будет приходить к некорректным выводам.

IBM на рынке обработки данных находится многие десятилетия. Мы всегда относились к накопленной информации как к данным, которые принадлежат их владельцу, например пользователю. Поэтому для обучения алгоритмов мы всегда получаем согласие владельца данных на их использование.

Что касается этики использования, то несколько ИИ-сервисов для СМИ и маркетологов, например IBM Personality Insights, IBM Watson Advertising, IBM Watson Media, предназначены для вовлечения целевой аудитории онлайн за счет персонализации контентного или продуктового коридора. Тренд персонализации через десять лет приведет к тому, что у каждого человека появится возможность получать максимально кастомизированный, специально изготовленный под него продукт.

Олег Бяхов — директор по государственным программам и развитию бизнеса IBM в России и СНГ. Окончил философский факультет Ростовского госуниверситета по специальности «логика», в компании IBM работает с 2007 года.

По теме, затронутой Олегом Бяховым, высказались еще два эксперта тренда: Дмитрий Марков (статья «Рейтинг доверия») и Константин Синюшин (статья «Сохранить лицо»).

Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Давид Ян: «В мире появится движение Robot lives matter» Давид Ян: «В мире появится движение Robot lives matter»

Давид Ян уверен, что нейросети нужен эмоциональный интеллект

РБК
Старина DJ Groove: ничего положительного из локдауна я не вынес Старина DJ Groove: ничего положительного из локдауна я не вынес

Playboy задал 25 коротких вопросов легендарному Груву

Playboy
На ошибках учатся На ошибках учатся

Леонид Жуков — об ответственности людей и машин за принятие критических решений

РБК
Как погибший в Сочи Игорь Коропов создал одну из самых крупных компаний на рынке онлайн-образования России Как погибший в Сочи Игорь Коропов создал одну из самых крупных компаний на рынке онлайн-образования России

Кем был Игорь Коропов и как он развивал Skillbox

Forbes
Максим Федоров: искусственный интеллект в десяти вопросах и ответах Максим Федоров: искусственный интеллект в десяти вопросах и ответах

Профессор Сколтеха — об искусственном интеллекте и реальности сюжетов фантастики

РБК
В каких продуктах содержится витамин А и как восполнить его дефицит В каких продуктах содержится витамин А и как восполнить его дефицит

Витамин А выполняет множество важных функций в организме, но как его восполнить?

РБК
Рейтинг доверия Рейтинг доверия

Дмитрий Марков — о рисках и преимуществах биометрических систем

РБК
Романтике быть! Классные идеи для пар со стажем Романтике быть! Классные идеи для пар со стажем

Узнаем, как освежить чувства и вернуть в семейную жизнь яркие моменты

Лиза
Станки и люди Станки и люди

Машина на службе у человека или человек в плену у машины? О чем говорит история

РБК
Писатели и мода. Часть 1 Писатели и мода. Часть 1

Правда ли Лев Толстой постоянно ходил босиком?

Культура.РФ
«И теперь я точно знаю, что семья — это самый главный, самый трудный бизнес-проект в жизни» «И теперь я точно знаю, что семья — это самый главный, самый трудный бизнес-проект в жизни»

Владимир Потанин рассказал о своих жизненных ценностях и мотивации

Forbes
Toyota C-HR. Восторг и недоумение Toyota C-HR. Восторг и недоумение

Toyota C-HR — автомобиль, который можно смело назвать дизайнерским

4x4 Club
Три раза в день после еды Три раза в день после еды

Надо ли любить свои недостатки, особенно если это удается с трудом

Psychologies
Союз спасения Союз спасения

Молодые герои и героини филантропии и социального бизнеса — о своих проектах

Vogue
Орели Валонь: Наши очаровательные невестки. Первая глава Орели Валонь: Наши очаровательные невестки. Первая глава

Отрывок из книги Орели Валонь «Наши очаровательные невестки»

СНОБ
Приключения иностранцев в России Приключения иностранцев в России

Иностранцы вспоминают, как 30 лет назад оказались в новом государстве — России

GQ
«Женщины слишком эмоциональны и не умеют рисковать». Почему в российском венчуре так мало женщин «Женщины слишком эмоциональны и не умеют рисковать». Почему в российском венчуре так мало женщин

Почему венчур до сих пор остаётся «мужским клубом»?

Inc.
Книжная полочка Книжная полочка

Авторы подкаста «Мам, почитай!» советуют четыре истории на зимние каникулы

Glamour
Дружба на расстоянии Дружба на расстоянии

Сохранить отношения с лучшими друзьями всегда легко, было бы желание

Здоровье
Безумие близнецов: загадочный психоз сестер Урсулы и Сабины Эриксон Безумие близнецов: загадочный психоз сестер Урсулы и Сабины Эриксон

В 2008 году о шведских сестрах-близнецах Эриксон писали все британские газеты

Cosmopolitan
Какие американские президенты были в хороших отношениях с Россией и чем это закончилось Какие американские президенты были в хороших отношениях с Россией и чем это закончилось

Мир и дружба до появления жвачки

Maxim
7 знаменитых мужчин, которые женились на своих секретаршах 7 знаменитых мужчин, которые женились на своих секретаршах

Почему мужчины, которые могут выбрать любую, выбирают ту, что поближе?

Maxim
10 советов, которые помогут вам сформировать здоровое отношение к технологиям 10 советов, которые помогут вам сформировать здоровое отношение к технологиям

Зои Астон укажет путь к разумным взаимоотношениям с экранами ваших устройств

GQ
Бизнес в особом режиме Бизнес в особом режиме

Московская область — один из благоприятных регионов для развития формата ОЭЗ

РБК
«Искусство не терпит трафаретов» «Искусство не терпит трафаретов»

История жизни Ильи Репина в его картинах

Культура.РФ
Все дороги ведут в стрим Все дороги ведут в стрим

Разбираемся, что лучше смотреть на стриминговых сервисах, доступных в России

Playboy
Измена: как переписать сценарий предков и не повторять их ошибок Измена: как переписать сценарий предков и не повторять их ошибок

Как родительская история может влиять на супружескую измену?

Psychologies
Она вам к лицу Она вам к лицу

Что такое маскне и почему пандемия — не повод для проблем с кожей

Vogue
Робокопы. Полиция будущего Робокопы. Полиция будущего

Роботы на службе у полиции: опасен ли для человека искусственный интеллект?

Playboy
Интервью с кинокритиком Гордеем Петриком Интервью с кинокритиком Гордеем Петриком

Интервью с 17-летним кинокритиком Гордеем Петриком

СНОБ
Открыть в приложении