Олег Бяхов — об этичных трендах и общении с искусственным интеллектом

РБКHi-Tech

Даже лучший алгоритм может навредить человеку

Олег Бяхов — об этичных трендах и общении с искусственным интеллектом.

Фото: Владислав Шатило для РБК

Один из краеугольных камней любого использования искусственного интеллекта (ИИ) — установка на то, что ИИ лишь дополняет человеческий. Любое важное решение, которое имеет этические аспекты, всегда должно приниматься человеком. В частности, IBM использует коллегиальные механизмы принятия решений и контроля для встраивания в бизнес-приложениях ИИ человеческой ответственности за окончательное решение. Таким образом, этика принятия решений остается за человеком.

На сегодняшний день самый обсуждаемый вопрос в контексте этики алгоритмов — это биометрические данные. В июле 2020 года IBM сняли с рынка всю линейку продуктов для распознавания лиц. Дело в том, что в 2018 году выяснилось, что большинство коммерческих продуктов в области распознавания лиц, которые поставлялись крупнейшими компаниями, включая IBM, имели уровень ошибки распознавания для белых мужчин гораздо ниже, чем уровень ошибки для темнокожих женщин. Достоверность распознавания белых мужчин — выше 97%, а темнокожих женщин — от 65 до 80%.

Если такого рода алгоритмы встраиваются в правоохранительную систему, то темнокожих женщин могут недостоверно подозревать в каком-либо преступлении. Чтобы исправить эту ситуацию, IBM выложила общедоступный набор данных, основанный на публично лицензированных фотоизображениях миллиона лиц. В то же время стандартные учебные датасеты включают около 2 тыс. изображений лиц, и более 70% из них — белые мужчины. И когда ты обучаешь машину на некорректном наборе данных, то как бы хорош ни был твой алгоритм, он все равно будет приходить к некорректным выводам.

IBM на рынке обработки данных находится многие десятилетия. Мы всегда относились к накопленной информации как к данным, которые принадлежат их владельцу, например пользователю. Поэтому для обучения алгоритмов мы всегда получаем согласие владельца данных на их использование.

Что касается этики использования, то несколько ИИ-сервисов для СМИ и маркетологов, например IBM Personality Insights, IBM Watson Advertising, IBM Watson Media, предназначены для вовлечения целевой аудитории онлайн за счет персонализации контентного или продуктового коридора. Тренд персонализации через десять лет приведет к тому, что у каждого человека появится возможность получать максимально кастомизированный, специально изготовленный под него продукт.

Олег Бяхов — директор по государственным программам и развитию бизнеса IBM в России и СНГ. Окончил философский факультет Ростовского госуниверситета по специальности «логика», в компании IBM работает с 2007 года.

По теме, затронутой Олегом Бяховым, высказались еще два эксперта тренда: Дмитрий Марков (статья «Рейтинг доверия») и Константин Синюшин (статья «Сохранить лицо»).

Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Максим Федоров: искусственный интеллект в десяти вопросах и ответах Максим Федоров: искусственный интеллект в десяти вопросах и ответах

Профессор Сколтеха — об искусственном интеллекте и реальности сюжетов фантастики

РБК
Уличная мода, коллаборации и хайп – три кита современно­й моды Уличная мода, коллаборации и хайп – три кита современно­й моды

Интервью с японским дизайнером-гением Хироси Фудзивара

GQ
Разумные сомнения. Как критическое мышление помогает распознавать дезинформацию и противостоять манипуляциям Разумные сомнения. Как критическое мышление помогает распознавать дезинформацию и противостоять манипуляциям

Как не попадаться на обман и манипуляции собственного мозга и других людей

РБК
Что нужно знать о Маргерит Литтман — светской даме, активистке и прототипе героини Одри Хепберн Что нужно знать о Маргерит Литтман — светской даме, активистке и прототипе героини Одри Хепберн

Именно она вдохновила Трумена Капоте на историю «Завтрака у Тиффани»

Esquire
Давид Ян: «В мире появится движение Robot lives matter» Давид Ян: «В мире появится движение Robot lives matter»

Давид Ян уверен, что нейросети нужен эмоциональный интеллект

РБК
Как сложились судьбы детей свергнутых (или просто умерших) диктаторов современности Как сложились судьбы детей свергнутых (или просто умерших) диктаторов современности

Мурад Ниязов, Гульнара Каримова, Николае Чаушеску-младший — где они теперь?

Maxim
Станки и люди Станки и люди

Машина на службе у человека или человек в плену у машины? О чем говорит история

РБК
Пропавшая без вести: трагическая судьба легендарной детективщицы Агаты Кристи Пропавшая без вести: трагическая судьба легендарной детективщицы Агаты Кристи

Ты знала, что Агата Кристи недолюбливала Эркюля Пуаро?

Cosmopolitan
Рейтинг доверия Рейтинг доверия

Дмитрий Марков — о рисках и преимуществах биометрических систем

РБК
Как почистить свой ноутбук, не сломав его Как почистить свой ноутбук, не сломав его

Всегда можно сэкономить на покупке нового компьютера, умело протерев старый

Maxim
Следствие на крови Следствие на крови

Каким пыткам подвергался сын Петра I

Дилетант
Песнь льда и пламени Песнь льда и пламени

Сказка «Серебряные коньки» станет звездным часом для этих питерских актеров

Vogue
Уроки новой «войны» Уроки новой «войны»

Как вести себя инвестору, когда будут случаться внешние шоки

Forbes
Напустил туман Напустил туман

Георгианский особняк в Лондоне и традиционный английский интерьер

AD
Никита Кукушкин: «Свои желания я исполняю сам» Никита Кукушкин: «Свои желания я исполняю сам»

Актер театра и кино – о новогодних сюрпризах и разочарованиях

Cosmopolitan
Как два программиста из России зарабатывают миллионы долларов на виртуальной обстановке квартир Как два программиста из России зарабатывают миллионы долларов на виртуальной обстановке квартир

Созданный ими под себя сервис Planner 5D привлек $1,5 млн инвестиций

Forbes
«Столкнулся с возражением? Давай, убей его»: почему авторитет, основанный на власти, больше не работает «Столкнулся с возражением? Давай, убей его»: почему авторитет, основанный на власти, больше не работает

Отрывок из книги Джослин Дэвис «Искусство мягкого влияния»

Forbes
История ученых, ставших фантастами: Дерек Кюнскен и Марк Лоуренс История ученых, ставших фантастами: Дерек Кюнскен и Марк Лоуренс

Дерек Кюнскен и Марк Лоуренс — биолог и математик, ставшие писателями-фантастами

Популярная механика
Ни единой соринки! Ни единой соринки!

Универсальный гид по наведению порядка

Лиза
Брат средневековой пушки: начало истории автомобильных двигателей Брат средневековой пушки: начало истории автомобильных двигателей

Экскурс в историю двигателестроения

Популярная механика
Общежитие для зумеров: что такое TikTok-дома и кто на них зарабатывает Общежитие для зумеров: что такое TikTok-дома и кто на них зарабатывает

Как 15-секундные ролики о совместном быте зумеров стали новым трендом в сети

Forbes
Справедливость для IT-миллиардера: что ждет Кремниевую долину после победы Байдена Справедливость для IT-миллиардера: что ждет Кремниевую долину после победы Байдена

Джо Байден планирует повысить налоги для обеспеченных американцев

Forbes
Как ухаживать за замшевой обувью: эксплуатация, чистка и 6 лучших средств Как ухаживать за замшевой обувью: эксплуатация, чистка и 6 лучших средств

Замшевая обувь неприхотлива в уходе, но даже тут есть свои нюансы и тонкости

Cosmopolitan
Неандертальцев уличили в сильном хвате Неандертальцев уличили в сильном хвате

Антропологи построили 3D-модель кисти неандертальца

N+1
«Не со мной»: как мы реагируем на насилие по отношению к другим «Не со мной»: как мы реагируем на насилие по отношению к другим

Почему мы иногда замираем от ужаса, увидев ссору или драку?

Psychologies
«Мы планируем жизнь по минутам, а в Средневековье даже не было часов»: Евгений Водолазкин о времени, вечности и новом романе «Мы планируем жизнь по минутам, а в Средневековье даже не было часов»: Евгений Водолазкин о времени, вечности и новом романе

Интервью с писателем Евгением Водолазкиным о его новом романе

Forbes
«Игры гормонов» «Игры гормонов»

Отрывок из книги Марти Хейзелтон «Игры гормонов»

N+1
Путь нутрициолога или как питание может изменить жизнь Путь нутрициолога или как питание может изменить жизнь

Расспрашиваем Нату Гончар о нюансах профессии нутрициолога и правильном питании

Cosmopolitan
Древнее индейское проклятие продолжает убивать президентов США. Джо Байден в группе риска! Древнее индейское проклятие продолжает убивать президентов США. Джо Байден в группе риска!

Это не бред сивых уфологов с РЕН ТВ, а исторически задокументированная история.

Maxim
За кулисами пуска За кулисами пуска

Старт космической ракеты – зрелище без преувеличения грандиозное

Популярная механика
Открыть в приложении