Олег Бяхов — об этичных трендах и общении с искусственным интеллектом

РБКHi-Tech

Даже лучший алгоритм может навредить человеку

Олег Бяхов — об этичных трендах и общении с искусственным интеллектом.

Фото: Владислав Шатило для РБК

Один из краеугольных камней любого использования искусственного интеллекта (ИИ) — установка на то, что ИИ лишь дополняет человеческий. Любое важное решение, которое имеет этические аспекты, всегда должно приниматься человеком. В частности, IBM использует коллегиальные механизмы принятия решений и контроля для встраивания в бизнес-приложениях ИИ человеческой ответственности за окончательное решение. Таким образом, этика принятия решений остается за человеком.

На сегодняшний день самый обсуждаемый вопрос в контексте этики алгоритмов — это биометрические данные. В июле 2020 года IBM сняли с рынка всю линейку продуктов для распознавания лиц. Дело в том, что в 2018 году выяснилось, что большинство коммерческих продуктов в области распознавания лиц, которые поставлялись крупнейшими компаниями, включая IBM, имели уровень ошибки распознавания для белых мужчин гораздо ниже, чем уровень ошибки для темнокожих женщин. Достоверность распознавания белых мужчин — выше 97%, а темнокожих женщин — от 65 до 80%.

Если такого рода алгоритмы встраиваются в правоохранительную систему, то темнокожих женщин могут недостоверно подозревать в каком-либо преступлении. Чтобы исправить эту ситуацию, IBM выложила общедоступный набор данных, основанный на публично лицензированных фотоизображениях миллиона лиц. В то же время стандартные учебные датасеты включают около 2 тыс. изображений лиц, и более 70% из них — белые мужчины. И когда ты обучаешь машину на некорректном наборе данных, то как бы хорош ни был твой алгоритм, он все равно будет приходить к некорректным выводам.

IBM на рынке обработки данных находится многие десятилетия. Мы всегда относились к накопленной информации как к данным, которые принадлежат их владельцу, например пользователю. Поэтому для обучения алгоритмов мы всегда получаем согласие владельца данных на их использование.

Что касается этики использования, то несколько ИИ-сервисов для СМИ и маркетологов, например IBM Personality Insights, IBM Watson Advertising, IBM Watson Media, предназначены для вовлечения целевой аудитории онлайн за счет персонализации контентного или продуктового коридора. Тренд персонализации через десять лет приведет к тому, что у каждого человека появится возможность получать максимально кастомизированный, специально изготовленный под него продукт.

Олег Бяхов — директор по государственным программам и развитию бизнеса IBM в России и СНГ. Окончил философский факультет Ростовского госуниверситета по специальности «логика», в компании IBM работает с 2007 года.

По теме, затронутой Олегом Бяховым, высказались еще два эксперта тренда: Дмитрий Марков (статья «Рейтинг доверия») и Константин Синюшин (статья «Сохранить лицо»).

Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Вячеслав Дубынин: «В нас конкурируют две программы — безопасности и любопытства» Вячеслав Дубынин: «В нас конкурируют две программы — безопасности и любопытства»

О разрушении модели мира, неопределенности и извлечении пользы из тревожности

РБК
Дебоширы и насильники: Депп и другие звезды, потерявшие работу из-за скандала Дебоширы и насильники: Депп и другие звезды, потерявшие работу из-за скандала

Поведение актеров порой становится основанием для немедленного лишения всех прав

Cosmopolitan
Рейтинг доверия Рейтинг доверия

Дмитрий Марков — о рисках и преимуществах биометрических систем

РБК
Лучший попутчик. Правила путешествия с собакой Лучший попутчик. Правила путешествия с собакой

Для собаки путешествие — это новый мир запахов, вкусов, встреч и просторов

4x4 Club
Бизнес в особом режиме Бизнес в особом режиме

Московская область — один из благоприятных регионов для развития формата ОЭЗ

РБК
На глазок не верь, на весах проверь На глазок не верь, на весах проверь

Как наладить отношения с весами?

Худеем правильно
Станки и люди Станки и люди

Машина на службе у человека или человек в плену у машины? О чем говорит история

РБК
«Остров дядюшки Сэма» «Остров дядюшки Сэма»

Слава Алькатраса вышла далеко за пределы США

Дилетант
Давид Ян: «В мире появится движение Robot lives matter» Давид Ян: «В мире появится движение Robot lives matter»

Давид Ян уверен, что нейросети нужен эмоциональный интеллект

РБК
Андрей Алексеенко: «Кровеносная система» бизнеса. Почему предпринимателям нужно обратить внимание на аналитику данных Андрей Алексеенко: «Кровеносная система» бизнеса. Почему предпринимателям нужно обратить внимание на аналитику данных

Рынок аналитики данных развивается стремительными темпами

СНОБ
Последний сезон Последний сезон

Андрей Подшибякин — о том, почему кино превратилось в бесконечный сиквел

GQ
Почему в России так не любят шпионов Почему в России так не любят шпионов

Шпион – это зло абсолютное, неисправимое

GQ
Осколок зеркала Осколок зеркала

Новая концепция космоса слишком земная

Esquire
Цель визита в Россию: осмотр достопримечательностей Цель визита в Россию: осмотр достопримечательностей

Главные герои сериала «Шерлок в России» Максим Матвеев и Владимир Мишуков

OK!
Главные ошибки, которые совершают компании, перешедшие на удаленку Главные ошибки, которые совершают компании, перешедшие на удаленку

Далеко не все компании смогли грамотно перевести работников в удаленный формат

Playboy
7 фактов о первом «Чужом» плюс полная хронология вселенной Чужих 7 фактов о первом «Чужом» плюс полная хронология вселенной Чужих

Ридли Скотт — человек, который в себе тайком провез с небес Чужого людям

Maxim
Как избежать ошибок с широкими брюками: модные правила от стилиста Как избежать ошибок с широкими брюками: модные правила от стилиста

Стилист объясняет, как носить брюки-палаццо

Cosmopolitan
Лицо с экрана 2020 года: Алексей Пивоваров Лицо с экрана 2020 года: Алексей Пивоваров

Алексей Пивоваров доказал, что на YouTube есть место новостной повестке

GQ
21 способ сосредоточиться 21 способ сосредоточиться

Навыки концентрации внимания необходимы и в личной, и в профессиональной жизни

Psychologies
Старый — значит надежный: почему некоторые вещи с годами становятся только красивее и как они стали модными Старый — значит надежный: почему некоторые вещи с годами становятся только красивее и как они стали модными

Рассказываем, как старение вещей из досадной неизбежности превратилось в тренд

Esquire
Быт с привилегиями: чем «Городок чекистов» в Екатеринбурге отличался от других советских районов Быт с привилегиями: чем «Городок чекистов» в Екатеринбурге отличался от других советских районов

История и современность района Екатеринбурга, известного как «Городок чекистов»

VC.RU
«Титаник» XII века: кораблекрушение, изменившее историю «Титаник» XII века: кораблекрушение, изменившее историю

900 лет назад произошло кораблекрушение «Белого корабля».

Maxim
«Большая маленькая ложь»: выдающаяся история о проблемах среднего класса и женской доле «Большая маленькая ложь»: выдающаяся история о проблемах среднего класса и женской доле

И выдающаяся актерская игра Риз Уизерспун и Николь Кидман

Esquire
5 глупых вещей, которые навсегда изменили наш мир 5 глупых вещей, которые навсегда изменили наш мир

Иногда какая-нибудь табуретка может сделать для истории больше, чем президент

Maxim
Центральноамериканских капуцинов застали за каннибализмом Центральноамериканских капуцинов застали за каннибализмом

Зоологи застали двух приматов за поеданием детеныша собственного вида

N+1
Главные современные хоррор-режиссеры Главные современные хоррор-режиссеры

Кого мы должны благодарить за мурашки по коже и страх темноты и клоунов

GQ
«Мы все, начиная с Чулпан, в этой стране первопроходцы»: Ингеборга Дапкунайте — о фонде «Вера», эффективной благотворительности и реакции на критику «Мы все, начиная с Чулпан, в этой стране первопроходцы»: Ингеборга Дапкунайте — о фонде «Вера», эффективной благотворительности и реакции на критику

Интервью с Ингеборгой Дапкунайте о благотворительности, черных экранах и критике

Forbes
Величайший арт-директор Esquire Джордж Лоис: от big idea к большому стилю Величайший арт-директор Esquire Джордж Лоис: от big idea к большому стилю

Самые знаменитые обложки Джорджа Лоиса и его влияние на мировую культуру

Esquire
Зачем ресторанам нужна барная карта Зачем ресторанам нужна барная карта

Как хорошие коктейли могут вывести ресторан на совершенно другой уровень

GQ
Ученые зарегистрировали передачу вируса Чапаре от человека к человеку Ученые зарегистрировали передачу вируса Чапаре от человека к человеку

Вирус Чапаре может передаваться от человека к человеку в медицинских учреждениях

N+1
Открыть в приложении