Олег Бяхов — об этичных трендах и общении с искусственным интеллектом

РБКHi-Tech

Даже лучший алгоритм может навредить человеку

Олег Бяхов — об этичных трендах и общении с искусственным интеллектом.

Фото: Владислав Шатило для РБК

Один из краеугольных камней любого использования искусственного интеллекта (ИИ) — установка на то, что ИИ лишь дополняет человеческий. Любое важное решение, которое имеет этические аспекты, всегда должно приниматься человеком. В частности, IBM использует коллегиальные механизмы принятия решений и контроля для встраивания в бизнес-приложениях ИИ человеческой ответственности за окончательное решение. Таким образом, этика принятия решений остается за человеком.

На сегодняшний день самый обсуждаемый вопрос в контексте этики алгоритмов — это биометрические данные. В июле 2020 года IBM сняли с рынка всю линейку продуктов для распознавания лиц. Дело в том, что в 2018 году выяснилось, что большинство коммерческих продуктов в области распознавания лиц, которые поставлялись крупнейшими компаниями, включая IBM, имели уровень ошибки распознавания для белых мужчин гораздо ниже, чем уровень ошибки для темнокожих женщин. Достоверность распознавания белых мужчин — выше 97%, а темнокожих женщин — от 65 до 80%.

Если такого рода алгоритмы встраиваются в правоохранительную систему, то темнокожих женщин могут недостоверно подозревать в каком-либо преступлении. Чтобы исправить эту ситуацию, IBM выложила общедоступный набор данных, основанный на публично лицензированных фотоизображениях миллиона лиц. В то же время стандартные учебные датасеты включают около 2 тыс. изображений лиц, и более 70% из них — белые мужчины. И когда ты обучаешь машину на некорректном наборе данных, то как бы хорош ни был твой алгоритм, он все равно будет приходить к некорректным выводам.

IBM на рынке обработки данных находится многие десятилетия. Мы всегда относились к накопленной информации как к данным, которые принадлежат их владельцу, например пользователю. Поэтому для обучения алгоритмов мы всегда получаем согласие владельца данных на их использование.

Что касается этики использования, то несколько ИИ-сервисов для СМИ и маркетологов, например IBM Personality Insights, IBM Watson Advertising, IBM Watson Media, предназначены для вовлечения целевой аудитории онлайн за счет персонализации контентного или продуктового коридора. Тренд персонализации через десять лет приведет к тому, что у каждого человека появится возможность получать максимально кастомизированный, специально изготовленный под него продукт.

Олег Бяхов — директор по государственным программам и развитию бизнеса IBM в России и СНГ. Окончил философский факультет Ростовского госуниверситета по специальности «логика», в компании IBM работает с 2007 года.

По теме, затронутой Олегом Бяховым, высказались еще два эксперта тренда: Дмитрий Марков (статья «Рейтинг доверия») и Константин Синюшин (статья «Сохранить лицо»).

Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Рейтинг доверия Рейтинг доверия

Дмитрий Марков — о рисках и преимуществах биометрических систем

РБК
Сколько лет Вселенной — все версии Сколько лет Вселенной — все версии

Люди с древних времен интересовались возрастом Вселенной и, наконец, нашли ответ

Популярная механика
Двойная игра Двойная игра

Иван Бегтин — о больших данных и мире без секретов

РБК

История Елены Мухиной, звезды советской спортивной гимнастики

Cosmopolitan
Боты против уток. Сможет ли искусственный интеллект избавить соцсети от Fake News Боты против уток. Сможет ли искусственный интеллект избавить соцсети от Fake News

Мы считаем, что интернет создан ради нас, но на деле его пользователи — боты

РБК
30 лет покушению на Михаила Горбачева 30 лет покушению на Михаила Горбачева

Как советский слесарь невзлюбил генерального секретаря

Maxim
На ошибках учатся На ошибках учатся

Леонид Жуков — об ответственности людей и машин за принятие критических решений

РБК
Тепло севера Тепло севера

«Огонек» нашел в тундре молодую семью оленеводов

Огонёк
Давид Ян: «В мире появится движение Robot lives matter» Давид Ян: «В мире появится движение Robot lives matter»

Давид Ян уверен, что нейросети нужен эмоциональный интеллект

РБК
Канистра всех времен и народов — изобретение вермахта, благодаря которому союзники выиграли войну Канистра всех времен и народов — изобретение вермахта, благодаря которому союзники выиграли войну

На фронте мелочей не бывает

Maxim
С места – в карьеру: какие отрасли и профессии будут востребованы через 10–20 лет С места – в карьеру: какие отрасли и профессии будут востребованы через 10–20 лет

Перспективные отрасли, которые будут развиваться и нуждаться в новых кадрах

РБК
Любовь на миллиард: жены — настоящие и бывшие — 10 богатейших мужчин России Любовь на миллиард: жены — настоящие и бывшие — 10 богатейших мужчин России

Кого любят, кому изменяют и от кого уходят самые богатые мужчины страны?

Cosmopolitan
Неореализм Неореализм

Киану Ривз, человек в Голливуде, который нравится абсолютно всем

Esquire
«Копирование — это не кража, а трансформация»: Уиллем Дефо — о своем провальном старте и новом фильме «Сибирь» «Копирование — это не кража, а трансформация»: Уиллем Дефо — о своем провальном старте и новом фильме «Сибирь»

Уиллем Дефо о том, почему увольнение может быть радостным событием

Forbes
Няня для ребенка: как найти хорошую помощницу? Няня для ребенка: как найти хорошую помощницу?

Советы для тех, кто планирует нанимать няню для помощи с ребенком

9 месяцев
Как с помощью трёх документов предотвратить корпоративный конфликт и потерю бизнеса Как с помощью трёх документов предотвратить корпоративный конфликт и потерю бизнеса

Как минимизировать вероятность корпоративного конфликта в компании?

Inc.
«Королева TikTok»: чем знаменита и на чём зарабатывает 16-летняя Чарли Д'Амелио, первой набравшая 100 млн подписчиков «Королева TikTok»: чем знаменита и на чём зарабатывает 16-летняя Чарли Д'Амелио, первой набравшая 100 млн подписчиков

Годовой заработок тиктокерши Чарли Д'Амелио оценивают в $4 млн

VC.RU
Нефертити и Мария-Антуанетта: дизайнер показал, как они выглядели бы сейчас Нефертити и Мария-Антуанетта: дизайнер показал, как они выглядели бы сейчас

Тебе было интересно, как выглядели бы исторические личности, живи они сейчас?

Cosmopolitan
10 композиторов советского кино: от лучшего к самому лучшему 10 композиторов советского кино: от лучшего к самому лучшему

Как прекрасно звучала музыка в советских фильмах

Maxim
Алкогений: Петр Мамонов Алкогений: Петр Мамонов

Хмурым утром у ларька с пивом очередь расступалась, завидя Мамонова в пиджаке

Maxim
Как пробежать марафон. Инструкция Как пробежать марафон. Инструкция

Бывший спецназовец рассказывает, что делать, если вы захотели пробежать марафон

РБК
Общежитие для зумеров: что такое TikTok-дома и кто на них зарабатывает Общежитие для зумеров: что такое TikTok-дома и кто на них зарабатывает

Как 15-секундные ролики о совместном быте зумеров стали новым трендом в сети

Forbes
Книжная полочка Книжная полочка

Авторы подкаста «Мам, почитай!» советуют четыре истории на зимние каникулы

Glamour
Романтике быть! Классные идеи для пар со стажем Романтике быть! Классные идеи для пар со стажем

Узнаем, как освежить чувства и вернуть в семейную жизнь яркие моменты

Лиза
Когда в России прошла первая собачья выставка? Когда в России прошла первая собачья выставка?

Как и когда прошла первая отечественная выставка собак

Культура.РФ
5 трогательных фактов про крокодилов 5 трогательных фактов про крокодилов

Пять увлекательных фактов, после которых ты начнешь уважать крокодилов

Maxim
285 сценариев хаоса: как Дональд Трамп пытается остаться в Белом доме 285 сценариев хаоса: как Дональд Трамп пытается остаться в Белом доме

Какими способами Дональд Трамп пытается оспорить результаты выборов

Forbes
Постоянные мозговые штурмы мешают придумывать новые идеи, показало новое исследование Постоянные мозговые штурмы мешают придумывать новые идеи, показало новое исследование

Регулярная практика препятствует развитию творческого мышления

Inc.
«Каждый раз все говорят, что наш бизнес должен умереть»: президент «Азбуки Вкуса» — о пандемии, IPO и фудхакинге «Каждый раз все говорят, что наш бизнес должен умереть»: президент «Азбуки Вкуса» — о пандемии, IPO и фудхакинге

Как ретейл переживает пандемию и почему в кризис растут продажи еды и вина

Forbes
Spider-Man: Miles Morales — игра, которая разбудит в вас ребенка. Обзор одного из флагманов новой консоли PS5 Spider-Man: Miles Morales — игра, которая разбудит в вас ребенка. Обзор одного из флагманов новой консоли PS5

Обзор продолжения Spider-Man, где нужно сыграть за Майлза Моралеса

Esquire
Открыть в приложении