Олег Бяхов — об этичных трендах и общении с искусственным интеллектом

РБКHi-Tech

Даже лучший алгоритм может навредить человеку

Олег Бяхов — об этичных трендах и общении с искусственным интеллектом.

Фото: Владислав Шатило для РБК

Один из краеугольных камней любого использования искусственного интеллекта (ИИ) — установка на то, что ИИ лишь дополняет человеческий. Любое важное решение, которое имеет этические аспекты, всегда должно приниматься человеком. В частности, IBM использует коллегиальные механизмы принятия решений и контроля для встраивания в бизнес-приложениях ИИ человеческой ответственности за окончательное решение. Таким образом, этика принятия решений остается за человеком.

На сегодняшний день самый обсуждаемый вопрос в контексте этики алгоритмов — это биометрические данные. В июле 2020 года IBM сняли с рынка всю линейку продуктов для распознавания лиц. Дело в том, что в 2018 году выяснилось, что большинство коммерческих продуктов в области распознавания лиц, которые поставлялись крупнейшими компаниями, включая IBM, имели уровень ошибки распознавания для белых мужчин гораздо ниже, чем уровень ошибки для темнокожих женщин. Достоверность распознавания белых мужчин — выше 97%, а темнокожих женщин — от 65 до 80%.

Если такого рода алгоритмы встраиваются в правоохранительную систему, то темнокожих женщин могут недостоверно подозревать в каком-либо преступлении. Чтобы исправить эту ситуацию, IBM выложила общедоступный набор данных, основанный на публично лицензированных фотоизображениях миллиона лиц. В то же время стандартные учебные датасеты включают около 2 тыс. изображений лиц, и более 70% из них — белые мужчины. И когда ты обучаешь машину на некорректном наборе данных, то как бы хорош ни был твой алгоритм, он все равно будет приходить к некорректным выводам.

IBM на рынке обработки данных находится многие десятилетия. Мы всегда относились к накопленной информации как к данным, которые принадлежат их владельцу, например пользователю. Поэтому для обучения алгоритмов мы всегда получаем согласие владельца данных на их использование.

Что касается этики использования, то несколько ИИ-сервисов для СМИ и маркетологов, например IBM Personality Insights, IBM Watson Advertising, IBM Watson Media, предназначены для вовлечения целевой аудитории онлайн за счет персонализации контентного или продуктового коридора. Тренд персонализации через десять лет приведет к тому, что у каждого человека появится возможность получать максимально кастомизированный, специально изготовленный под него продукт.

Олег Бяхов — директор по государственным программам и развитию бизнеса IBM в России и СНГ. Окончил философский факультет Ростовского госуниверситета по специальности «логика», в компании IBM работает с 2007 года.

По теме, затронутой Олегом Бяховым, высказались еще два эксперта тренда: Дмитрий Марков (статья «Рейтинг доверия») и Константин Синюшин (статья «Сохранить лицо»).

Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Нейросеть GPT-3: «Роботы никогда не заменят потребность в людях» Нейросеть GPT-3: «Роботы никогда не заменят потребность в людях»

Собеседник РБК — третье поколение алгоритма по обработке естественного языка

РБК
Авторская кухня Авторская кухня

Ресторатор Илья Тютенков за девять лет запустил шесть модных заведений в Москве

Forbes
Город без нагромождений Город без нагромождений

Новое оборудование для сотовых сетей не портит городских пейзажей

РБК
Чтобы мечты сбывались Чтобы мечты сбывались

Чтобы изменить жизнь, нужно правильно ставить цели и формулировать желания

Добрые советы
Станки и люди Станки и люди

Машина на службе у человека или человек в плену у машины? О чем говорит история

РБК
7 знаменитых мужчин, которые женились на своих секретаршах 7 знаменитых мужчин, которые женились на своих секретаршах

Почему мужчины, которые могут выбрать любую, выбирают ту, что поближе?

Maxim
Рейтинг доверия Рейтинг доверия

Дмитрий Марков — о рисках и преимуществах биометрических систем

РБК
Не любовь, а саморазрушение: история отношений Мадонны и Шона Пенна Не любовь, а саморазрушение: история отношений Мадонны и Шона Пенна

Любовь Мадонны и Пенна как в старом итальянском кино: с битой посудой и криками

Cosmopolitan
Давид Ян: «В мире появится движение Robot lives matter» Давид Ян: «В мире появится движение Robot lives matter»

Давид Ян уверен, что нейросети нужен эмоциональный интеллект

РБК
«В Москву едут слабаки». Уральский предприниматель — о том, почему вести бизнес в регионах круче «В Москву едут слабаки». Уральский предприниматель — о том, почему вести бизнес в регионах круче

Переезд в Москву — поиск ответа на вопросы: где лучше жить и где лучше работать

Inc.
Отсечь и отпустить Отсечь и отпустить

Принципы жизни Бурятии

Вокруг света
Мало, мало, мало огня Мало, мало, мало огня

Год, когда непостижимость божественного замысла включилась на максимум

Tatler
Азбука устойчивого развития Азбука устойчивого развития

Определения наиболее актуальных терминов и явлений новой «зеленой» экономики

РБК
Обзор беспроводных наушников Philips TAPH805BK: музыка без лишнего шума Обзор беспроводных наушников Philips TAPH805BK: музыка без лишнего шума

Тестируем полноразмерные Bluetooth-наушники от Philips

CHIP
20 ошибок при самостоятельном окрашивании волос, которых легко избежать 20 ошибок при самостоятельном окрашивании волос, которых легко избежать

Что греха таить: все мы периодически красим (и портим) волосы дома

Cosmopolitan
Лучшие фильмы про Англию Лучшие фильмы про Англию

Фильмы о старом Лондоне, поместьях аристократов и пабах

GQ
Тогда и сейчас: как выглядят первые и последние снимки планет Тогда и сейчас: как выглядят первые и последние снимки планет

Космические технологии не стоят на месте!

Популярная механика
«Мы сидим на грантовой игле»: как журналистка запустила программу реабилитации для людей с ДЦП «Мы сидим на грантовой игле»: как журналистка запустила программу реабилитации для людей с ДЦП

Интервью с основательницей проекта «Лига мечты» Натальей Белоголовцевой

Forbes
Как будто нам было мало: 10 лучших сериалов и фильмы ужасов 2020-го Как будто нам было мало: 10 лучших сериалов и фильмы ужасов 2020-го

Подборка самых жутких, леденящих кровь фильмов и сериалов 2020 года

Cosmopolitan
MAXIM чуть протрезвел и рецензирует фильм «Еще по одной» с Мадсом Миккельсеном MAXIM чуть протрезвел и рецензирует фильм «Еще по одной» с Мадсом Миккельсеном

В европейских городах тоже водятся пьяные физруки!

Maxim
Попасть в цвет Попасть в цвет

Наиболее распространенные ошибки при окрашивании волос

Лиза
История трагической любви настоящих Красавицы и Чудовища История трагической любви настоящих Красавицы и Чудовища

Во Франции жила настоящие Красавица и Чудовища

Cosmopolitan
Мнение: Spotify убивает открытую и доступную экосистему подкастов Мнение: Spotify убивает открытую и доступную экосистему подкастов

Как Spotify пошатнул доступность подкастов везде, на любой платформе

VC.RU
Если мама не сумела вырасти: советы для взрослых детей Если мама не сумела вырасти: советы для взрослых детей

Автор книги «Вы и ваша мама» делится советами для спокойного общения с мамой

Psychologies
Школа женского здоровья Школа женского здоровья

6 правил, которые помогут тебе чувствовать себя по утрам бодрой и отдохнувшей

Cosmopolitan
«ИИ может злиться и скучать»: Давид Ян о доме с эмоциональным ИИ и сервисе Yva, предсказывающем увольнения сотрудников «ИИ может злиться и скучать»: Давид Ян о доме с эмоциональным ИИ и сервисе Yva, предсказывающем увольнения сотрудников

Давид Ян рассказывает о системе для анализа поведения сотрудников Yva

VC.RU
Пора ли разочаровываться в выборах в США Пора ли разочаровываться в выборах в США

Раскол в обществе — это то, с чем может столкнуться не только Белоруссия

СНОБ
Эксклюзив Cosmo: Дима Билан об экологии, трендах и новом альбоме Эксклюзив Cosmo: Дима Билан об экологии, трендах и новом альбоме

О чем мечтает и чем живет Дима Билан сегодня

Cosmopolitan
Золото, серебро, самоцветы: как почистить серьги Золото, серебро, самоцветы: как почистить серьги

Как безопасно почистить сережки в домашних условиях

Cosmopolitan
Ядовитые косматые хомяки оказались моногамными Ядовитые косматые хомяки оказались моногамными

Зоологам впервые удалось понаблюдать за социальной жизнью этих грызунов

N+1
Открыть в приложении