Олег Бяхов — об этичных трендах и общении с искусственным интеллектом

РБКHi-Tech

Даже лучший алгоритм может навредить человеку

Олег Бяхов — об этичных трендах и общении с искусственным интеллектом.

Фото: Владислав Шатило для РБК

Один из краеугольных камней любого использования искусственного интеллекта (ИИ) — установка на то, что ИИ лишь дополняет человеческий. Любое важное решение, которое имеет этические аспекты, всегда должно приниматься человеком. В частности, IBM использует коллегиальные механизмы принятия решений и контроля для встраивания в бизнес-приложениях ИИ человеческой ответственности за окончательное решение. Таким образом, этика принятия решений остается за человеком.

На сегодняшний день самый обсуждаемый вопрос в контексте этики алгоритмов — это биометрические данные. В июле 2020 года IBM сняли с рынка всю линейку продуктов для распознавания лиц. Дело в том, что в 2018 году выяснилось, что большинство коммерческих продуктов в области распознавания лиц, которые поставлялись крупнейшими компаниями, включая IBM, имели уровень ошибки распознавания для белых мужчин гораздо ниже, чем уровень ошибки для темнокожих женщин. Достоверность распознавания белых мужчин — выше 97%, а темнокожих женщин — от 65 до 80%.

Если такого рода алгоритмы встраиваются в правоохранительную систему, то темнокожих женщин могут недостоверно подозревать в каком-либо преступлении. Чтобы исправить эту ситуацию, IBM выложила общедоступный набор данных, основанный на публично лицензированных фотоизображениях миллиона лиц. В то же время стандартные учебные датасеты включают около 2 тыс. изображений лиц, и более 70% из них — белые мужчины. И когда ты обучаешь машину на некорректном наборе данных, то как бы хорош ни был твой алгоритм, он все равно будет приходить к некорректным выводам.

IBM на рынке обработки данных находится многие десятилетия. Мы всегда относились к накопленной информации как к данным, которые принадлежат их владельцу, например пользователю. Поэтому для обучения алгоритмов мы всегда получаем согласие владельца данных на их использование.

Что касается этики использования, то несколько ИИ-сервисов для СМИ и маркетологов, например IBM Personality Insights, IBM Watson Advertising, IBM Watson Media, предназначены для вовлечения целевой аудитории онлайн за счет персонализации контентного или продуктового коридора. Тренд персонализации через десять лет приведет к тому, что у каждого человека появится возможность получать максимально кастомизированный, специально изготовленный под него продукт.

Олег Бяхов — директор по государственным программам и развитию бизнеса IBM в России и СНГ. Окончил философский факультет Ростовского госуниверситета по специальности «логика», в компании IBM работает с 2007 года.

По теме, затронутой Олегом Бяховым, высказались еще два эксперта тренда: Дмитрий Марков (статья «Рейтинг доверия») и Константин Синюшин (статья «Сохранить лицо»).

Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Станки и люди Станки и люди

Машина на службе у человека или человек в плену у машины? О чем говорит история

РБК
За кулисами пуска За кулисами пуска

Старт космической ракеты – зрелище без преувеличения грандиозное

Популярная механика
Максим Федоров: искусственный интеллект в десяти вопросах и ответах Максим Федоров: искусственный интеллект в десяти вопросах и ответах

Профессор Сколтеха — об искусственном интеллекте и реальности сюжетов фантастики

РБК
Завтрак туриста Завтрак туриста

Когда можно пожертвовать товарищем в пользу большинства?

Playboy
Давид Ян: «В мире появится движение Robot lives matter» Давид Ян: «В мире появится движение Robot lives matter»

Давид Ян уверен, что нейросети нужен эмоциональный интеллект

РБК
Как закончить отношения корректно: 10 советов Как закончить отношения корректно: 10 советов

Rак расстаться с достоинством и сохранив уважение к чувствам другого

Psychologies
Поощрять и вдохновлять. Как прокачать инновационное мышление команды и удержать талантливых специалистов Поощрять и вдохновлять. Как прокачать инновационное мышление команды и удержать талантливых специалистов

Почему важно мыслить новаторски и поощрять к этому других

РБК
«Не один дома: Естественная история нашего жилища от бактерий до многоножек, тараканов и пауков» «Не один дома: Естественная история нашего жилища от бактерий до многоножек, тараканов и пауков»

Отрывок из книги об организмах, живущих по соседству с нами в наших домах

N+1
Рейтинг доверия Рейтинг доверия

Дмитрий Марков — о рисках и преимуществах биометрических систем

РБК
7 фактов о первом «Чужом» плюс полная хронология вселенной Чужих 7 фактов о первом «Чужом» плюс полная хронология вселенной Чужих

Ридли Скотт — человек, который в себе тайком провез с небес Чужого людям

Maxim
Азбука устойчивого развития Азбука устойчивого развития

Определения наиболее актуальных терминов и явлений новой «зеленой» экономики

РБК
Танцы со звездами Танцы со звездами

Выставка «Сесил Битон и культ звезд», посвященная великому фотографу моды

Vogue
Винтокрыл против конвертоплана Винтокрыл против конвертоплана

«Вертолет» не самый подходящий термин для описания этих воздушных монстров

Популярная механика
Гибель жены, заикание и аневризма: история Джо Байдена, нового президента США Гибель жены, заикание и аневризма: история Джо Байдена, нового президента США

Джо Байден – самый возрастной президент США

Cosmopolitan
Современный альфонс: как не попасться на удочку Современный альфонс: как не попасться на удочку

Что делать, чтобы уберечься от альфонса?

Cosmopolitan
Дебютный роман Салли Руни «Разговоры с друзьями» впервые выходит на русском языке. Публикуем его фрагмент Дебютный роман Салли Руни «Разговоры с друзьями» впервые выходит на русском языке. Публикуем его фрагмент

Отрывок из романа Салли Руни, в котором выражены чувства поколения Z

Esquire
В круге Дягилевом. Лица и судьбы В круге Дягилевом. Лица и судьбы

Сохранилось не так много собственных портретов Сергея Павловича Дягилева

СНОБ
«Сама виновата». Как оренбургского следователя наказали за неэтичное поведение с жертвой насилия «Сама виновата». Как оренбургского следователя наказали за неэтичное поведение с жертвой насилия

Почему мы так критично реагируем на случаи насилия?

СНОБ
Как защитить телефон от кражи данных Как защитить телефон от кражи данных

Как пользователям смартфонов защититься от взломов

СНОБ
Роман RAMZES666 Кушнарев: «Я получал от игры удовольствие, и она начала приносить мне деньги» Роман RAMZES666 Кушнарев: «Я получал от игры удовольствие, и она начала приносить мне деньги»

Самый узнаваемый российский киберспортсмен рассказывает об индустрии видеоигр

GQ
Cosmo-лайфхаки: как хранить вещи, если в квартире нет места для гардеробной? Cosmo-лайфхаки: как хранить вещи, если в квартире нет места для гардеробной?

Как грамотная планировка квартиры поможет организовать систему хранения

Cosmopolitan
Пропавшая без вести: трагическая судьба легендарной детективщицы Агаты Кристи Пропавшая без вести: трагическая судьба легендарной детективщицы Агаты Кристи

Ты знала, что Агата Кристи недолюбливала Эркюля Пуаро?

Cosmopolitan
Сторона защиты: Оксана Пушкина Сторона защиты: Оксана Пушкина

Борьба с бытовым насилием для Оксаны Пушкиной — и работа, и рутина, и сверхцель

Glamour
Прическа за одну минуту: 10 крутых идей для эффектного пучка Прическа за одну минуту: 10 крутых идей для эффектного пучка

10 эффектных идей, которые помогут разнообразить твои бьюти-образы.

Cosmopolitan
Джона Хилл: «Я буду делать то, что мне нравится» Джона Хилл: «Я буду делать то, что мне нравится»

Джонна Хилл — как принять себя и почему парням сложнее развить чувство стиля

GQ
Адвокат дьяволов Адвокат дьяволов

История адвоката, спасавшего диктаторов и тиранов

GQ
7 брендов General Motors, которых больше не существует 7 брендов General Motors, которых больше не существует

Вспоминаем, какими марками владела GM раньше: часть 1

Популярная механика
Книжная полочка Книжная полочка

Авторы подкаста «Мам, почитай!» советуют четыре истории на зимние каникулы

Glamour
Мультиоргазм у женщин: 13 советов, как помочь подруге получить максимальное удовольствие Мультиоргазм у женщин: 13 советов, как помочь подруге получить максимальное удовольствие

Как помочь своей девушке испытать множественный оргазм во время секса

Playboy
Вареная кукуруза: польза и вред «царицы полей» Вареная кукуруза: польза и вред «царицы полей»

Полезные свойства, пищевая ценность и противопоказания кукурузы

Playboy
Открыть в приложении