Вежливая сеть: как научить искусственный интеллект относиться к людям непредвзято

Для нейросети нет разницы, какого пола и расы человека необходимо распознавать

ForbesHi-Tech

Вежливая сеть: как научить искусственный интеллект относиться к людям непредвзято

Для нейросети нет разницы, какого пола и расы человека необходимо распознавать. Проблема заключается не в характеристиках программы, а в качестве обучения

Александр Ханин

Фото Alain Pitton / NurPhoto via Getty Images

Мир начинает переживать из-за предвзятости искусственного интеллекта в системах распознавания лиц. Люди беспокоятся, что такие системы изначально «хорошо относятся» только к европейцам.

 

Год назад разработчик системы распознавания лиц Gfycat удивился, когда его система не распознала некоторых азиатских сотрудников. Исследование аналогичных систем Microsoft и IBT показало, что они были на 95% точнее при распознавании женщин со светлой кожей. Компании рассказали, что улучшили собственные алгоритмы, но не уточнили, каким образом.

По каким признакам нейросеть определяет расовую принадлежность человека

Никто не сможет точно рассказать, как именно нейросеть учится распознавать лица, на что она обращает внимание. Многим факторам, на основании которых нейросеть распознает лица, она научилась сама. Она сравнивает миллионы фотографий, находит общие признаки и учитывает их внутри своей системы. При обучении нейросеть в явном в виде не выдает различие между разными типами лиц по расовому признаку, но в своих найденных признаках свойство расы может быть отражено, так как оно помогает нейросети ориентироваться по разным типам лиц. Эти признаки могут никак не интерпретироваться человеком, потому что это набор нулей и единиц.

Авторизуйтесь и читайте статьи из популярных журналов

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Калужский политический долгожитель сдает позиции Калужский политический долгожитель сдает позиции

Анатолий Артамонов не пойдет на новый губернаторский срок

РБК, июль'19
Регионы позарились на заложенную недвижимость Регионы позарились на заложенную недвижимость

Правительство поддержало идею обложить банки новым налогом

РБК, июль'19
Что такое яхтенные экспедиции и как выглядит La Datcha Олега Тинькова Что такое яхтенные экспедиции и как выглядит La Datcha Олега Тинькова

Будущей осенью на выставке яхт в Монако представят яхту-эксплорер Олега Тинькова

РБК, июль'19
Интернет-магазинам завизировали скидку Интернет-магазинам завизировали скидку

Visa снижает тарифы для крупных онлайн-продавцов

РБК, июль'19
Силовики и технократы сели в одну лодку Силовики и технократы сели в одну лодку

Стартовало обучение нового потока кремлевской «школы губернаторов»

РБК, июль'19
Россияне проявляют недоверие ко всем Россияне проявляют недоверие ко всем

Психологи и экономисты изучили мнение граждан о власти и оппозиции

РБК, июль'19
Герои «РБК Стиль» — о любимых местах отдыха в России Герои «РБК Стиль» — о любимых местах отдыха в России

Сбежать из Москвы и Санкт-Петербурга на уик-энд без загранпаспорта и визы

РБК, июль'19
Как вести себя со строителями: 7 советов от опытного инженера Как вести себя со строителями: 7 советов от опытного инженера

Как вести себя при найме мастеров и не быть ими вконец одураченными

Men’s Health, июль'19
5 фактов о «Фольксваген-Гольф», о которых ты вряд ли знал 5 фактов о «Фольксваген-Гольф», о которых ты вряд ли знал

«Фольксваген-Гольф» полон сюрпризов и открытий

Maxim, июль'19
Ален Делон, Марлон Брандо и еще 7 мужчин — легенд кино XX века Ален Делон, Марлон Брандо и еще 7 мужчин — легенд кино XX века

Как сложились судьбы легенд кино XX века в кино и за кадром

РБК, июль'19
Красная помада и босоножки: что этикет запрещает женам президентов Красная помада и босоножки: что этикет запрещает женам президентов

Выясняем, от каких привычек вынуждены отказаться жены президентов

РБК, июль'19
Рэп-фестиваль Дмитрия Киселева: что это, для кого и зачем Рэп-фестиваль Дмитрия Киселева: что это, для кого и зачем

В августе Коктебель наполнится рифмами и битами — грянет фестиваль Rap Koktebel

РБК, июль'19
Рэперы, которые интересуются модой не меньше, чем музыкой Рэперы, которые интересуются модой не меньше, чем музыкой

Зачем записывать альбомы, если можно выпускать коллаборации и классно одеваться

GQ, июль'19
10 новых фильмов и сериалов с актерами из «Игры престолов» 10 новых фильмов и сериалов с актерами из «Игры престолов»

10 новых картин, главные роли в которых исполнили актеры из «Игры престолов»

Maxim, июль'19
Малый бизнес предпочел большие города Малый бизнес предпочел большие города

Сбербанк оценил структуру занятости в МСП

РБК, июль'19
Пропавшая девушка Пропавшая девушка

В прошлом году актриса Фань Бинбин перестала появляться на публике

Tatler, июль'19
Маленький принц: 9 мифов об Антуане де Сент-Экзюпери Маленький принц: 9 мифов об Антуане де Сент-Экзюпери

«Вокруг света» разобрался, правда ли, что…

Вокруг света, июль'19
Все решают звезды Все решают звезды

Представление об уюте и комфорте, оказывается, зависит и от нашего знака зодиака

Лиза, июль'19
Роман с камнем Роман с камнем

Планируя каникулы у моря, многие спорят, где провести лето

Robb Report, июль'19
Пена против матраса-сэндвича Пена против матраса-сэндвича

«Фомлайн» намерен произвести очередную революцию на рынке товаров для сна

Эксперт, июль'19
Бизнесменская зорька Бизнесменская зорька

Вероника Романова – ведущая утренней программы «Стартап» на канале «РБК»

Maxim, июль'19
Валентина Рубцова: «Муж – моя вторая кожа» Валентина Рубцова: «Муж – моя вторая кожа»

Звезда сериала «СашаТаня» на ТНТ о жизни на два города и неугасающей страсти

StarHit, июль'19
Папа перуанцев Папа перуанцев

Картофельный салат кауса для перуанца — все равно что оливье для россиянина

Вокруг света, июль'19
Ни пуха ни пера Ни пуха ни пера

Зачем в современном аэропорту Домодедово используются хищные птицы

Вокруг света, июль'19
Как это работает? Как это работает?

Стартапы, которые процветают в Америке и Европе, но до России пока не дошли

Cosmopolitan, июль'19
Группа поддержки Группа поддержки

Интервью с Александром и Вероникой Ерохиными

OK!, июль'19
Гастрономия Гастрономия

Самую вкусную еду сейчас готовят без оглядки на границы

Robb Report, июль'19
Воин света Воин света

Риналь Мухаметов — о русском фэнтези, любви к моде и торжестве добра

Vogue, июль'19
Геркулесовы столбы Геркулесовы столбы

Как живут два полуанклава Гибралтара на месте мифических Геркулесовых столбов

Вокруг света, июль'19
Мусор в вечном городе Мусор в вечном городе

О неудобствах мусорного кризиса и о том, что может случиться с мировой столицей

Огонёк, июль'19