Для нейросети нет разницы, какого пола и расы человека необходимо распознавать

ForbesHi-Tech

Вежливая сеть: как научить искусственный интеллект относиться к людям непредвзято

Для нейросети нет разницы, какого пола и расы человека необходимо распознавать. Проблема заключается не в характеристиках программы, а в качестве обучения

Александр Ханин

Фото Alain Pitton / NurPhoto via Getty Images

Мир начинает переживать из-за предвзятости искусственного интеллекта в системах распознавания лиц. Люди беспокоятся, что такие системы изначально «хорошо относятся» только к европейцам.

 

Год назад разработчик системы распознавания лиц Gfycat удивился, когда его система не распознала некоторых азиатских сотрудников. Исследование аналогичных систем Microsoft и IBT показало, что они были на 95% точнее при распознавании женщин со светлой кожей. Компании рассказали, что улучшили собственные алгоритмы, но не уточнили, каким образом.

По каким признакам нейросеть определяет расовую принадлежность человека

Никто не сможет точно рассказать, как именно нейросеть учится распознавать лица, на что она обращает внимание. Многим факторам, на основании которых нейросеть распознает лица, она научилась сама. Она сравнивает миллионы фотографий, находит общие признаки и учитывает их внутри своей системы. При обучении нейросеть в явном в виде не выдает различие между разными типами лиц по расовому признаку, но в своих найденных признаках свойство расы может быть отражено, так как оно помогает нейросети ориентироваться по разным типам лиц. Эти признаки могут никак не интерпретироваться человеком, потому что это набор нулей и единиц.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Краткая жизнь немецкого Vogue: почему не удалось построить империю глянца в Германии Краткая жизнь немецкого Vogue: почему не удалось построить империю глянца в Германии

Почему немецкая версия Vogue стала самым дорогостоящим провалом Конде Наст?

Forbes
Расправьте плечи, чтобы изменить жизнь Расправьте плечи, чтобы изменить жизнь

Язык вашего тела формирует вашу личность

Psychologies
Какими бывают виды отверток и бит для шуруповертов Какими бывают виды отверток и бит для шуруповертов

Какие бывают отвертки — виды и названия наконечников, а также их размеры

CHIP
Сюнга: история японской порнографической живописи Сюнга: история японской порнографической живописи

Сюнга — это своеобразный средневековый Playboy на японский манер

Cosmopolitan
Пластичность мозга Пластичность мозга

Потрясающие факты о том, как мысли способны менять структуру и функции мозга

kiozk originals
«Дизайн человека»: жить по природе, а не по ложному «Я» «Дизайн человека»: жить по природе, а не по ложному «Я»

Что такое система Human Design

Psychologies
«Ломай его полностью!»: как устроены рестлинг бои в России «Ломай его полностью!»: как устроены рестлинг бои в России

Почти каждый месяц нижегородский рестлинг клуб Gorky City Wrestling проводит бои

Esquire
Восстание машин уже случилось. Но мы этого не заметили Восстание машин уже случилось. Но мы этого не заметили

Дальнейшее развитие искусственного интеллекта может быть опасным

СНОБ
Самое страшное в жителях КНДР — их бесстрашие Самое страшное в жителях КНДР — их бесстрашие

О том, как устроено мышление жителя тоталитарного общества

СНОБ
Как расстаться, если вы живете вместе Как расстаться, если вы живете вместе

Расставание болезненный процесс, и совместное проживание все только усложняет

Psychologies
Еда как награда, диалог и табу и ее роль в истории человечества Еда как награда, диалог и табу и ее роль в истории человечества

Как менялись смысл и значение еды со времен древних скандинавов до наших дней

СНОБ
Они узорят наш район! Они узорят наш район!

Предметы, оказавшись рядом, создают красоту и узоры

Maxim
Зайка моя, я твой... Зайка моя, я твой...

Секс-фетиши, о которых ты не знала

Cosmopolitan
Самые скандальные случаи, когда фирмы отзывали свою продукцию Самые скандальные случаи, когда фирмы отзывали свою продукцию

В погоне за выручкой корпорации теряют миллионы долларов, а покупатели — жизнь!

Maxim
Кто такие Кто такие

Повальное увлечение ЗОЖ породило новую субкультуру

Cosmopolitan
Будущее Кубы: куда уходит Кастро и как изменится Остров свободы с новым лидером Будущее Кубы: куда уходит Кастро и как изменится Остров свободы с новым лидером

Впервые за 58 лет Кубой будет руководить человек не из семьи Кастро

Forbes
Сто лет со дня первого танкового сражения: как это было Сто лет со дня первого танкового сражения: как это было

Как сто лет назад британские и немецкие танки впервые сошлись в бою

Популярная механика
Селекция по-русски. ФАС удалось добиться от Bayer технологий в земледелии Селекция по-русски. ФАС удалось добиться от Bayer технологий в земледелии

ФАС добилась согласия на передачу России современных технологий по селекции

Forbes
Наше кольцо Наше кольцо

Михаил Шац вспоминает, как при встрече с президентом выкрикнул одно слово

GQ
Игра на выбывание: кто покинул список Forbes в 2018 году Игра на выбывание: кто покинул список Forbes в 2018 году

Из списка богатейших бизнесменов России выбыли 15 человек

Forbes
Успех на расстоянии: как сделать из филиала источник дохода, а не проблем Успех на расстоянии: как сделать из филиала источник дохода, а не проблем

Как удержать единую стратегию развития компании с множеством филиалов?

Forbes
Нас не догонят. Смогут ли США наверстать отставание в разработке гиперзвукового оружия Нас не догонят. Смогут ли США наверстать отставание в разработке гиперзвукового оружия

После презентации гиперзвуковой ракеты «Кинжал» США бросились догонять Россию

Forbes
Фальшивая реальность Фальшивая реальность

Президент США в порно? Приложение позволяет подставлять другие лица в видео

CHIP
Зачем нам нужна откровенность Зачем нам нужна откровенность

Может быть, пора повернуться друг к другу и поговорить по душам?

Psychologies
В чем ходить в майские праздники? В чем ходить в майские праздники?

Предлагаем 4 варианта на любой вкус, настроение и погоду

GQ
Новое рождение: надолго ли сланцевая революция продлила век нефти Новое рождение: надолго ли сланцевая революция продлила век нефти

Современная нефтянка — это высокотехнологичная индустрия

Forbes
Таинственная история исчезновения Полин Пикар Таинственная история исчезновения Полин Пикар

Двухлетняя Полин Пикар пропала в апреле 1922 года

Cosmopolitan
Газовая атака: смогут ли американские производители вытеснить российский газ Газовая атака: смогут ли американские производители вытеснить российский газ

«Газпрому» придется делать уступки для европейских покупателей газа

Forbes
Роли в семье: как найти свою Роли в семье: как найти свою

Можно ли понять, какая роль в семье подходит человеку и как ее поменять?

9 месяцев
Безопасный город. Почему жители надежнее видеокамер во дворах Безопасный город. Почему жители надежнее видеокамер во дворах

Влюбить человека в место обходится дешевле, чем убирать мусор

Forbes
Открыть в приложении