Для нейросети нет разницы, какого пола и расы человека необходимо распознавать

ForbesHi-Tech

Вежливая сеть: как научить искусственный интеллект относиться к людям непредвзято

Для нейросети нет разницы, какого пола и расы человека необходимо распознавать. Проблема заключается не в характеристиках программы, а в качестве обучения

Александр Ханин

Фото Alain Pitton / NurPhoto via Getty Images

Мир начинает переживать из-за предвзятости искусственного интеллекта в системах распознавания лиц. Люди беспокоятся, что такие системы изначально «хорошо относятся» только к европейцам.

 

Год назад разработчик системы распознавания лиц Gfycat удивился, когда его система не распознала некоторых азиатских сотрудников. Исследование аналогичных систем Microsoft и IBT показало, что они были на 95% точнее при распознавании женщин со светлой кожей. Компании рассказали, что улучшили собственные алгоритмы, но не уточнили, каким образом.

По каким признакам нейросеть определяет расовую принадлежность человека

Никто не сможет точно рассказать, как именно нейросеть учится распознавать лица, на что она обращает внимание. Многим факторам, на основании которых нейросеть распознает лица, она научилась сама. Она сравнивает миллионы фотографий, находит общие признаки и учитывает их внутри своей системы. При обучении нейросеть в явном в виде не выдает различие между разными типами лиц по расовому признаку, но в своих найденных признаках свойство расы может быть отражено, так как оно помогает нейросети ориентироваться по разным типам лиц. Эти признаки могут никак не интерпретироваться человеком, потому что это набор нулей и единиц.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Опыт майнера: как облачный стартап CoreWeave зарабатывает на нейросетях Опыт майнера: как облачный стартап CoreWeave зарабатывает на нейросетях

Как предпринимателям обеспечить растущий спрос на энергоемкую инфраструктуру

Forbes
Новое рождение: надолго ли сланцевая революция продлила век нефти Новое рождение: надолго ли сланцевая революция продлила век нефти

Современная нефтянка — это высокотехнологичная индустрия

Forbes
Неприятная правда о чат-ботах c ИИ: они способны выдавать незаконную информацию Неприятная правда о чат-ботах c ИИ: они способны выдавать незаконную информацию

Эксперты выяснили, что многие чат-боты на базе ИИ легко поддаются манипуляциям

Inc.
Самолет на $20 млрд. Как Россия и Китай создают дальнемагистральный лайнер Самолет на $20 млрд. Как Россия и Китай создают дальнемагистральный лайнер

Интервью с конструктором первого российско-китайского самолета

Forbes
Эта привычка может повысить риск развития деменции на 43% Эта привычка может повысить риск развития деменции на 43%

Употребление большого количества сахара может повысить риск развития деменции

ТехИнсайдер
7 ключей, чтобы найти цель в жизни 7 ключей, чтобы найти цель в жизни

Несколько нетривиальных советов, которые помогут определиться со смыслом жизни

Psychologies
Агния Дитковските: На чужом примере проще учиться Агния Дитковските: На чужом примере проще учиться

В ожидании реалити «Союзники» на СТС мы поговорили с его ведущей

Лиза
Кто изобрел спички? Кто изобрел спички?

Нам кажется, что спички были всегда, но как они появились?

Популярная механика
Стоит съесть: птитим в «НаВолне», брускетту в Zizo Gourmet, роллы в City Voice Стоит съесть: птитим в «НаВолне», брускетту в Zizo Gourmet, роллы в City Voice

В лучших ресторанах России можно поесть без ущерба для кошелька

Forbes
Отрывок из новой книги-раскраски Чака Паланика «Наследие» Отрывок из новой книги-раскраски Чака Паланика «Наследие»

В апреле выходит новая книга-раскраска Чака Паланика «Наследие»

Esquire
Бабло побеждает добро Бабло побеждает добро

Оказывается, Харви Вайнштейн любил деньги даже больше женщин

Tatler
Россия без олигархов. Что означают новые санкции США для наших миллиардеров Россия без олигархов. Что означают новые санкции США для наших миллиардеров

Послание Минфина США вполне понятно

Forbes
Посол женственности Посол женственности

Актриса Анна Цуканова-Котт скоро станет мамой во второй раз

OK!
Quiksilver New Star Camp: новая глава в истории роccийских фестивалей Quiksilver New Star Camp: новая глава в истории роccийских фестивалей

Масштабный спортивно-музыкальный фестиваль Quiksilver New Star Camp

Cosmopolitan
Чем опасна «черная» зависть и зачем нам «белая»? Чем опасна «черная» зависть и зачем нам «белая»?

Нет человека, который хотя бы иногда не завидовал другим

Psychologies
Зеленые небеса: чем занимается одна из самых дорогих финтех-компаний США Зеленые небеса: чем занимается одна из самых дорогих финтех-компаний США

Онлайн-кредитор GreenSky выйдет на IPO при оценке капитализации в $5 млрд

Forbes
Танцующая с булавами: как одевается гимнастка Маргарита Мамун Танцующая с булавами: как одевается гимнастка Маргарита Мамун

Как одевается спортсменка Маргарита Мамун в обычной жизни

Cosmopolitan
Прогулка по Венеции Прогулка по Венеции

Главной темой интерьера этой квартиры в центре Иркутска стала Венеция

SALON-Interior
Стиль в клипе A$AP Forever Стиль в клипе A$AP Forever

Коллаборация Pretty Flacko и Moby не только звучит, но и смотрится красиво

Esquire
Окно возможностей. Как технологическим стартапам выжить в эпоху санкций Окно возможностей. Как технологическим стартапам выжить в эпоху санкций

Негативные последствия для экономики молодые компании на себе почувствуют

Forbes
Браслет-символ, который нельзя купить: украшение для доноров крови Браслет-символ, который нельзя купить: украшение для доноров крови

Донорам, которые пришли добровольно сдать кровь, были вручены  браслеты-символы

Cosmopolitan
Простая техника, чтобы принять решение и начать действовать Простая техника, чтобы принять решение и начать действовать

Как начать хотеть, если уже давно ничего не хочется?

Psychologies
Дмитрий Волков: Почему мы должны бояться искусственного интеллекта? Дмитрий Волков: Почему мы должны бояться искусственного интеллекта?

О том, почему нам нужно бояться искусственного интеллекта

СНОБ
«Начало прекрасной дружбы». Белый дом сообщил Кремлю о передышке в санкциях «Начало прекрасной дружбы». Белый дом сообщил Кремлю о передышке в санкциях

Владимир Путин дал чиновникам указание снизить накал антиамериканской риторики

Forbes
Хабиб против Конора. Как разгорелся самый громкий скандал в истории UFC Хабиб против Конора. Как разгорелся самый громкий скандал в истории UFC

В жизни бойца UFC Хабиба Нурмагомедова выдалась невероятно насыщенная неделя

Forbes
Воры на доверии: как научиться технике финансовой безопасности Воры на доверии: как научиться технике финансовой безопасности

Технологии упрощают денежные переводы, но этим пользуются и злоумышленники

Forbes
Народ против: как жители Армении не испугались властей и довели протест до победы Народ против: как жители Армении не испугались властей и довели протест до победы

Президент Армении Серж Саргсян уступил протестующим и подал в отставку

Forbes
Звездопад по заказу Звездопад по заказу

Японский стартап ALE хочет ввести моду на запуск искусственных метеоров

РБК
Ум и отвага. Как войти в список Forbes, бросив вызов бывшему работодателю Ум и отвага. Как войти в список Forbes, бросив вызов бывшему работодателю

Бывшая сотрудница Cisco вошла в число 72 женщин-миллиардеров

Forbes
Корпорация «Юдашкин» Корпорация «Юдашкин»

Как устроен бизнес главного российского кутюрье

РБК
Открыть в приложении