Вежливая сеть: как научить искусственный интеллект относиться к людям непредвзято

Для нейросети нет разницы, какого пола и расы человека необходимо распознавать

ForbesHi-Tech

Вежливая сеть: как научить искусственный интеллект относиться к людям непредвзято

Для нейросети нет разницы, какого пола и расы человека необходимо распознавать. Проблема заключается не в характеристиках программы, а в качестве обучения

Александр Ханин

Фото Alain Pitton / NurPhoto via Getty Images

Мир начинает переживать из-за предвзятости искусственного интеллекта в системах распознавания лиц. Люди беспокоятся, что такие системы изначально «хорошо относятся» только к европейцам.

 

Год назад разработчик системы распознавания лиц Gfycat удивился, когда его система не распознала некоторых азиатских сотрудников. Исследование аналогичных систем Microsoft и IBT показало, что они были на 95% точнее при распознавании женщин со светлой кожей. Компании рассказали, что улучшили собственные алгоритмы, но не уточнили, каким образом.

По каким признакам нейросеть определяет расовую принадлежность человека

Никто не сможет точно рассказать, как именно нейросеть учится распознавать лица, на что она обращает внимание. Многим факторам, на основании которых нейросеть распознает лица, она научилась сама. Она сравнивает миллионы фотографий, находит общие признаки и учитывает их внутри своей системы. При обучении нейросеть в явном в виде не выдает различие между разными типами лиц по расовому признаку, но в своих найденных признаках свойство расы может быть отражено, так как оно помогает нейросети ориентироваться по разным типам лиц. Эти признаки могут никак не интерпретироваться человеком, потому что это набор нулей и единиц.

Авторизуйтесь и читайте статьи из популярных журналов

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Наемники из Израиля: кто стоит за самыми загадочными хакерами, взламывающими Apple и Microsoft за деньги Наемники из Израиля: кто стоит за самыми загадочными хакерами, взламывающими Apple и Microsoft за деньги

В Израиле много хакеров, которые зарабатывают взломами

Forbes, октябрь'19
Кто такая доула: зачем нужна помощница в родах и что она делает Кто такая доула: зачем нужна помощница в родах и что она делает

Давай будем честными: рожать - страшно

Cosmopolitan, апрель'18
До единого сотового пространства осталось два шага До единого сотового пространства осталось два шага

Что мешает отмене роуминга между Россией и Белоруссией

РБК, октябрь'19
Компания Vivo официально представила смартфон V9 в России Компания Vivo официально представила смартфон V9 в России

Компания Vivo представляет новый смартфон V9

Cosmopolitan, апрель'18
Секс втроем: мечта, которой лучше не сбываться Секс втроем: мечта, которой лучше не сбываться

После воплощения давняя сексуальная фантазия оборачивается новыми проблемами

Men’s Health, август'18
«Я восьмой месяц живу в зазеркалье»: выступление Кирилла Серебренникова в Басманном суде «Я восьмой месяц живу в зазеркалье»: выступление Кирилла Серебренникова в Басманном суде

Серебренникова и его коллег обвиняют в хищении 133 миллионов рублей

Esquire, апрель'18
Блюда от московского шеф-повара на на Мальдивах Блюда от московского шеф-повара на на Мальдивах

Мауро Панебьянко будет радовать гостей Conrad Maldives кулинарными шедаврами

National Geographic, апрель'18
Пожары на Дальнем Востоке: горят Приморье и Амурская область Пожары на Дальнем Востоке: горят Приморье и Амурская область

Перемены климата вносят изменения в «расписание» природных пожаров

National Geographic, апрель'18
Александр Иванников: Мусоросжигательные заводы не решат проблему свалок Александр Иванников: Мусоросжигательные заводы не решат проблему свалок

Что нужно сделать, чтобы решить мусорную проблему в Подмосковье

СНОБ, апрель'18
Золотая антилопа: как научиться правильному отношению к деньгам Золотая антилопа: как научиться правильному отношению к деньгам

Часто российские предприниматели допускают те же ошибки, что и жадный Раджа

Forbes, апрель'18
Девушка с характером Девушка с характером

У меня сложный характер, – признается актриса Дарья Юрская

GALA Биография, май'18
С любимыми не расставайтесь С любимыми не расставайтесь

Тимур Родригез и его жена Анна

OK!, апрель'18
9 историй звезд, чей путь к материнству был тяжелым и трагическим 9 историй звезд, чей путь к материнству был тяжелым и трагическим

Наши героини прошли тяжелые испытания, прежде чем впервые стать мамами

Cosmopolitan, апрель'18
Андрей Смирнов: Заяц должен быть серым Андрей Смирнов: Заяц должен быть серым

Эту очень личную историю режиссер посвятил врачу Антонине Николаевне Петровой

СНОБ, март'18
Загадка тупиков: светящийся клюв Загадка тупиков: светящийся клюв

Ученые выяснили, что клювы морских птиц светятся в темноте

National Geographic, апрель'18
Как отправить письмо на МКС Как отправить письмо на МКС

С помощью нового сервиса от «Роскосмоса» можно написать космонавтам

National Geographic, апрель'18
Доспехи на поприще Доспехи на поприще

Москва в 4-й раз принимает самый бескомпромиссный рыцарский турнир мира

Men’s Health, май'18
Бомбическая история: ядерные взрывы в сознании японцев и другие выставки фотобиеннале Бомбическая история: ядерные взрывы в сознании японцев и другие выставки фотобиеннале

Что смотреть на московской Фотобиеннале-2018

Forbes, апрель'18
Изобретателем года назвали физика, снявшего кино внутри живого организма Изобретателем года назвали физика, снявшего кино внутри живого организма

МРТ позволяет заглянуть внутрь человеческого тела без рентгеновского излучения

Популярная механика, апрель'18
Правило бутерброда Правило бутерброда

Идеи для завтрака или быстрого перекуса

Лиза, апрель'18
Создана самая подробная карта Млечного Пути Создана самая подробная карта Млечного Пути

Европейское космическое агентство составило трехмерную карту нашей галактики

National Geographic, апрель'18
Мир на пороге России? Мир на пороге России?

У европейского популизма обнаружились наши черты

Огонёк, апрель'18
Игорь Николаев: Запас прочности иссяк, проблемы — впереди Игорь Николаев: Запас прочности иссяк, проблемы — впереди

Как России искать свое место в мире, где она никому не нужна

СНОБ, апрель'18
Уроки стиля от супермоделей: как выглядеть круто, выходя за хлебом? Уроки стиля от супермоделей: как выглядеть круто, выходя за хлебом?

Читайте советы авторов блога Luxxy.com и выходите на стиле даже в магазин

Cosmopolitan, апрель'18
Стиль в клипе A$AP Forever Стиль в клипе A$AP Forever

Коллаборация Pretty Flacko и Moby не только звучит, но и смотрится красиво

Esquire, апрель'18
Объявлены номинанты «Премии МУЗ-ТВ 2018. Трансформация»: голосование открыто Объявлены номинанты «Премии МУЗ-ТВ 2018. Трансформация»: голосование открыто

18 апреля в ресторане Salon состоялся ужин «Премии МУЗ-ТВ 2018. Трансформация»

Cosmopolitan, апрель'18
Артем Лосев Артем Лосев

Шеф-повар ресторана «Горыныч» делится рецептом приготовления осьминога

Esquire, май'18
Новое грузовое такси: Mover Новое грузовое такси: Mover

Mover – это 8 приложений и программ, которые упростят процесс перевозки

National Geographic, апрель'18
Чем запомнилась Final Fantasy XV Чем запомнилась Final Fantasy XV

Отправляемся в сказочное приключение

Игромания, май'18
Конец нейтралитета. Кого затронут новые санкции США Конец нейтралитета. Кого затронут новые санкции США

Новый санкционный пакет, связанный с Сирией

Forbes, апрель'18