Что нужно сделать, чтобы ИИ дал женщинам новые карьерные перспективы

ForbesHi-Tech

Вызов времени: как искусственный интеллект помогает бороться с дискриминацией

Все большее внедрение в разные сферы экономики систем исскусственного интеллекта может привести как к потенциальной дискриминации женщин, так и дать им новые карьерные перспективы. Разбираемся, что нужно сделать, чтобы развитие пошло по второму сценарию

Екатерина Ляпина

Фото REUTERS / Fabian Bimmer

Разговоры о том, что искусственный интеллект изменит рынок труда, ведутся годами. Сегодня фокус сместился с обсуждения неотвратимости будущего к оценке того, как и когда мир изменится и что это значит для всех нас. Попыток создания ИИ было уже несколько, но настоящий искусственный интеллект (Artificial General Intelligence), тот, который изображают в фильмах и книгах, еще далек от реализации. Что же на самом деле сейчас есть?

Не самый умный интеллект

Есть масса очень специализированных «умных алгоритмов», которые решают нишевые задачи, определяют закономерности на больших объемах данных. Они помогают принимать решения: например, остановить или разрешить подозрительную транзакцию, куда отправить грузы, выдать или не выдать кредит. Вероятность ошибки в таких системах меньше, чем если включается пресловутый человеческий фактор. Дальнейшее развитие алгоритмов, способных дополнять/заменять принятие решений человеком, позволит сократить позиции, требующие выполнения рутинных задач, которыми часто занимаются именно женщины. Так, уже сложно себе представить светлое будущее туроператоров, диспетчеров таксопарков, операционистов и ряда других профессий. Исследователи IMF прогнозируют, что 11% рабочих мест, занятых женщинами, в течение следующих двух десятилетий будет автоматизировано. А фокус будет смещен на саму разработку этих алгоритмов.

Все больше решений принимается автоматически и, к сожалению, не всегда в пользу женщин. Например, два года назад крупнейшему онлайн-ретейлеру Amazon пришлось «уволить» систему для автоматизированного просмотра резюме, так как она дискриминировала разработчиков женского пола. Такая ситуация произошла из-за того, что модели ИИ обучались на исторических данных за 10 лет. Тогда большинство кандидатов действительно были мужчинами, но из этого не следует, что они лучше справляются с техническими специальностями. Учитывая то, что алгоритмы быстро становятся ответственными за принятие все большего количества решений, наличие таких побочных эффектов представляет серьезную проблему.

Существует распространенное мнение, что алгоритмы просто улавливают взаимосвязь в имеющемся наборе данных. Но, фокусируясь на данных, легко игнорировать два аспекта этой проблемы: ограничения существующих алгоритмов и, что более важно, роль людей, ставящих алгоритмам задачу. Большинство алгоритмов только анализируют корреляционные отношения, ничего не понимая в них. Без вовлечения тех, кто решает проблемы и задает правильные вопросы, даже лучшие данные ничего не значат, ведь алгоритмы будут лишь отражать наши собственные предубеждения.

Разработчики систем ИИ, должны очень внимательно следить за тем, как формируются наборы данных для обучения алгоритмов, и отслеживать наличие предубеждений. Нужно следить за ошибками, которые совершает алгоритм: иногда их процент довольно низок, но они могут быть сделаны в отношении одной и той же группы людей. Например, скоринговая модель систематически отказывает в кредите людям, прописанным в китайском квартале. Такое поведение особенно опасно, ведь мы переносим все больше ответственности за принятие решений на систему. Некоторые используемые алгоритмы вообще не интерпретируемые, то есть мы не можем понять, почему было принято то или иное решение, какие именно факторы на него повлияли.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Все включено: как интернет изменил наш способ думать, жить и познавать мир Все включено: как интернет изменил наш способ думать, жить и познавать мир

Как пользование интернетом заставляет человеческий мозг работать по-новому

Esquire
Грибочков не желаете? Грибочков не желаете?

Как делать летние заготовки с грибами и обезопасить себя от ботулизма?

Лиза
Кто я? Кто я?

Кто ты такой? Вопрос, который мы задаем себе в течение жизни

Psychologies
Как сочетать цвета в одежде: 10 способов правильного Как сочетать цвета в одежде: 10 способов правильного

Классическое правило трех цветов в луке уже давно не работает

Cosmopolitan
Все, что ты должна знать о пилинге: 6 видов салонных процедур и в чем разница Все, что ты должна знать о пилинге: 6 видов салонных процедур и в чем разница

Что такое пилинги и с чем их едят

Cosmopolitan
Как фермер из Владимирской области стал одним из крупнейших поставщиков Lay’s и зарабатывает на картошке больше 400 млн рублей в год Как фермер из Владимирской области стал одним из крупнейших поставщиков Lay’s и зарабатывает на картошке больше 400 млн рублей в год

Андрей Синицын начал картофельный бизнес еще в 90-х

Forbes
Мартину Шину - 80! Мартину Шину - 80!

Чем знаменит Мартин Шин?

Cosmopolitan
Правила жизни Джима Моррисона Правила жизни Джима Моррисона

Музыкант, умер в 1971 году в возрасте 27 лет

Esquire
Мужская марка, за которой стоит следить: идеальная база и добротный минимализм российской марки Tryyt Мужская марка, за которой стоит следить: идеальная база и добротный минимализм российской марки Tryyt

Интервью с сооснователем марки Tryyt Максимом Трутом

Esquire
Артемий Леонтьев: Москва, Адонай! Артемий Леонтьев: Москва, Адонай!

Отрывок из второй части дилогии Артемия Леонтьева «Рай и Ад»

СНОБ
Стихия земли, или нечто Стихия земли, или нечто

В нашем герое западная культура смешалась с Владимирской областью

Seasons of life
«Цунами сложностей»: владельцы элитных британских ресторанов рассказали о проблемах после карантина «Цунами сложностей»: владельцы элитных британских ресторанов рассказали о проблемах после карантина

Лучшие лондонские рестораны радоваться не спешат

Forbes
Как стать тревел-блогером: подробный гид для тех, кто хочет объездить весь мир Как стать тревел-блогером: подробный гид для тех, кто хочет объездить весь мир

Что именно надо сделать, чтобы стать тревел-блогером?

Playboy
Современное прочтение: 9 экранизаций Современное прочтение: 9 экранизаций

Все 9 экранизаций «Джейн Эйр», книги, ставшей культовой, и их главных героинь

Cosmopolitan
Porsche 914: спорткар для бедных, или подстава от Volkswagen Porsche 914: спорткар для бедных, или подстава от Volkswagen

Единичный чудаковатый концепт кооперации Porshe и Volkswagen

Популярная механика
Вместо планера и крестика на руке. Что делать, если все забываешь? Вместо планера и крестика на руке. Что делать, если все забываешь?

Как помнить все необходимое?

Psychologies
Город мусорщиков: какой была эпидемия холеры в Лондоне Город мусорщиков: какой была эпидемия холеры в Лондоне

В XIX веке Лондон превращается в место для возникновения страшной болезни

Популярная механика
Прекрасное далеко: что дадут ракеты на ядерном топливе Прекрасное далеко: что дадут ракеты на ядерном топливе

Работа над ракетами следующего поколения уже началась

Популярная механика
«Защищая Джейкоба»: Капитан Америка против всех «Защищая Джейкоба»: Капитан Америка против всех

Каково это — подозревать своего ребенка в самом страшном

Psychologies
Скрытая угроза Скрытая угроза

Аллергия — одна из острых проблем современности

Bones
Колибри запомнили порядковый номер цветков Колибри запомнили порядковый номер цветков

Охристые колибри умеют определять порядковый номер искусственных цветков

N+1
«Женила на себе»: кому на самом деле выгоден брак? «Женила на себе»: кому на самом деле выгоден брак?

Веками считалось, что брак нужен женщине больше, чем мужчине

Psychologies
В Казань на выходные В Казань на выходные

Прогулочно-гастрономический маршрут по столице Татарстана и окрестностям

СНОБ
Последняя хозяйка усадьбы Горки Последняя хозяйка усадьбы Горки

Зинаида Григорьевна Морозова выложила огромную сумму за усадьбу Горки

Караван историй
Начали петь сольно и не прогадали: экс-участники групп, ставшие суперзвездами Начали петь сольно и не прогадали: экс-участники групп, ставшие суперзвездами

Эти парни научились собирать полные стадионы в одиночку

Cosmopolitan
«Не борюсь с сединой»: почему это встречает сопротивление окружающих? «Не борюсь с сединой»: почему это встречает сопротивление окружающих?

Наша героиня, решившая больше не скрывать седину, рассказывает о своем опыте

Psychologies
Стесняюсь спросить: 14 вопросов стоматологу-эстетисту Стесняюсь спросить: 14 вопросов стоматологу-эстетисту

На что способна эстетическая стоматология образца 2020 года?

Esquire
7 неожиданных способов оставаться твердым, когда это нужно (если ты понял, о чем мы) 7 неожиданных способов оставаться твердым, когда это нужно (если ты понял, о чем мы)

Чтобы твой «друг» никогда не подводил

Playboy
Все просто бесит! Все просто бесит!

Раздражает абсолютно всё. Почему так происходит и как это исправить?

Лиза
ЗИС-110 vs Packard 180: как в СССР содрали американский “членовоз” ЗИС-110 vs Packard 180: как в СССР содрали американский “членовоз”

Любимый автомобиль Сталина — Packard 180 или ЗИС-110?

Популярная механика
Открыть в приложении