Что нужно сделать, чтобы ИИ дал женщинам новые карьерные перспективы

ForbesHi-Tech

Вызов времени: как искусственный интеллект помогает бороться с дискриминацией

Все большее внедрение в разные сферы экономики систем исскусственного интеллекта может привести как к потенциальной дискриминации женщин, так и дать им новые карьерные перспективы. Разбираемся, что нужно сделать, чтобы развитие пошло по второму сценарию

Екатерина Ляпина

Фото REUTERS / Fabian Bimmer

Разговоры о том, что искусственный интеллект изменит рынок труда, ведутся годами. Сегодня фокус сместился с обсуждения неотвратимости будущего к оценке того, как и когда мир изменится и что это значит для всех нас. Попыток создания ИИ было уже несколько, но настоящий искусственный интеллект (Artificial General Intelligence), тот, который изображают в фильмах и книгах, еще далек от реализации. Что же на самом деле сейчас есть?

Не самый умный интеллект

Есть масса очень специализированных «умных алгоритмов», которые решают нишевые задачи, определяют закономерности на больших объемах данных. Они помогают принимать решения: например, остановить или разрешить подозрительную транзакцию, куда отправить грузы, выдать или не выдать кредит. Вероятность ошибки в таких системах меньше, чем если включается пресловутый человеческий фактор. Дальнейшее развитие алгоритмов, способных дополнять/заменять принятие решений человеком, позволит сократить позиции, требующие выполнения рутинных задач, которыми часто занимаются именно женщины. Так, уже сложно себе представить светлое будущее туроператоров, диспетчеров таксопарков, операционистов и ряда других профессий. Исследователи IMF прогнозируют, что 11% рабочих мест, занятых женщинами, в течение следующих двух десятилетий будет автоматизировано. А фокус будет смещен на саму разработку этих алгоритмов.

Все больше решений принимается автоматически и, к сожалению, не всегда в пользу женщин. Например, два года назад крупнейшему онлайн-ретейлеру Amazon пришлось «уволить» систему для автоматизированного просмотра резюме, так как она дискриминировала разработчиков женского пола. Такая ситуация произошла из-за того, что модели ИИ обучались на исторических данных за 10 лет. Тогда большинство кандидатов действительно были мужчинами, но из этого не следует, что они лучше справляются с техническими специальностями. Учитывая то, что алгоритмы быстро становятся ответственными за принятие все большего количества решений, наличие таких побочных эффектов представляет серьезную проблему.

Существует распространенное мнение, что алгоритмы просто улавливают взаимосвязь в имеющемся наборе данных. Но, фокусируясь на данных, легко игнорировать два аспекта этой проблемы: ограничения существующих алгоритмов и, что более важно, роль людей, ставящих алгоритмам задачу. Большинство алгоритмов только анализируют корреляционные отношения, ничего не понимая в них. Без вовлечения тех, кто решает проблемы и задает правильные вопросы, даже лучшие данные ничего не значат, ведь алгоритмы будут лишь отражать наши собственные предубеждения.

Разработчики систем ИИ, должны очень внимательно следить за тем, как формируются наборы данных для обучения алгоритмов, и отслеживать наличие предубеждений. Нужно следить за ошибками, которые совершает алгоритм: иногда их процент довольно низок, но они могут быть сделаны в отношении одной и той же группы людей. Например, скоринговая модель систематически отказывает в кредите людям, прописанным в китайском квартале. Такое поведение особенно опасно, ведь мы переносим все больше ответственности за принятие решений на систему. Некоторые используемые алгоритмы вообще не интерпретируемые, то есть мы не можем понять, почему было принято то или иное решение, какие именно факторы на него повлияли.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Все включено: как интернет изменил наш способ думать, жить и познавать мир Все включено: как интернет изменил наш способ думать, жить и познавать мир

Как пользование интернетом заставляет человеческий мозг работать по-новому

Esquire
«Средневековье крупным планом» «Средневековье крупным планом»

Отрывок из книги Олега Воскобойникова о том, как жили люди в Средние века

N+1
Им только спросить Им только спросить

На что обратить внимание, чтобы найти лучшую и самую подходящую тебе работу

Cosmopolitan
Как Российская и Британская империи приручали покоренные элиты Как Российская и Британская империи приручали покоренные элиты

Какие эпизоды истории находят отражение в современных политических событиях

СНОБ
Тексты из цикла «Сцены эпохи дефицита» Николая Кононова Тексты из цикла «Сцены эпохи дефицита» Николая Кононова

Тексты Николая Кононова из цикла «Сцены эпохи дефицита»

СНОБ
Ветер в руках Ветер в руках

Самый модный вид спорта этого лета — вингфойлинг, или вингсерфинг

Популярная механика
Самые неадекватные проявления любви к президентам на постсоветском пространстве Самые неадекватные проявления любви к президентам на постсоветском пространстве

Конкурс песни и лести для власти объявляется открытым!

Maxim
«Женила на себе»: кому на самом деле выгоден брак? «Женила на себе»: кому на самом деле выгоден брак?

Веками считалось, что брак нужен женщине больше, чем мужчине

Psychologies
Доступ к терапии за неделю вместо полутора лет: что делает стартап Sprout, чтобы дети с аутизмом скорее получили помощь Доступ к терапии за неделю вместо полутора лет: что делает стартап Sprout, чтобы дети с аутизмом скорее получили помощь

Юрий Якубчик запустил стартап для помощи детям с аутизмом

VC.RU
Медики назвали состояния, когда нельзя садиться за руль. Подробности Медики назвали состояния, когда нельзя садиться за руль. Подробности

При каких состояниях не стоит управлять автомобилем?

РБК
Цой жив Цой жив

Виктор Цой погиб в автокатастрофе в Юрмале 15 августа 1990 года

Esquire
Личные границы: вернуть и отстоять Личные границы: вернуть и отстоять

Наши границы пытаются порой нарушить и родные, и коллеги, и друзья

Psychologies
Чтение выходного дня: отрывок из романа, ставшего основой сериала Apple TV+ «Грейхаунд» с Томом Хэнксом Чтение выходного дня: отрывок из романа, ставшего основой сериала Apple TV+ «Грейхаунд» с Томом Хэнксом

Фрагмент из романа Сесила Скотта Форестера «“Грейхаунд”, или Добрый пастырь»

Esquire
Моделирование указало на десятки активных вулканических структур на Венере Моделирование указало на десятки активных вулканических структур на Венере

На Венере все еще происходят внутренние геологические процессы

N+1
На природу с комфортом: что такое глэмпинг и почему это идеальный вид отдыха в 2020 году На природу с комфортом: что такое глэмпинг и почему это идеальный вид отдыха в 2020 году

Отдых на природе в комфортных условиях

Esquire
Камасутра, сэр! Приключения величайшего путешественника XIX века Ричарда Бёртона Камасутра, сэр! Приключения величайшего путешественника XIX века Ричарда Бёртона

Жизнь переводчика «Камасут­ры» Ричарда Бёртона полна захватывающих приключений!

Maxim
Укусы кольчатых червяг оказались ядовитыми Укусы кольчатых червяг оказались ядовитыми

У кольчатых червяг из Южной Америки обнаружили ядовитые железы на обеих челюстях

N+1
Удачное преображение: как изменился Александр Ревва после пластики Удачное преображение: как изменился Александр Ревва после пластики

Александр Ревва смог превратиться из комика в брутального мужчину

Cosmopolitan
Опытным шитьем Опытным шитьем

Знакомимся с дизайнерами, которые исследуют отношения между одеждой и телом

Seasons of life
Екатерина Бокучава: «Я не могу назвать себя ресторатором» Екатерина Бокучава: «Я не могу назвать себя ресторатором»

Екатерина Бокучава пришла в ресторанный бизнес из-за любви к искусству

Bones
KFC будет печатать наггетсы на биопринтере: мясо будущего KFC будет печатать наггетсы на биопринтере: мясо будущего

KFC в России начинает разработки по создания мяса с помощью 3D-биопринтера

Популярная механика
Летние сны Летние сны

В этой истории соединились два летних воспоминания, рассказанные двумя Катями

Seasons of life
Терапия зла Терапия зла

Как технологии лечения митохондриальных болезней 24 года идут к легализации

N+1
5 вымышленных животных, оказавшихся настоящими: от мифа к науке 5 вымышленных животных, оказавшихся настоящими: от мифа к науке

Некоторые существа, населяющие нашу планету, выглядят слишком фантастически

Популярная механика
Что делать, если потерял смысл жизни: главные способы преодолеть апатию Что делать, если потерял смысл жизни: главные способы преодолеть апатию

Как вырваться из омута отчаяния

Playboy
Правила жизни Вуди Харрельсона Правила жизни Вуди Харрельсона

Актер, Техас, США, 59 лет

Esquire
Не развод, а реалити-шоу: самые громкие и скандальные звездные расставания ever Не развод, а реалити-шоу: самые громкие и скандальные звездные расставания ever

Какие звездные пары решили устроить из своего расставания скандал?

Cosmopolitan
Проклятые фильмы: 6 кинокартин, где актеров постигли несчастья Проклятые фильмы: 6 кинокартин, где актеров постигли несчастья

Фильмы, вокруг которых всё еще витает злой рок

Cosmopolitan
Носочки для педикюра - спасение или опасная процедура? Мнение экспертов Носочки для педикюра - спасение или опасная процедура? Мнение экспертов

Безопасны ли азиатские носочки для педикюра

Cosmopolitan
Звезды в открытых браках: Уилл Смит, Тильда Суинтон и другие полигамные актеры Звезды в открытых браках: Уилл Смит, Тильда Суинтон и другие полигамные актеры

Некоторые пары договариваются, что в их браке найдется место и другим партнерам

Cosmopolitan
Открыть в приложении