Что нужно сделать, чтобы ИИ дал женщинам новые карьерные перспективы

ForbesHi-Tech

Вызов времени: как искусственный интеллект помогает бороться с дискриминацией

Все большее внедрение в разные сферы экономики систем исскусственного интеллекта может привести как к потенциальной дискриминации женщин, так и дать им новые карьерные перспективы. Разбираемся, что нужно сделать, чтобы развитие пошло по второму сценарию

Екатерина Ляпина

Фото REUTERS / Fabian Bimmer

Разговоры о том, что искусственный интеллект изменит рынок труда, ведутся годами. Сегодня фокус сместился с обсуждения неотвратимости будущего к оценке того, как и когда мир изменится и что это значит для всех нас. Попыток создания ИИ было уже несколько, но настоящий искусственный интеллект (Artificial General Intelligence), тот, который изображают в фильмах и книгах, еще далек от реализации. Что же на самом деле сейчас есть?

Не самый умный интеллект

Есть масса очень специализированных «умных алгоритмов», которые решают нишевые задачи, определяют закономерности на больших объемах данных. Они помогают принимать решения: например, остановить или разрешить подозрительную транзакцию, куда отправить грузы, выдать или не выдать кредит. Вероятность ошибки в таких системах меньше, чем если включается пресловутый человеческий фактор. Дальнейшее развитие алгоритмов, способных дополнять/заменять принятие решений человеком, позволит сократить позиции, требующие выполнения рутинных задач, которыми часто занимаются именно женщины. Так, уже сложно себе представить светлое будущее туроператоров, диспетчеров таксопарков, операционистов и ряда других профессий. Исследователи IMF прогнозируют, что 11% рабочих мест, занятых женщинами, в течение следующих двух десятилетий будет автоматизировано. А фокус будет смещен на саму разработку этих алгоритмов.

Все больше решений принимается автоматически и, к сожалению, не всегда в пользу женщин. Например, два года назад крупнейшему онлайн-ретейлеру Amazon пришлось «уволить» систему для автоматизированного просмотра резюме, так как она дискриминировала разработчиков женского пола. Такая ситуация произошла из-за того, что модели ИИ обучались на исторических данных за 10 лет. Тогда большинство кандидатов действительно были мужчинами, но из этого не следует, что они лучше справляются с техническими специальностями. Учитывая то, что алгоритмы быстро становятся ответственными за принятие все большего количества решений, наличие таких побочных эффектов представляет серьезную проблему.

Существует распространенное мнение, что алгоритмы просто улавливают взаимосвязь в имеющемся наборе данных. Но, фокусируясь на данных, легко игнорировать два аспекта этой проблемы: ограничения существующих алгоритмов и, что более важно, роль людей, ставящих алгоритмам задачу. Большинство алгоритмов только анализируют корреляционные отношения, ничего не понимая в них. Без вовлечения тех, кто решает проблемы и задает правильные вопросы, даже лучшие данные ничего не значат, ведь алгоритмы будут лишь отражать наши собственные предубеждения.

Разработчики систем ИИ, должны очень внимательно следить за тем, как формируются наборы данных для обучения алгоритмов, и отслеживать наличие предубеждений. Нужно следить за ошибками, которые совершает алгоритм: иногда их процент довольно низок, но они могут быть сделаны в отношении одной и той же группы людей. Например, скоринговая модель систематически отказывает в кредите людям, прописанным в китайском квартале. Такое поведение особенно опасно, ведь мы переносим все больше ответственности за принятие решений на систему. Некоторые используемые алгоритмы вообще не интерпретируемые, то есть мы не можем понять, почему было принято то или иное решение, какие именно факторы на него повлияли.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Все включено: как интернет изменил наш способ думать, жить и познавать мир Все включено: как интернет изменил наш способ думать, жить и познавать мир

Как пользование интернетом заставляет человеческий мозг работать по-новому

Esquire
Свела с ума главных секс-символов Голливуда: самые яркие романы Катрин Денев Свела с ума главных секс-символов Голливуда: самые яркие романы Катрин Денев

Катрин Денев рано разочаровалась в браке, но всегда была окружена мужчинами

Cosmopolitan
Мы выбираем друг друга не случайно Мы выбираем друг друга не случайно

Выбор партнера предопределен всем предшествующим ходом нашей жизни

Psychologies
Сахарных сумчатых летяг разделили на три вида Сахарных сумчатых летяг разделили на три вида

Чем отличаются друг от друга эти маленькие зверьки из Австралии?

N+1
С запахом еды: опасно ли использовать пищевые ароматизаторы С запахом еды: опасно ли использовать пищевые ароматизаторы

Способны ли синтетические ароматизаторы заменить ароматы продуктов питания?

Популярная механика
Патриархальный рот: 16 языков, на которых говорят в России, находятся под угрозой исчезновения Патриархальный рот: 16 языков, на которых говорят в России, находятся под угрозой исчезновения

Исчезающие зыки, на которых говорят малые народы в России

Esquire
Девушка, вы выходите? Девушка, вы выходите?

Как проходят онлайн-курсы «Как выйти замуж за иностранца»

Cosmopolitan
Расстаться мирно: 20 лайфхаков для тех, кто разводится Расстаться мирно: 20 лайфхаков для тех, кто разводится

Расставание — нелегкое испытание для обоих супругов, особенно если есть дети

Psychologies
Не развод, а реалити-шоу: самые громкие и скандальные звездные расставания ever Не развод, а реалити-шоу: самые громкие и скандальные звездные расставания ever

Какие звездные пары решили устроить из своего расставания скандал?

Cosmopolitan
«Дегтярев совершил фатальные ошибки»: как новый глава Хабаровского края еще больше разозлил жителей и что ему теперь делать «Дегтярев совершил фатальные ошибки»: как новый глава Хабаровского края еще больше разозлил жителей и что ему теперь делать

Михаил Дегтярев совершил «фатальные ошибки» после назначения

Forbes
Девушка дня: вокалистка Blondie Дебби Харри Девушка дня: вокалистка Blondie Дебби Харри

Вокалистка Blondie, знойный женский символ 70-х, модель и немножечко актриса

Maxim
Какое лето без малины Какое лето без малины

Мы ценим вкус малины и ее необыкновенные целебные свойства

Лиза
5 скрытых видов манипуляции, которыми пользуются нарциссы 5 скрытых видов манипуляции, которыми пользуются нарциссы

5 коварных и скрытных видов манипуляции, которые часто применяют нарциссы

Psychologies
Райские кучи: 6 необычных облаков, и почему они такие Райские кучи: 6 необычных облаков, и почему они такие

Облака бывают не только кучевые, перистые или слоистые

Maxim
«Я проклинала Тома Круза!»: неожиданные факты об актрисе Тэнди Ньютон «Я проклинала Тома Круза!»: неожиданные факты об актрисе Тэнди Ньютон

Актрисе Тэнди Ньютон совсем не понравилось когда-то работать с Томом Крузом

Cosmopolitan
Доживем до 2030: какие пункты «июльского указа» Путина могут быть выполнены в реальности Доживем до 2030: какие пункты «июльского указа» Путина могут быть выполнены в реальности

Недостижимые цели в «Национальных целях России до 2030 года»

Forbes
Кто такие майнд-коучи и зачем нужно тренировать мозг Кто такие майнд-коучи и зачем нужно тренировать мозг

Что такое майнд-фитнес и почему прокачивать мозг полезно

РБК
Медики назвали состояния, когда нельзя садиться за руль. Подробности Медики назвали состояния, когда нельзя садиться за руль. Подробности

При каких состояниях не стоит управлять автомобилем?

РБК
Алкогений: Петр Первый Алкогений: Петр Первый

Петр Великий был реформатором российского пьянства

Maxim
Вижу цель, вижу препятствия: что мешает нам на пути к успеху Вижу цель, вижу препятствия: что мешает нам на пути к успеху

Ставить себе цели и достигать их — умение непростое

Psychologies
Секс-коучинг: спасательный круг или опасные рифы? Секс-коучинг: спасательный круг или опасные рифы?

Что такое суррогатный секс-партнер и для чего он нужен

Psychologies
«Требуем расстрелять нашего сына»: самый молодой преступник в СССР «Требуем расстрелять нашего сына»: самый молодой преступник в СССР

Владимир Винничевский — самый молодой серийный убийца в СССР

Cosmopolitan
Издатель Михаил Лопатин — о гиде «Ресторанный навигатор», критике и пиаре Издатель Михаил Лопатин — о гиде «Ресторанный навигатор», критике и пиаре

Возмутитель спокойствия ресторанного мира выпустил «Ресторанный навигатор»

РБК
Заметки тролля. Почему в соцсетях люди становятся хамами и как им противостоять Заметки тролля. Почему в соцсетях люди становятся хамами и как им противостоять

Об одном из «подвидов» возмутителей сетевого спокойствия — тролле по незнанию

Forbes
Как выбрать лучшую судьбу: взгляд с Востока Как выбрать лучшую судьбу: взгляд с Востока

Разбираемся в восточном взгляде на то, как достичь счастья

Psychologies
8 фильмов о еде: «Вкус жизни», «Ешь, молись, люби» и другие 8 фильмов о еде: «Вкус жизни», «Ешь, молись, люби» и другие

Киноленты, в которых еда становится одним из главных героев

РБК
Как пережить разрыв и почему сложно оставить невротические отношения Как пережить разрыв и почему сложно оставить невротические отношения

Почему происходят расставания?

РБК
Диагноз по селфи. Как пять российских ученых научили искусственный интеллект оценивать людей по фото Диагноз по селфи. Как пять российских ученых научили искусственный интеллект оценивать людей по фото

Машины научились считывать характер человека по фото и делают это лучше людей

Forbes
Подведены итоги печати живыми клетками в космосе Подведены итоги печати живыми клетками в космосе

Описаны результаты эксперимента по печати клеточных конструктов в космосе

Популярная механика
Ведро позора: 8 немецких автомобилей, которые не оправдали надежд Ведро позора: 8 немецких автомобилей, которые не оправдали надежд

В древней Спарте таких сбрасывали со скалы…

Maxim
Открыть в приложении