Что нужно сделать, чтобы ИИ дал женщинам новые карьерные перспективы

ForbesHi-Tech

Вызов времени: как искусственный интеллект помогает бороться с дискриминацией

Все большее внедрение в разные сферы экономики систем исскусственного интеллекта может привести как к потенциальной дискриминации женщин, так и дать им новые карьерные перспективы. Разбираемся, что нужно сделать, чтобы развитие пошло по второму сценарию

Екатерина Ляпина

Фото REUTERS / Fabian Bimmer

Разговоры о том, что искусственный интеллект изменит рынок труда, ведутся годами. Сегодня фокус сместился с обсуждения неотвратимости будущего к оценке того, как и когда мир изменится и что это значит для всех нас. Попыток создания ИИ было уже несколько, но настоящий искусственный интеллект (Artificial General Intelligence), тот, который изображают в фильмах и книгах, еще далек от реализации. Что же на самом деле сейчас есть?

Не самый умный интеллект

Есть масса очень специализированных «умных алгоритмов», которые решают нишевые задачи, определяют закономерности на больших объемах данных. Они помогают принимать решения: например, остановить или разрешить подозрительную транзакцию, куда отправить грузы, выдать или не выдать кредит. Вероятность ошибки в таких системах меньше, чем если включается пресловутый человеческий фактор. Дальнейшее развитие алгоритмов, способных дополнять/заменять принятие решений человеком, позволит сократить позиции, требующие выполнения рутинных задач, которыми часто занимаются именно женщины. Так, уже сложно себе представить светлое будущее туроператоров, диспетчеров таксопарков, операционистов и ряда других профессий. Исследователи IMF прогнозируют, что 11% рабочих мест, занятых женщинами, в течение следующих двух десятилетий будет автоматизировано. А фокус будет смещен на саму разработку этих алгоритмов.

Все больше решений принимается автоматически и, к сожалению, не всегда в пользу женщин. Например, два года назад крупнейшему онлайн-ретейлеру Amazon пришлось «уволить» систему для автоматизированного просмотра резюме, так как она дискриминировала разработчиков женского пола. Такая ситуация произошла из-за того, что модели ИИ обучались на исторических данных за 10 лет. Тогда большинство кандидатов действительно были мужчинами, но из этого не следует, что они лучше справляются с техническими специальностями. Учитывая то, что алгоритмы быстро становятся ответственными за принятие все большего количества решений, наличие таких побочных эффектов представляет серьезную проблему.

Существует распространенное мнение, что алгоритмы просто улавливают взаимосвязь в имеющемся наборе данных. Но, фокусируясь на данных, легко игнорировать два аспекта этой проблемы: ограничения существующих алгоритмов и, что более важно, роль людей, ставящих алгоритмам задачу. Большинство алгоритмов только анализируют корреляционные отношения, ничего не понимая в них. Без вовлечения тех, кто решает проблемы и задает правильные вопросы, даже лучшие данные ничего не значат, ведь алгоритмы будут лишь отражать наши собственные предубеждения.

Разработчики систем ИИ, должны очень внимательно следить за тем, как формируются наборы данных для обучения алгоритмов, и отслеживать наличие предубеждений. Нужно следить за ошибками, которые совершает алгоритм: иногда их процент довольно низок, но они могут быть сделаны в отношении одной и той же группы людей. Например, скоринговая модель систематически отказывает в кредите людям, прописанным в китайском квартале. Такое поведение особенно опасно, ведь мы переносим все больше ответственности за принятие решений на систему. Некоторые используемые алгоритмы вообще не интерпретируемые, то есть мы не можем понять, почему было принято то или иное решение, какие именно факторы на него повлияли.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Все включено: как интернет изменил наш способ думать, жить и познавать мир Все включено: как интернет изменил наш способ думать, жить и познавать мир

Как пользование интернетом заставляет человеческий мозг работать по-новому

Esquire
Неупорядоченный нанослой обеспечил сплаву со сверхрешеточной структурой ковкость и термостойкость Неупорядоченный нанослой обеспечил сплаву со сверхрешеточной структурой ковкость и термостойкость

Китайские ученые создали сплав со сверхрешеточной структурой

N+1
Умные вещи века Умные вещи века

10 переизобретений, без которых ты раньше отлично жил, но теперь – не сможешь

Maxim
Эжен и ребята Эжен и ребята

Дом в пригороде Парижа, где живет семья с тремя детьми

Seasons of life
«Третий рейх. 16 историй о жизни и смерти» «Третий рейх. 16 историй о жизни и смерти»

Отрывок из книги «Третий рейх. 16 историй о жизни и смерти»

N+1
Если в детстве ваши чувства игнорировали: восстанавливаем контакт с собой Если в детстве ваши чувства игнорировали: восстанавливаем контакт с собой

Игнорирование детских переживаний приводит к серьезным психологическим травмам

Psychologies
Носы с горбинкой: звезды с изюминкой, которые отказались от ринопластики Носы с горбинкой: звезды с изюминкой, которые отказались от ринопластики

Некоторые звезды превращают особенности своей внешности в изюминку

Cosmopolitan
Нежелезный человек: какие продукты и хитрости помогут избежать анемии Нежелезный человек: какие продукты и хитрости помогут избежать анемии

Чем питаться и как готовить пищу, чтобы не допускать нехватки железа

Psychologies
Сам себе фармацевт Сам себе фармацевт

Как правильно хранить лекарства в квартире

Лиза
Пинокотека Пинокотека

После реконструкции биржа вернулась к облику XIX века

Vogue
Вижу цель, вижу препятствия: что мешает нам на пути к успеху Вижу цель, вижу препятствия: что мешает нам на пути к успеху

Ставить себе цели и достигать их — умение непростое

Psychologies
Потепление заставит белых медведей дольше голодать Потепление заставит белых медведей дольше голодать

Глобальное изменение климата особенно сказывается на Арктике и её обитателях

N+1
Возвращение «пилы Чурова»: о чем свидетельствуют нарушения при голосовании о поправках в Конституцию Возвращение «пилы Чурова»: о чем свидетельствуют нарушения при голосовании о поправках в Конституцию

Насколько честно проходила компания по изменению Конституции России

Forbes
Самые красивые Самые красивые

Наши бабочки не менее красивы, чем их экзотические южные собратья

Наука и жизнь
Холодная сварка: действительно ли это работает? Холодная сварка: действительно ли это работает?

Говорят, что холодная сварка соединяет любой материал. Действительно ли это так?

CHIP
Арабская экспансия в космос: зачем ОАЭ отправляют зонд к Марсу Арабская экспансия в космос: зачем ОАЭ отправляют зонд к Марсу

В ночь на 15 июля стартует первый марсианский зонд, созданный ОАЭ

Forbes
После нас: что будет с Землей, если человечество вымрет После нас: что будет с Землей, если человечество вымрет

Эксперты уверены, что конец человечества просто неизбежен

Популярная механика
Семь простых способов продлить срок работы для своего смартфона Семь простых способов продлить срок работы для своего смартфона

Советы, которые действительно продлевают жизнь телефона

Maxim
20 секретов счастливой жизни 20 секретов счастливой жизни

Как можно тренировать способность быть счастливым и что в этом поможет?

Psychologies
Утвердили — и отказали: Гослинг, Сталлоне и другие актеры, уволенные со съемок Утвердили — и отказали: Гослинг, Сталлоне и другие актеры, уволенные со съемок

То, что актера утвердили на роль, еще не значит, что он ее сыграет

Cosmopolitan
Избавься от них! 10 вещей, из-за которых ты выглядишь несовременно Избавься от них! 10 вещей, из-за которых ты выглядишь несовременно

10 вещей, которые давно уже стали признаком дурного вкуса

Cosmopolitan
6 неожиданных преимуществ игры в шахматы для твоей жизни, названных экспертом 6 неожиданных преимуществ игры в шахматы для твоей жизни, названных экспертом

Доставай доску!

Playboy
Как быстро заснуть и не чувствовать себя разбито на следующий день: 9 верных советов Как быстро заснуть и не чувствовать себя разбито на следующий день: 9 верных советов

Наверняка тебе знакомо это состояние двухчасового рассматривания потолка

Playboy
Иван Забавников: «Свой хлеб — это ваша уникальность!» Иван Забавников: «Свой хлеб — это ваша уникальность!»

Шеф-пекарь Иван Забавников об особенностях профессии и вкусах гостей

Bones
8 крутых преимуществ баскетбола для здоровья (пора звонить друзьям) 8 крутых преимуществ баскетбола для здоровья (пора звонить друзьям)

Баскетбол полезен не только радостью от победы

Playboy
До жути прекрасны: 10 самых сексуальных кинозлодеек всех времен – кто они До жути прекрасны: 10 самых сексуальных кинозлодеек всех времен – кто они

10 сексуальных злодеек, завоевавших любовь вопреки своей дьявольской сущности

Cosmopolitan
Времена почище Времена почище

Из самоизоляции актер и шоумен Михаил Башкатов вышел победителем

OK!
Пять советов родителям подростков Пять советов родителям подростков

Как научить ребенка общаться?

Лиза
Опытным шитьем Опытным шитьем

Знакомимся с дизайнерами, которые исследуют отношения между одеждой и телом

Seasons of life
Место на карте: Байкал Место на карте: Байкал

Знакомимся с историей легендарных природных памятников России

Культура.РФ
Открыть в приложении