Что нужно сделать, чтобы ИИ дал женщинам новые карьерные перспективы

ForbesHi-Tech

Вызов времени: как искусственный интеллект помогает бороться с дискриминацией

Все большее внедрение в разные сферы экономики систем исскусственного интеллекта может привести как к потенциальной дискриминации женщин, так и дать им новые карьерные перспективы. Разбираемся, что нужно сделать, чтобы развитие пошло по второму сценарию

Екатерина Ляпина

Фото REUTERS / Fabian Bimmer

Разговоры о том, что искусственный интеллект изменит рынок труда, ведутся годами. Сегодня фокус сместился с обсуждения неотвратимости будущего к оценке того, как и когда мир изменится и что это значит для всех нас. Попыток создания ИИ было уже несколько, но настоящий искусственный интеллект (Artificial General Intelligence), тот, который изображают в фильмах и книгах, еще далек от реализации. Что же на самом деле сейчас есть?

Не самый умный интеллект

Есть масса очень специализированных «умных алгоритмов», которые решают нишевые задачи, определяют закономерности на больших объемах данных. Они помогают принимать решения: например, остановить или разрешить подозрительную транзакцию, куда отправить грузы, выдать или не выдать кредит. Вероятность ошибки в таких системах меньше, чем если включается пресловутый человеческий фактор. Дальнейшее развитие алгоритмов, способных дополнять/заменять принятие решений человеком, позволит сократить позиции, требующие выполнения рутинных задач, которыми часто занимаются именно женщины. Так, уже сложно себе представить светлое будущее туроператоров, диспетчеров таксопарков, операционистов и ряда других профессий. Исследователи IMF прогнозируют, что 11% рабочих мест, занятых женщинами, в течение следующих двух десятилетий будет автоматизировано. А фокус будет смещен на саму разработку этих алгоритмов.

Все больше решений принимается автоматически и, к сожалению, не всегда в пользу женщин. Например, два года назад крупнейшему онлайн-ретейлеру Amazon пришлось «уволить» систему для автоматизированного просмотра резюме, так как она дискриминировала разработчиков женского пола. Такая ситуация произошла из-за того, что модели ИИ обучались на исторических данных за 10 лет. Тогда большинство кандидатов действительно были мужчинами, но из этого не следует, что они лучше справляются с техническими специальностями. Учитывая то, что алгоритмы быстро становятся ответственными за принятие все большего количества решений, наличие таких побочных эффектов представляет серьезную проблему.

Существует распространенное мнение, что алгоритмы просто улавливают взаимосвязь в имеющемся наборе данных. Но, фокусируясь на данных, легко игнорировать два аспекта этой проблемы: ограничения существующих алгоритмов и, что более важно, роль людей, ставящих алгоритмам задачу. Большинство алгоритмов только анализируют корреляционные отношения, ничего не понимая в них. Без вовлечения тех, кто решает проблемы и задает правильные вопросы, даже лучшие данные ничего не значат, ведь алгоритмы будут лишь отражать наши собственные предубеждения.

Разработчики систем ИИ, должны очень внимательно следить за тем, как формируются наборы данных для обучения алгоритмов, и отслеживать наличие предубеждений. Нужно следить за ошибками, которые совершает алгоритм: иногда их процент довольно низок, но они могут быть сделаны в отношении одной и той же группы людей. Например, скоринговая модель систематически отказывает в кредите людям, прописанным в китайском квартале. Такое поведение особенно опасно, ведь мы переносим все больше ответственности за принятие решений на систему. Некоторые используемые алгоритмы вообще не интерпретируемые, то есть мы не можем понять, почему было принято то или иное решение, какие именно факторы на него повлияли.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Все включено: как интернет изменил наш способ думать, жить и познавать мир Все включено: как интернет изменил наш способ думать, жить и познавать мир

Как пользование интернетом заставляет человеческий мозг работать по-новому

Esquire
Палеонтологи уточнили устройство первых зубов Палеонтологи уточнили устройство первых зубов

Изначально зубы у костных рыб образовывались по краям челюстей

N+1
Алексей Маслов: Конфуций. Беседы с одиноким мудрецом Алексей Маслов: Конфуций. Беседы с одиноким мудрецом

Отрывок из новой книги Алексея Маслова о великом китайском мыслители Конфуции

СНОБ
4 климатические катастрофы, сделавшие мир чуть лучше 4 климатические катастрофы, сделавшие мир чуть лучше

Если бы не эти катастрофы, мир лишился бы важных достижений культуры и искусства

Maxim
30 главных мужских разочарований в жизни 30 главных мужских разочарований в жизни

Некоторые вещи при ближайшем рассмотрении куда хуже, чем казались издалека

Maxim
7 лайфхаков для бегунов 7 лайфхаков для бегунов

7 лайфхаков, которое помогут тебе апгрейдить беговые навыки

Maxim
5 настолок по мотивам популярных видеоигр 5 настолок по мотивам популярных видеоигр

Предлагаем столкнуться с противником лицом к лицу с помощью настольных игр

CHIP
Российские ученые открыли три новых минерала Российские ученые открыли три новых минерала

Во время экспедиции на Камчатку ученые обнаружили сразу три уникальных минерала

Популярная механика
Из-за глобального потепления суркам стало легче выжить летом и труднее зимой Из-за глобального потепления суркам стало легче выжить летом и труднее зимой

Одни и те же виды могут по-разному реагировать на климатические изменения

N+1
Выйти из тени Выйти из тени

Правдивые факты о том, как уберечь кожу от опасного воздействия ультрафиолета

Playboy
Письмо телу Письмо телу

Как заметить свое тело и начать строить с ним отношения

Seasons of life
Семейный альбом Семейный альбом

Интерьер, в котором взрослеют дети архитектора Олега Клодта

AD
Из волшебного мира в реальность: что стало с актерами фильмов о Гарри Поттере Из волшебного мира в реальность: что стало с актерами фильмов о Гарри Поттере

Досье на повзрослевших актеров поттерианы

Cosmopolitan
Прокололась... Прокололась...

За своими словами стоит следить всегда, особенно на работе

Лиза
О чем говорят стены, куда приведет разметка: как будут выглядеть общественные пространства после пандемии О чем говорят стены, куда приведет разметка: как будут выглядеть общественные пространства после пандемии

Как будут выглядеть общественные пространства, когда пандемия закончится?

Forbes
Речь о краденом молоке Речь о краденом молоке

Василий Степанов о «Первой корове» Келли Рейхардт

Weekend
Беру, не глядя: как  фейсбук-группа «Шар и крест» уронила рынок и спасла художников в карантине Беру, не глядя: как  фейсбук-группа «Шар и крест» уронила рынок и спасла художников в карантине

Почему искусство стоит так дешево, и почему это так хорошо

Forbes
Как легко бросить курить? 8 способов, которые работают Как легко бросить курить? 8 способов, которые работают

Эффективные приемы, помогающие бросить курить раз и навсегда

Playboy
10 уроков стиля от Одри Хепберн: каким правилам следовала икона стиля XX века 10 уроков стиля от Одри Хепберн: каким правилам следовала икона стиля XX века

О красоте прекрасной Одри Хепберн можно говорить часами

Cosmopolitan
История Уно Тие: как японская писательница основала самый успешный журнал мод и дала отпор патриархату История Уно Тие: как японская писательница основала самый успешный журнал мод и дала отпор патриархату

Писательница и законодательница мод Уно Тие — одна из самых ярких женщин XX века

Forbes
Масштаб, брутализм и Faradenza: за что и сегодня ценят архитектуру российских курортов Масштаб, брутализм и Faradenza: за что и сегодня ценят архитектуру российских курортов

Чем примечательна архитектура пяти старых российских здравниц

Forbes
«Пламенеющий» урожай: почему 2019 год стал исключительным в истории виноделия «Пламенеющий» урожай: почему 2019 год стал исключительным в истории виноделия

Впервые за долгое время сбор урожая Бордо не был омрачен ни ливнем, ни градом

Forbes
Война за воспитание Война за воспитание

Как продолжать любить своих несовершенных отпрысков?

Psychologies
6 неожиданных преимуществ игры в шахматы для твоей жизни, названных экспертом 6 неожиданных преимуществ игры в шахматы для твоей жизни, названных экспертом

Доставай доску!

Playboy
Пружинка слинки: игрушка, рожденная на войне Пружинка слинки: игрушка, рожденная на войне

Знаменитая игрушка пружинка слинки появилась в США в разгар Второй Мировой войны

Популярная механика
«Я расту по дням или по часам?»: эксперты отвечают на детские вопросы об отпечатках пальцев, сигаретах, мужских сосках и многом другом «Я расту по дням или по часам?»: эксперты отвечают на детские вопросы об отпечатках пальцев, сигаретах, мужских сосках и многом другом

Умные взрослые отвечают на вопросы, заданные обычными детьми

Esquire
Девушка дня: вокалистка Blondie Дебби Харри Девушка дня: вокалистка Blondie Дебби Харри

Вокалистка Blondie, знойный женский символ 70-х, модель и немножечко актриса

Maxim
The New Republic (США): смертоносное одиночество The New Republic (США): смертоносное одиночество

Кто такие одинокие люди, какова ключевая составляющая этого чувства и чем опасно

ИноСМИ
Как правильно забивать кальян в домашних условиях: пошаговая инструкция Как правильно забивать кальян в домашних условиях: пошаговая инструкция

Получи дымное удовольствие

Playboy
Правила жизни Джима Моррисона Правила жизни Джима Моррисона

Музыкант, умер в 1971 году в возрасте 27 лет

Esquire
Открыть в приложении