Что нужно сделать, чтобы ИИ дал женщинам новые карьерные перспективы

ForbesHi-Tech

Вызов времени: как искусственный интеллект помогает бороться с дискриминацией

Все большее внедрение в разные сферы экономики систем исскусственного интеллекта может привести как к потенциальной дискриминации женщин, так и дать им новые карьерные перспективы. Разбираемся, что нужно сделать, чтобы развитие пошло по второму сценарию

Екатерина Ляпина

Фото REUTERS / Fabian Bimmer

Разговоры о том, что искусственный интеллект изменит рынок труда, ведутся годами. Сегодня фокус сместился с обсуждения неотвратимости будущего к оценке того, как и когда мир изменится и что это значит для всех нас. Попыток создания ИИ было уже несколько, но настоящий искусственный интеллект (Artificial General Intelligence), тот, который изображают в фильмах и книгах, еще далек от реализации. Что же на самом деле сейчас есть?

Не самый умный интеллект

Есть масса очень специализированных «умных алгоритмов», которые решают нишевые задачи, определяют закономерности на больших объемах данных. Они помогают принимать решения: например, остановить или разрешить подозрительную транзакцию, куда отправить грузы, выдать или не выдать кредит. Вероятность ошибки в таких системах меньше, чем если включается пресловутый человеческий фактор. Дальнейшее развитие алгоритмов, способных дополнять/заменять принятие решений человеком, позволит сократить позиции, требующие выполнения рутинных задач, которыми часто занимаются именно женщины. Так, уже сложно себе представить светлое будущее туроператоров, диспетчеров таксопарков, операционистов и ряда других профессий. Исследователи IMF прогнозируют, что 11% рабочих мест, занятых женщинами, в течение следующих двух десятилетий будет автоматизировано. А фокус будет смещен на саму разработку этих алгоритмов.

Все больше решений принимается автоматически и, к сожалению, не всегда в пользу женщин. Например, два года назад крупнейшему онлайн-ретейлеру Amazon пришлось «уволить» систему для автоматизированного просмотра резюме, так как она дискриминировала разработчиков женского пола. Такая ситуация произошла из-за того, что модели ИИ обучались на исторических данных за 10 лет. Тогда большинство кандидатов действительно были мужчинами, но из этого не следует, что они лучше справляются с техническими специальностями. Учитывая то, что алгоритмы быстро становятся ответственными за принятие все большего количества решений, наличие таких побочных эффектов представляет серьезную проблему.

Существует распространенное мнение, что алгоритмы просто улавливают взаимосвязь в имеющемся наборе данных. Но, фокусируясь на данных, легко игнорировать два аспекта этой проблемы: ограничения существующих алгоритмов и, что более важно, роль людей, ставящих алгоритмам задачу. Большинство алгоритмов только анализируют корреляционные отношения, ничего не понимая в них. Без вовлечения тех, кто решает проблемы и задает правильные вопросы, даже лучшие данные ничего не значат, ведь алгоритмы будут лишь отражать наши собственные предубеждения.

Разработчики систем ИИ, должны очень внимательно следить за тем, как формируются наборы данных для обучения алгоритмов, и отслеживать наличие предубеждений. Нужно следить за ошибками, которые совершает алгоритм: иногда их процент довольно низок, но они могут быть сделаны в отношении одной и той же группы людей. Например, скоринговая модель систематически отказывает в кредите людям, прописанным в китайском квартале. Такое поведение особенно опасно, ведь мы переносим все больше ответственности за принятие решений на систему. Некоторые используемые алгоритмы вообще не интерпретируемые, то есть мы не можем понять, почему было принято то или иное решение, какие именно факторы на него повлияли.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Все включено: как интернет изменил наш способ думать, жить и познавать мир Все включено: как интернет изменил наш способ думать, жить и познавать мир

Как пользование интернетом заставляет человеческий мозг работать по-новому

Esquire
«Пусть хоть голыми работают в два ночи». Почему мы потеряли веру в магию почасового трудоголизма «Пусть хоть голыми работают в два ночи». Почему мы потеряли веру в магию почасового трудоголизма

Как нужно повышать эффективность работы команды в 2020-м

Forbes
Рейтинг брендов Рейтинг брендов

Бренды, которые стали заметны на рынке за год

Forbes
Кейс «Поставщика счастья»: как айтишник построил империю на онлайн-рынке секс-игрушек благодаря дропшиппингу Кейс «Поставщика счастья»: как айтишник построил империю на онлайн-рынке секс-игрушек благодаря дропшиппингу

В чём подводные камни дропшиппинга и управления онлайн-секс-шопом?

Inc.
«Я вышла из зоны комфорта и очень собой горжусь» «Я вышла из зоны комфорта и очень собой горжусь»

Анна Плетнёва о красоте, гармонии с собой и новом альбоме

OK!
Тесла vs Эдисон: битва гения с бизнесом Тесла vs Эдисон: битва гения с бизнесом

Кто же лучше — Никола Тесла или Томас Эдисон?

Популярная механика
Почему нам важно помогать другим Почему нам важно помогать другим

Как эволюция заложила в нас потребность помогать ближним

Psychologies
Джоконда для зумеров: мировые музеи жаждут молодой крови Джоконда для зумеров: мировые музеи жаждут молодой крови

Как заинтересовать искусством самых молодых?

Forbes
RFID-метки помогли автоматизировать сбор снимков для распознавания птиц RFID-метки помогли автоматизировать сбор снимков для распознавания птиц

Птиц очень удобно распознавать по спинке — с точностью выше 90 процентов

N+1
6 неожиданных преимуществ игры в шахматы для твоей жизни, названных экспертом 6 неожиданных преимуществ игры в шахматы для твоей жизни, названных экспертом

Доставай доску!

Playboy
Владимир Коренев. До и после Ихтиандра Владимир Коренев. До и после Ихтиандра

Ранний брак удержал Владимира Коренева от многих ошибок

Караван историй
Человеческая слизь: зачем мы едим собственные сопли Человеческая слизь: зачем мы едим собственные сопли

Некоторые ученые предлагают даже... есть сопли, чтобы лучше себя чувствовать

Популярная механика
15 лучших современных фильмов из 15 бывших советских республик 15 лучших современных фильмов из 15 бывших советских республик

Какое кино снимают бывшие республики СССР и как у них это получается

Maxim
Не развод, а реалити-шоу: самые громкие и скандальные звездные расставания ever Не развод, а реалити-шоу: самые громкие и скандальные звездные расставания ever

Какие звездные пары решили устроить из своего расставания скандал?

Cosmopolitan
Как фермер из Владимирской области стал одним из крупнейших поставщиков Lay’s и зарабатывает на картошке больше 400 млн рублей в год Как фермер из Владимирской области стал одним из крупнейших поставщиков Lay’s и зарабатывает на картошке больше 400 млн рублей в год

Андрей Синицын начал картофельный бизнес еще в 90-х

Forbes
Спад эпидемии тифа в варшавском гетто объяснили социальным дистанцированием Спад эпидемии тифа в варшавском гетто объяснили социальным дистанцированием

Официальная статистика смертности в варшавском гетто, похоже, была занижена

N+1
Дарья Шпаликова. Завещание Дарья Шпаликова. Завещание

Дарья Шпаликова рассказывает о своей жизни, родителях и карьере

Караван историй
Миротворец-империалист Миротворец-империалист

Весь период правления Никита Сергеевич отчаянно боролся за мир

Дилетант
Переосмысляя красоту: как изменились наши представления о маскулинности и феминности Переосмысляя красоту: как изменились наши представления о маскулинности и феминности

Как мы переосмысляем отношение к своему телу и тому, во что мы его одеваем

Forbes
Невидимый пол: как женщины живут в мире, где все спроектировано мужчинами и для мужчин Невидимый пол: как женщины живут в мире, где все спроектировано мужчинами и для мужчин

Почти все в нашем мире спроектировано с учетом пользователя-мужчины

Forbes
Население Земли начнет снижаться с 2050 года Население Земли начнет снижаться с 2050 года

После 2050 года население Земли пойдет на спад

Популярная механика
Не надо быть честной девушкой Не надо быть честной девушкой

Коуч Алексей Ситников о вечной пословице «Молчи, за умную сойдешь»

Tatler
Почему нельзя успеть все: на что ты тратишь время, когда Почему нельзя успеть все: на что ты тратишь время, когда

Сколько времени из жизни мы тратим на привычные и неизбежные вещи?

Cosmopolitan
Новый альбом Cream Soda – лучший психоделический трип в вашей жизни Новый альбом Cream Soda – лучший психоделический трип в вашей жизни

Дима Нова: «Мы хотим, чтобы люди знали – не нужно бояться экспериментировать».

GQ
Правде в глаза Правде в глаза

Никита Ефремов — о главной роли в сериале «Хороший человек»

Vogue
Кроме костюма: необычные наряды, в которых женились знаменитые мужчины Кроме костюма: необычные наряды, в которых женились знаменитые мужчины

Идеи свадебных костюмов от Мика Джаггера, Джона Леннона и не только

Esquire
Пролежавшие 101 миллион лет на дне океана бактерии поели и размножились Пролежавшие 101 миллион лет на дне океана бактерии поели и размножились

На примере этих бактерий можно будет изучать эволюционные процессы

N+1
Московский митинг 15 июля и его последствия Московский митинг 15 июля и его последствия

Рассказ политолога о митинге на Пушкинской площади

СНОБ
Почему сами жертвы не всегда признают факт изнасилования Почему сами жертвы не всегда признают факт изнасилования

Если женщина предпочитает не помнить о насилии — спасительно ли это для психики?

Psychologies
Соли пиперидиния повысили стабильность перовскитных солнечных батарей Соли пиперидиния повысили стабильность перовскитных солнечных батарей

Солнечные элементы сохранили 95 процентов эффективности после 1000 часов работы

N+1
Открыть в приложении