Что нужно сделать, чтобы ИИ дал женщинам новые карьерные перспективы

ForbesHi-Tech

Вызов времени: как искусственный интеллект помогает бороться с дискриминацией

Все большее внедрение в разные сферы экономики систем исскусственного интеллекта может привести как к потенциальной дискриминации женщин, так и дать им новые карьерные перспективы. Разбираемся, что нужно сделать, чтобы развитие пошло по второму сценарию

Екатерина Ляпина

Фото REUTERS / Fabian Bimmer

Разговоры о том, что искусственный интеллект изменит рынок труда, ведутся годами. Сегодня фокус сместился с обсуждения неотвратимости будущего к оценке того, как и когда мир изменится и что это значит для всех нас. Попыток создания ИИ было уже несколько, но настоящий искусственный интеллект (Artificial General Intelligence), тот, который изображают в фильмах и книгах, еще далек от реализации. Что же на самом деле сейчас есть?

Не самый умный интеллект

Есть масса очень специализированных «умных алгоритмов», которые решают нишевые задачи, определяют закономерности на больших объемах данных. Они помогают принимать решения: например, остановить или разрешить подозрительную транзакцию, куда отправить грузы, выдать или не выдать кредит. Вероятность ошибки в таких системах меньше, чем если включается пресловутый человеческий фактор. Дальнейшее развитие алгоритмов, способных дополнять/заменять принятие решений человеком, позволит сократить позиции, требующие выполнения рутинных задач, которыми часто занимаются именно женщины. Так, уже сложно себе представить светлое будущее туроператоров, диспетчеров таксопарков, операционистов и ряда других профессий. Исследователи IMF прогнозируют, что 11% рабочих мест, занятых женщинами, в течение следующих двух десятилетий будет автоматизировано. А фокус будет смещен на саму разработку этих алгоритмов.

Все больше решений принимается автоматически и, к сожалению, не всегда в пользу женщин. Например, два года назад крупнейшему онлайн-ретейлеру Amazon пришлось «уволить» систему для автоматизированного просмотра резюме, так как она дискриминировала разработчиков женского пола. Такая ситуация произошла из-за того, что модели ИИ обучались на исторических данных за 10 лет. Тогда большинство кандидатов действительно были мужчинами, но из этого не следует, что они лучше справляются с техническими специальностями. Учитывая то, что алгоритмы быстро становятся ответственными за принятие все большего количества решений, наличие таких побочных эффектов представляет серьезную проблему.

Существует распространенное мнение, что алгоритмы просто улавливают взаимосвязь в имеющемся наборе данных. Но, фокусируясь на данных, легко игнорировать два аспекта этой проблемы: ограничения существующих алгоритмов и, что более важно, роль людей, ставящих алгоритмам задачу. Большинство алгоритмов только анализируют корреляционные отношения, ничего не понимая в них. Без вовлечения тех, кто решает проблемы и задает правильные вопросы, даже лучшие данные ничего не значат, ведь алгоритмы будут лишь отражать наши собственные предубеждения.

Разработчики систем ИИ, должны очень внимательно следить за тем, как формируются наборы данных для обучения алгоритмов, и отслеживать наличие предубеждений. Нужно следить за ошибками, которые совершает алгоритм: иногда их процент довольно низок, но они могут быть сделаны в отношении одной и той же группы людей. Например, скоринговая модель систематически отказывает в кредите людям, прописанным в китайском квартале. Такое поведение особенно опасно, ведь мы переносим все больше ответственности за принятие решений на систему. Некоторые используемые алгоритмы вообще не интерпретируемые, то есть мы не можем понять, почему было принято то или иное решение, какие именно факторы на него повлияли.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Все включено: как интернет изменил наш способ думать, жить и познавать мир Все включено: как интернет изменил наш способ думать, жить и познавать мир

Как пользование интернетом заставляет человеческий мозг работать по-новому

Esquire
Как шведский бренд CMMN SWDN изменил представление о скандинавской моде Как шведский бренд CMMN SWDN изменил представление о скандинавской моде

Вспоминаем историю Эммы Хедлунд и Саифа Бакира

GQ
5 частых ошибок, которые парни совершают когда делают «это» в первый раз 5 частых ошибок, которые парни совершают когда делают «это» в первый раз

Хит-парад ошибок, которых стоит избегать во время интимной близости

Playboy
Правда ли, что ругань уменьшает боль: неожиданная польза мата Правда ли, что ругань уменьшает боль: неожиданная польза мата

Почему крепкое словцо иногда может быть лучше таблетки ибупрофена

Популярная механика
Что читать на выходных: рассказ «Нефть» Данила Леховицера — о том, как нас сжирает то, что мы любим Что читать на выходных: рассказ «Нефть» Данила Леховицера — о том, как нас сжирает то, что мы любим

Читайте рассказ постоянного автора Esquire Данила Леховицера

Esquire
Что за ракурс? Звездные пары, где девушка выше парня, но скрывает это Что за ракурс? Звездные пары, где девушка выше парня, но скрывает это

Звезды, которые выбирают особые ракурсы для фотографий из-за своего роста

Cosmopolitan
12 фактов о Петре Яне — новом чемпионе UFC из России 12 фактов о Петре Яне — новом чемпионе UFC из России

Все, что ты хотел знать о новом российском чемпионе UFC Петре Яне

Maxim
Найти технологию и сделать её полезной: как устроена лаборатория Google ATAP, создавшая радар Soli и телефон Project Ara Найти технологию и сделать её полезной: как устроена лаборатория Google ATAP, создавшая радар Soli и телефон Project Ara

Главные задачи проекта ATAP

VC.RU
Как я пытался стать мусорным королем Новочеркасска, организовав раздельный сбор отходов. И почему у меня не вышло Как я пытался стать мусорным королем Новочеркасска, организовав раздельный сбор отходов. И почему у меня не вышло

История бизнесмена, решившего организовать сбор, сортировку и продажу мусора

Inc.
По лезвию юмора: как шутить на работе и при этом не пострадать и никого не обидеть По лезвию юмора: как шутить на работе и при этом не пострадать и никого не обидеть

Руководство по использованию юмора на рабочем месте

Forbes
Ничто не поможет: 10 причин, по которым у тебя не получается выглядеть стильно Ничто не поможет: 10 причин, по которым у тебя не получается выглядеть стильно

Маленькие детали, которые мешают тебе выглядеть стильно

Cosmopolitan
Снимки растений в открытом космосе: безумное творчество Азумы Макото Снимки растений в открытом космосе: безумное творчество Азумы Макото

Как растительные композиции японского флориста путешествуют по миру

Популярная механика
Траур, кровь и расписание: все правила путешествий королевской семьи Траур, кровь и расписание: все правила путешествий королевской семьи

Как путешествует британская королевская семья

Cosmopolitan
Правила жизни Хантера С. Томпсона Правила жизни Хантера С. Томпсона

Правила жизни самого неординарного журналиста Хантера С. Томпсона

Esquire
Scientific American (США): космический полет, устремленный к звездам — и растянутый на несколько поколений Scientific American (США): космический полет, устремленный к звездам — и растянутый на несколько поколений

Этот проект может стать нашим первым целенаправленным шагом из Солнечной системы

ИноСМИ
Как я делал Как я делал

Повар Рома Редман о том, как открывал свой канал на YouTube

Bones
Что делать, если сгорела на солнце — инструкция от экспертов Что делать, если сгорела на солнце — инструкция от экспертов

Что можно делать, а что нельзя при солнечном ожоге разной степени?

Cosmopolitan
Есть отеки? Подключай микротоки! Всё, что нужно знать о новом тренде в уходе Есть отеки? Подключай микротоки! Всё, что нужно знать о новом тренде в уходе

Как волшебные токи действуют на нашу кожу?

Cosmopolitan
«Мой акционер — это Путин»: Венедиктов и другие журналисты о кризисе российских медиа «Мой акционер — это Путин»: Венедиктов и другие журналисты о кризисе российских медиа

Журналисты о том, что происходит в российских СМИ и есть ли шанс что-то изменить

Forbes
Без слова «нельзя»: как нам не удалось спасти «Ведомости» Без слова «нельзя»: как нам не удалось спасти «Ведомости»

Бывший заместитель главного редактора «Ведомостей» размышляет о судьбе издания

Forbes
Безумие как осознанная необходимость Безумие как осознанная необходимость

Анна Толстова о Наталье Тамручи и ее круге

Weekend
Правила жизни Константина Райкина Правила жизни Константина Райкина

Правила жизни режиссера Константина Райкина

Esquire
Суперъяхты из «старых калош»: лодки богатейших людей мира, переделанные из военных кораблей и гражданских судов Суперъяхты из «старых калош»: лодки богатейших людей мира, переделанные из военных кораблей и гражданских судов

Зачем миллиардеры тратят деньги на перестройку старых лодок

Forbes
NYT: Amazon, Google и Qualcomm платят миллионы долларов американскому университету, чтобы «подружиться» с регуляторами NYT: Amazon, Google и Qualcomm платят миллионы долларов американскому университету, чтобы «подружиться» с регуляторами

Университет Джорджа Мэйсона помогает ИТ-корпорациям закрывать расследования

VC.RU
«Омоложивающие» стрижки и окрашивания: как подобрать себе прическу — гид «Омоложивающие» стрижки и окрашивания: как подобрать себе прическу — гид

Отличный способ выглядеть свежо – скорректировать овал лица с помощью прически

Cosmopolitan
Призрак платежного Армагеддона: насколько сильно на самом деле пандемия ударила по бизнесу Призрак платежного Армагеддона: насколько сильно на самом деле пандемия ударила по бизнесу

Как нестабильная платежная дисциплина ударила по бизнесу

Forbes
Носочки для педикюра - спасение или опасная процедура? Мнение экспертов Носочки для педикюра - спасение или опасная процедура? Мнение экспертов

Безопасны ли азиатские носочки для педикюра

Cosmopolitan
Арабская экспансия в космос: зачем ОАЭ отправляют зонд к Марсу Арабская экспансия в космос: зачем ОАЭ отправляют зонд к Марсу

В ночь на 15 июля стартует первый марсианский зонд, созданный ОАЭ

Forbes
Брюс Дейсли: отключите внутреннего надсмотрщика, чтобы сделать работу менее ужасной Брюс Дейсли: отключите внутреннего надсмотрщика, чтобы сделать работу менее ужасной

Книга бывшего вице-президента Twitter о продуктивном спокойствии

Inc.
Неандертальцы вернули людям тысячи древних генов Неандертальцы вернули людям тысячи древних генов

Часть «неандертальского наследия» — это ДНК древних африканских сапиенсов

N+1
Открыть в приложении