Что нужно сделать, чтобы ИИ дал женщинам новые карьерные перспективы

ForbesHi-Tech

Вызов времени: как искусственный интеллект помогает бороться с дискриминацией

Все большее внедрение в разные сферы экономики систем исскусственного интеллекта может привести как к потенциальной дискриминации женщин, так и дать им новые карьерные перспективы. Разбираемся, что нужно сделать, чтобы развитие пошло по второму сценарию

Екатерина Ляпина

Фото REUTERS / Fabian Bimmer

Разговоры о том, что искусственный интеллект изменит рынок труда, ведутся годами. Сегодня фокус сместился с обсуждения неотвратимости будущего к оценке того, как и когда мир изменится и что это значит для всех нас. Попыток создания ИИ было уже несколько, но настоящий искусственный интеллект (Artificial General Intelligence), тот, который изображают в фильмах и книгах, еще далек от реализации. Что же на самом деле сейчас есть?

Не самый умный интеллект

Есть масса очень специализированных «умных алгоритмов», которые решают нишевые задачи, определяют закономерности на больших объемах данных. Они помогают принимать решения: например, остановить или разрешить подозрительную транзакцию, куда отправить грузы, выдать или не выдать кредит. Вероятность ошибки в таких системах меньше, чем если включается пресловутый человеческий фактор. Дальнейшее развитие алгоритмов, способных дополнять/заменять принятие решений человеком, позволит сократить позиции, требующие выполнения рутинных задач, которыми часто занимаются именно женщины. Так, уже сложно себе представить светлое будущее туроператоров, диспетчеров таксопарков, операционистов и ряда других профессий. Исследователи IMF прогнозируют, что 11% рабочих мест, занятых женщинами, в течение следующих двух десятилетий будет автоматизировано. А фокус будет смещен на саму разработку этих алгоритмов.

Все больше решений принимается автоматически и, к сожалению, не всегда в пользу женщин. Например, два года назад крупнейшему онлайн-ретейлеру Amazon пришлось «уволить» систему для автоматизированного просмотра резюме, так как она дискриминировала разработчиков женского пола. Такая ситуация произошла из-за того, что модели ИИ обучались на исторических данных за 10 лет. Тогда большинство кандидатов действительно были мужчинами, но из этого не следует, что они лучше справляются с техническими специальностями. Учитывая то, что алгоритмы быстро становятся ответственными за принятие все большего количества решений, наличие таких побочных эффектов представляет серьезную проблему.

Существует распространенное мнение, что алгоритмы просто улавливают взаимосвязь в имеющемся наборе данных. Но, фокусируясь на данных, легко игнорировать два аспекта этой проблемы: ограничения существующих алгоритмов и, что более важно, роль людей, ставящих алгоритмам задачу. Большинство алгоритмов только анализируют корреляционные отношения, ничего не понимая в них. Без вовлечения тех, кто решает проблемы и задает правильные вопросы, даже лучшие данные ничего не значат, ведь алгоритмы будут лишь отражать наши собственные предубеждения.

Разработчики систем ИИ, должны очень внимательно следить за тем, как формируются наборы данных для обучения алгоритмов, и отслеживать наличие предубеждений. Нужно следить за ошибками, которые совершает алгоритм: иногда их процент довольно низок, но они могут быть сделаны в отношении одной и той же группы людей. Например, скоринговая модель систематически отказывает в кредите людям, прописанным в китайском квартале. Такое поведение особенно опасно, ведь мы переносим все больше ответственности за принятие решений на систему. Некоторые используемые алгоритмы вообще не интерпретируемые, то есть мы не можем понять, почему было принято то или иное решение, какие именно факторы на него повлияли.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Все включено: как интернет изменил наш способ думать, жить и познавать мир Все включено: как интернет изменил наш способ думать, жить и познавать мир

Как пользование интернетом заставляет человеческий мозг работать по-новому

Esquire
Тренируем мозг: игры и упражнения для детей и взрослых Тренируем мозг: игры и упражнения для детей и взрослых

Универсальные способы «прокачки» мозга найти непросто

Psychologies
Семь простых способов продлить срок работы для своего смартфона Семь простых способов продлить срок работы для своего смартфона

Советы, которые действительно продлевают жизнь телефона

Maxim
«Не рыба, но удочка»: как живут дети миллиардеров, которым не досталось состояние родителей «Не рыба, но удочка»: как живут дети миллиардеров, которым не досталось состояние родителей

Как зарабатывают наследники Хилтона, Баффета и других громких фамилий

Forbes
Отрывок из книги Ивана Охлобыстина «Дом Солнца» Отрывок из книги Ивана Охлобыстина «Дом Солнца»

Повесть Ивана Охлобыстина о запретной любви

СНОБ
Правозащитники выпустили доклад об ухудшении ситуации с домашним насилием в России Правозащитники выпустили доклад об ухудшении ситуации с домашним насилием в России

Статистика обращений за помощью жертв насилия во время пандемии

Forbes
5000 картин, 10 томов книг и бесконечные путешествия: история Николая Рериха 5000 картин, 10 томов книг и бесконечные путешествия: история Николая Рериха

Как художник Николай Рерих нашел себя в разных сферах и остался в истории

Культура.РФ
Личная жизнь участниц Comedy Woman: с кем встречаются Варнава, Сысоева и другие Личная жизнь участниц Comedy Woman: с кем встречаются Варнава, Сысоева и другие

Что происходит в личной жизни у звезд юмористического шоу Comedy Woman?

Cosmopolitan
Правила жизни Евы Грин Правила жизни Евы Грин

Правила жизни французской актрисы Евы Грин

Esquire
Парный выход: 10 самых незабываемых парных выходов звезд Парный выход: 10 самых незабываемых парных выходов звезд

Считается, что у влюбленных пар даже стиль со временем становится похожим

Cosmopolitan
Объяснение на пальцах: что означают самые известные жесты в разных странах мира Объяснение на пальцах: что означают самые известные жесты в разных странах мира

Как один и тот же жест в разных странах мира может совершенно разное

Esquire
Медвежьи павианы увидели в зоологах сородичей высокого ранга Медвежьи павианы увидели в зоологах сородичей высокого ранга

Даже привыкнув к зоологам, павианы всё равно чувствовали в них угрозу

N+1
Как легко бросить курить? 8 способов, которые работают Как легко бросить курить? 8 способов, которые работают

Эффективные приемы, помогающие бросить курить раз и навсегда

Playboy
Как выковать дракона Как выковать дракона

«Ратоборцы» реконструируют средневековую пушку

Популярная механика
Брюс Дейсли: отключите внутреннего надсмотрщика, чтобы сделать работу менее ужасной Брюс Дейсли: отключите внутреннего надсмотрщика, чтобы сделать работу менее ужасной

Книга бывшего вице-президента Twitter о продуктивном спокойствии

Inc.
Что на самом деле измеряют тесты интеллекта Что на самом деле измеряют тесты интеллекта

А что же это такое – интеллект?

Популярная механика
Объемное пространство плоских декораций Объемное пространство плоских декораций

Как использование LED-экранов перевернуло процесс создания кино с ног на голову

Популярная механика
Секс-бомба с дислексией и жена миллиардера: неожиданные факты о Сальме Хайек Секс-бомба с дислексией и жена миллиардера: неожиданные факты о Сальме Хайек

Сальма Хайек — из тех актрис, которые упорно работают над карьерой

Cosmopolitan
«Я поднимаюсь со дна»: Агата Муцениеце о жизни после развода с Павлом Прилучным «Я поднимаюсь со дна»: Агата Муцениеце о жизни после развода с Павлом Прилучным

Агата Муцениеце рассказала, как изменилась после расставания с Павлом Прилучным

Cosmopolitan
Спад эпидемии тифа в варшавском гетто объяснили социальным дистанцированием Спад эпидемии тифа в варшавском гетто объяснили социальным дистанцированием

Официальная статистика смертности в варшавском гетто, похоже, была занижена

N+1
Правила жизни принцессы Дианы Правила жизни принцессы Дианы

Правила жизни принцессы Уэльской Дианы

Esquire
Аманда Сейфрид: «Стараюсь никого не осуждать» Аманда Сейфрид: «Стараюсь никого не осуждать»

Аманда Сейфрид – о неуверенности в себе и безотказном способе поднять настроение

Cosmopolitan
Ответы мозга на повторение звуков впервые зарегистрировали у человеческого плода Ответы мозга на повторение звуков впервые зарегистрировали у человеческого плода

Это открывает новые возможности оценки степени развития слуховой коры

N+1
Тауэр Тауэр

Тюрьма для высокородных дам и господ, включая и особ королевской крови

Дилетант
10 проблем, с которыми современная медицина давно уже справляется играючи 10 проблем, с которыми современная медицина давно уже справляется играючи

Будущее в медицине уже наступило и продолжает наступать каждый день

Maxim
Как быстро отрастить ногти: бьюти-рецепты и полезные советы для красивых ногтей Как быстро отрастить ногти: бьюти-рецепты и полезные советы для красивых ногтей

Хочешь иметь красивый маникюр? Тогда позаботься о здоровье ногтей!

Cosmopolitan
Рассказ Шамшада Абдуллаева из сборника «Другой Юг» Рассказ Шамшада Абдуллаева из сборника «Другой Юг»

Рассказ, где история и культура Средней Азии соединяется с западным модернизмом

СНОБ
Как перестать ругаться с девушкой из-за домашних обязанностей? 6 советов для обретения мира Как перестать ругаться с девушкой из-за домашних обязанностей? 6 советов для обретения мира

Бытовые споры могут разрушить отношения

Playboy
Редактирование эмбриона бычка превратит половину его женских потомков в самцов Редактирование эмбриона бычка превратит половину его женских потомков в самцов

Ген SRY заставит XX зародыши развиваться по мужскому пути

N+1
Как выбрать лучшую судьбу: взгляд с Востока Как выбрать лучшую судьбу: взгляд с Востока

Разбираемся в восточном взгляде на то, как достичь счастья

Psychologies
Открыть в приложении