Что нужно сделать, чтобы ИИ дал женщинам новые карьерные перспективы

ForbesHi-Tech

Вызов времени: как искусственный интеллект помогает бороться с дискриминацией

Все большее внедрение в разные сферы экономики систем исскусственного интеллекта может привести как к потенциальной дискриминации женщин, так и дать им новые карьерные перспективы. Разбираемся, что нужно сделать, чтобы развитие пошло по второму сценарию

Екатерина Ляпина

Фото REUTERS / Fabian Bimmer

Разговоры о том, что искусственный интеллект изменит рынок труда, ведутся годами. Сегодня фокус сместился с обсуждения неотвратимости будущего к оценке того, как и когда мир изменится и что это значит для всех нас. Попыток создания ИИ было уже несколько, но настоящий искусственный интеллект (Artificial General Intelligence), тот, который изображают в фильмах и книгах, еще далек от реализации. Что же на самом деле сейчас есть?

Не самый умный интеллект

Есть масса очень специализированных «умных алгоритмов», которые решают нишевые задачи, определяют закономерности на больших объемах данных. Они помогают принимать решения: например, остановить или разрешить подозрительную транзакцию, куда отправить грузы, выдать или не выдать кредит. Вероятность ошибки в таких системах меньше, чем если включается пресловутый человеческий фактор. Дальнейшее развитие алгоритмов, способных дополнять/заменять принятие решений человеком, позволит сократить позиции, требующие выполнения рутинных задач, которыми часто занимаются именно женщины. Так, уже сложно себе представить светлое будущее туроператоров, диспетчеров таксопарков, операционистов и ряда других профессий. Исследователи IMF прогнозируют, что 11% рабочих мест, занятых женщинами, в течение следующих двух десятилетий будет автоматизировано. А фокус будет смещен на саму разработку этих алгоритмов.

Все больше решений принимается автоматически и, к сожалению, не всегда в пользу женщин. Например, два года назад крупнейшему онлайн-ретейлеру Amazon пришлось «уволить» систему для автоматизированного просмотра резюме, так как она дискриминировала разработчиков женского пола. Такая ситуация произошла из-за того, что модели ИИ обучались на исторических данных за 10 лет. Тогда большинство кандидатов действительно были мужчинами, но из этого не следует, что они лучше справляются с техническими специальностями. Учитывая то, что алгоритмы быстро становятся ответственными за принятие все большего количества решений, наличие таких побочных эффектов представляет серьезную проблему.

Существует распространенное мнение, что алгоритмы просто улавливают взаимосвязь в имеющемся наборе данных. Но, фокусируясь на данных, легко игнорировать два аспекта этой проблемы: ограничения существующих алгоритмов и, что более важно, роль людей, ставящих алгоритмам задачу. Большинство алгоритмов только анализируют корреляционные отношения, ничего не понимая в них. Без вовлечения тех, кто решает проблемы и задает правильные вопросы, даже лучшие данные ничего не значат, ведь алгоритмы будут лишь отражать наши собственные предубеждения.

Разработчики систем ИИ, должны очень внимательно следить за тем, как формируются наборы данных для обучения алгоритмов, и отслеживать наличие предубеждений. Нужно следить за ошибками, которые совершает алгоритм: иногда их процент довольно низок, но они могут быть сделаны в отношении одной и той же группы людей. Например, скоринговая модель систематически отказывает в кредите людям, прописанным в китайском квартале. Такое поведение особенно опасно, ведь мы переносим все больше ответственности за принятие решений на систему. Некоторые используемые алгоритмы вообще не интерпретируемые, то есть мы не можем понять, почему было принято то или иное решение, какие именно факторы на него повлияли.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Все включено: как интернет изменил наш способ думать, жить и познавать мир Все включено: как интернет изменил наш способ думать, жить и познавать мир

Как пользование интернетом заставляет человеческий мозг работать по-новому

Esquire
KFC будет печатать наггетсы на биопринтере: мясо будущего KFC будет печатать наггетсы на биопринтере: мясо будущего

KFC в России начинает разработки по создания мяса с помощью 3D-биопринтера

Популярная механика
Игнорируйте «нет», приспосабливайтесь к рынку и не бойтесь саморазрушения: уроки Джеффа Безоса во время создания Kindle Игнорируйте «нет», приспосабливайтесь к рынку и не бойтесь саморазрушения: уроки Джеффа Безоса во время создания Kindle

Дэн Роуз о том, чему научился во время работы с основателем Amazon

VC.RU
Иван да Марья Иван да Марья

Когда-то в нем не видели перспектив, а сейчас его копируют танцовщики всего мира

Караван историй
ЗИС-110 vs Packard 180: как в СССР содрали американский “членовоз” ЗИС-110 vs Packard 180: как в СССР содрали американский “членовоз”

Любимый автомобиль Сталина — Packard 180 или ЗИС-110?

Популярная механика
Девушка - огонь! 20 идей окрашивания-балаяж для рыжих Девушка - огонь! 20 идей окрашивания-балаяж для рыжих

Как выбрать цвет и как в него потом покраситься?

Cosmopolitan
Сколько тебе нужно белка, чтобы нарастить мышечную массу? Ответы на главные вопросы о протеине Сколько тебе нужно белка, чтобы нарастить мышечную массу? Ответы на главные вопросы о протеине

Сколько именно протеина стоит съедать для заветного результата?

Playboy
Международные венчурные фонды вложили $4,5 млн в созданный в России технологичный ДМС Международные венчурные фонды вложили $4,5 млн в созданный в России технологичный ДМС

В этот проект вложились венчурные фонды AddVenture, Target Global и LVL1

Forbes
Двойные штрафы с камер: власти объяснили, в чем дело Двойные штрафы с камер: власти объяснили, в чем дело

Власти объяснили странные штрафы

РБК
Холодная сварка: действительно ли это работает? Холодная сварка: действительно ли это работает?

Говорят, что холодная сварка соединяет любой материал. Действительно ли это так?

CHIP
По лезвию юмора: как шутить на работе и при этом не пострадать и никого не обидеть По лезвию юмора: как шутить на работе и при этом не пострадать и никого не обидеть

Руководство по использованию юмора на рабочем месте

Forbes
«Оттепель: События. Март 1953 — август 1968 года» «Оттепель: События. Март 1953 — август 1968 года»

Отрывок из книги Сергея Чупринина, посвященный событиям октября 1962 года

N+1
Советский автомобиль для управления из положения лежа Советский автомобиль для управления из положения лежа

Когда-то это была военная тайна

Maxim
Джонни Депп и Эмбер Херд судятся в Лондоне. В чем они обвиняют друг друга Джонни Депп и Эмбер Херд судятся в Лондоне. В чем они обвиняют друг друга

Почему от судебных слушаний Джонни Деппа и Эмбер Херд невозможно оторваться

РБК
«Это как кошек пасти». Ведущий телепередачи «Разрушители легенд» Джейми Хайнеман о работе с творческими людьми «Это как кошек пасти». Ведущий телепередачи «Разрушители легенд» Джейми Хайнеман о работе с творческими людьми

Как работать с творческими людьми и почему нужно изучать то, что не нравится

Forbes
«Платье мести» принцессы Дианы и смокинг Хоакина Феникса: как донести скрытые послания с помощью одежды «Платье мести» принцессы Дианы и смокинг Хоакина Феникса: как донести скрытые послания с помощью одежды

Мы точно знаем, что одежда — это текст

Forbes
Номера без флага: сколько стоят и как получить Номера без флага: сколько стоят и как получить

Правда и мифы о том, какие привилегии дает номерной знак без триколора

РБК
Тексты из цикла «Сцены эпохи дефицита» Николая Кононова Тексты из цикла «Сцены эпохи дефицита» Николая Кононова

Тексты Николая Кононова из цикла «Сцены эпохи дефицита»

СНОБ
Одна вокруг света: отпустите меня в Гималаи, и я останусь там навсегда Одна вокруг света: отпустите меня в Гималаи, и я останусь там навсегда

77-я серия о кругосветном путешествии москвички Ирины Сидоренко

Forbes
Ты тоже от них фанатела! Культовые женские трио в кино — как сложились их судьбы Ты тоже от них фанатела! Культовые женские трио в кино — как сложились их судьбы

Эти звездные девушки доказывают, что дружба втроем существует

Cosmopolitan
10 шагов к успешной карьере 10 шагов к успешной карьере

Эти психологические приемы помогут на пути к достижению желанной цели

Psychologies
«Я была вице-президентом, но на переговорах меня принимали за секретаря». Основательницы IT-стартапов — о том, как избежать дискриминации «Я была вице-президентом, но на переговорах меня принимали за секретаря». Основательницы IT-стартапов — о том, как избежать дискриминации

Существует ли гендерная дискриминация в IT-отрасли

Forbes
Изменчивые родинки Изменчивые родинки

Проверь: не опасна ли твоя родинка?

Лиза
Играют все! Играют все!

Время устроить семейный турнир по настольным играм. Выбирай на свой вкус

Лиза
«Вирусная» песня зонотрихий за шестьдесят лет захватила всю Канаду «Вирусная» песня зонотрихий за шестьдесят лет захватила всю Канаду

За шестьдесят лет птицы белошейные зонотрихии полностью изменили свой репертуар

N+1
Правде в глаза Правде в глаза

Никита Ефремов — о главной роли в сериале «Хороший человек»

Vogue
8 классических картин с курильщиками, которые пока еще чудом не запретил Минздрав 8 классических картин с курильщиками, которые пока еще чудом не запретил Минздрав

Ван Гог! Пикассо! Мане!

Maxim
Как продлить жизнь любимым вещам: 26 простых лайфхаков Как продлить жизнь любимым вещам: 26 простых лайфхаков

Учимся бережнее относиться к вещам

Cosmopolitan
Портрет Солнца: что ученые узнали благодаря рекордно близким фотографиям светила Портрет Солнца: что ученые узнали благодаря рекордно близким фотографиям светила

Никогда раньше наше светило не наблюдали так близко

Forbes
Злые снаружи, добрые внутри: сериальные плохиши, в которых мы влюблялись по уши Злые снаружи, добрые внутри: сериальные плохиши, в которых мы влюблялись по уши

Главные сериальные плохиши, в которых в свое время вкрашивались все девчонки

Cosmopolitan
Открыть в приложении