Что нужно сделать, чтобы ИИ дал женщинам новые карьерные перспективы

ForbesHi-Tech

Вызов времени: как искусственный интеллект помогает бороться с дискриминацией

Все большее внедрение в разные сферы экономики систем исскусственного интеллекта может привести как к потенциальной дискриминации женщин, так и дать им новые карьерные перспективы. Разбираемся, что нужно сделать, чтобы развитие пошло по второму сценарию

Екатерина Ляпина

Фото REUTERS / Fabian Bimmer

Разговоры о том, что искусственный интеллект изменит рынок труда, ведутся годами. Сегодня фокус сместился с обсуждения неотвратимости будущего к оценке того, как и когда мир изменится и что это значит для всех нас. Попыток создания ИИ было уже несколько, но настоящий искусственный интеллект (Artificial General Intelligence), тот, который изображают в фильмах и книгах, еще далек от реализации. Что же на самом деле сейчас есть?

Не самый умный интеллект

Есть масса очень специализированных «умных алгоритмов», которые решают нишевые задачи, определяют закономерности на больших объемах данных. Они помогают принимать решения: например, остановить или разрешить подозрительную транзакцию, куда отправить грузы, выдать или не выдать кредит. Вероятность ошибки в таких системах меньше, чем если включается пресловутый человеческий фактор. Дальнейшее развитие алгоритмов, способных дополнять/заменять принятие решений человеком, позволит сократить позиции, требующие выполнения рутинных задач, которыми часто занимаются именно женщины. Так, уже сложно себе представить светлое будущее туроператоров, диспетчеров таксопарков, операционистов и ряда других профессий. Исследователи IMF прогнозируют, что 11% рабочих мест, занятых женщинами, в течение следующих двух десятилетий будет автоматизировано. А фокус будет смещен на саму разработку этих алгоритмов.

Все больше решений принимается автоматически и, к сожалению, не всегда в пользу женщин. Например, два года назад крупнейшему онлайн-ретейлеру Amazon пришлось «уволить» систему для автоматизированного просмотра резюме, так как она дискриминировала разработчиков женского пола. Такая ситуация произошла из-за того, что модели ИИ обучались на исторических данных за 10 лет. Тогда большинство кандидатов действительно были мужчинами, но из этого не следует, что они лучше справляются с техническими специальностями. Учитывая то, что алгоритмы быстро становятся ответственными за принятие все большего количества решений, наличие таких побочных эффектов представляет серьезную проблему.

Существует распространенное мнение, что алгоритмы просто улавливают взаимосвязь в имеющемся наборе данных. Но, фокусируясь на данных, легко игнорировать два аспекта этой проблемы: ограничения существующих алгоритмов и, что более важно, роль людей, ставящих алгоритмам задачу. Большинство алгоритмов только анализируют корреляционные отношения, ничего не понимая в них. Без вовлечения тех, кто решает проблемы и задает правильные вопросы, даже лучшие данные ничего не значат, ведь алгоритмы будут лишь отражать наши собственные предубеждения.

Разработчики систем ИИ, должны очень внимательно следить за тем, как формируются наборы данных для обучения алгоритмов, и отслеживать наличие предубеждений. Нужно следить за ошибками, которые совершает алгоритм: иногда их процент довольно низок, но они могут быть сделаны в отношении одной и той же группы людей. Например, скоринговая модель систематически отказывает в кредите людям, прописанным в китайском квартале. Такое поведение особенно опасно, ведь мы переносим все больше ответственности за принятие решений на систему. Некоторые используемые алгоритмы вообще не интерпретируемые, то есть мы не можем понять, почему было принято то или иное решение, какие именно факторы на него повлияли.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Все включено: как интернет изменил наш способ думать, жить и познавать мир Все включено: как интернет изменил наш способ думать, жить и познавать мир

Как пользование интернетом заставляет человеческий мозг работать по-новому

Esquire
Мы с Шерлоком Холмсом Мы с Шерлоком Холмсом

Его голос и гордый профиль мы узнаем из тысяч!

Лиза
Картошка как панацея спасения от голода Картошка как панацея спасения от голода

Отрывок из книги Тома Стендейджа «Съедобная история человечества»

СНОБ
«Пока у нас не рассказывают про выращивание баклажанов — на рынке всё плохо»: какие ниши не заняты в подкастах в России «Пока у нас не рассказывают про выращивание баклажанов — на рынке всё плохо»: какие ниши не заняты в подкастах в России

Какие темы могут заинтересовать слушателей

VC.RU
«Лучше прожить короткую жизнь, но есть вкусную еду». Как ест, спит и работает Илон Маск «Лучше прожить короткую жизнь, но есть вкусную еду». Как ест, спит и работает Илон Маск

Знаменитый предприниматель Илон Маск и его не самые здоровые привычки

Reminder
Последнее слово останется за человеком Последнее слово останется за человеком

Сквозная цифровизация производства покажет, как повысить эффективность

Эксперт
Звуковой ретрит. Как тишина становится роскошью Звуковой ретрит. Как тишина становится роскошью

Две минуты тишины расслабляют лучше, чем успокаивающая музыка

Reminder
Люди создают животных, не способных жить: жертвы селекции в XXI веке Люди создают животных, не способных жить: жертвы селекции в XXI веке

Мы привыкли думать, что селекция направлена на улучшение качеств животных

Популярная механика
В окрестности Солнца обнаружен массив звезд родом из другой галактики В окрестности Солнца обнаружен массив звезд родом из другой галактики

Обнаружено неизвестное ранее инородное скопление звезд в Млечном Пути

Популярная механика
В тени «гонконгского Супермена»: подруга миллиардера Ли Кашина инвестирует в ИТ от его имени и зарабатывает миллиарды В тени «гонконгского Супермена»: подруга миллиардера Ли Кашина инвестирует в ИТ от его имени и зарабатывает миллиарды

Благодаря Солине Чау на ранних стадиях инвестиции получили Facebook, Zoom, Slack

VC.RU
Почему пшенка – еда будущего? Почему пшенка – еда будущего?

Прокормить растущее население планеты, возможно, поможет просо

National Geographic
Игры нашего двора Игры нашего двора

Не знаешь, чем занять ребенка летом?

Лиза
Чего я хочу: точка в теле, отвечающая за истинные желания Чего я хочу: точка в теле, отвечающая за истинные желания

Точка на теле, которая отвечает за наши желания и возможность их воплотить

Psychologies
Белок герпесвируса связали с развитием депрессии Белок герпесвируса связали с развитием депрессии

Инфекция герпесвирусом шестого типа может привести к развитию депрессии

N+1
Александр Молочников: «Я ужасно хаотичный человек» Александр Молочников: «Я ужасно хаотичный человек»

Александр Молочников – о съемках на карантине и бегстве в Аризону от депрессии

Cosmopolitan
Маск, я вас знаю Маск, я вас знаю

Что связывает Илона Маска с Россией, кроме космической гонки

GQ
Правила жизни Элвиса Пресли Правила жизни Элвиса Пресли

Правила жизни короля рок-н-ролла

Esquire
Безумие как осознанная необходимость Безумие как осознанная необходимость

Анна Толстова о Наталье Тамручи и ее круге

Weekend
«Как-то всё чудесно совпало» «Как-то всё чудесно совпало»

Александра Ребенок — о том, что всё в этой жизни случается вовремя

OK!
«Средневековье крупным планом» «Средневековье крупным планом»

Отрывок из книги Олега Воскобойникова о том, как жили люди в Средние века

N+1
Прекрасное далеко: что дадут ракеты на ядерном топливе Прекрасное далеко: что дадут ракеты на ядерном топливе

Работа над ракетами следующего поколения уже началась

Популярная механика
Ученые встретили в Черном море дельфина-альбиноса Ученые встретили в Черном море дельфина-альбиноса

Экспедиция встретила дельфина необычной окраски

N+1
Хвостатая наука: 9 странных привычек собак и кошек Хвостатая наука: 9 странных привычек собак и кошек

Почему собаки виляют хвостом, а кошки боятся воды

Популярная механика
10 животных, которые вымерли благодаря нам за последние 150 лет 10 животных, которые вымерли благодаря нам за последние 150 лет

Окончательно исчезнувшие животные, которые совсем недавно жили среди нас

Популярная механика
Отрывок из новой книги Сергея Лукьяненко «Ловец видений» Отрывок из новой книги Сергея Лукьяненко «Ловец видений»

Первая глава нового романа Сергея Лукьяненко «Ловец видений»

СНОБ
Рабочий стол биохакера Рабочий стол биохакера

Как оптимизировать домашний офис

Reminder
Что посмотреть летним вечером: 10 лучших сериалов 2020 года Что посмотреть летним вечером: 10 лучших сериалов 2020 года

Сериалы, которые нельзя пропускать ни в коем случае

Playboy
Школа будущих «единорогов»: как работает университет первого в России IT-города Школа будущих «единорогов»: как работает университет первого в России IT-города

В этом университете готовят дефицитных специалистов в сфере высоких технологий

Forbes
Человеческая микроглия получила раннюю специализацию Человеческая микроглия получила раннюю специализацию

Когда клетки человеческой микроглии приобретают черты зрелых?

N+1
Как исландские фермеры собирают пух гаг? Как исландские фермеры собирают пух гаг?

Сбор гагачьего пуха имеет свои тонкости

National Geographic
Открыть в приложении