Могут ли нейросети помешать вам получить работу мечты?

ForbesБизнес

Как охотники за багами и хакеры будут бороться с дискриминацией на рынке труда

Мартин Жиль. Перевод Полины Шеноевой

Фото Getty Images

Связанные с рынком трудоустройства алгоритмы берут под контроль. Городской совет Нью-Йорка одобрил законопроект, согласно которому разработчики автоматизированных HR-инструментов для отбора кандидатов должны ежегодно проверять свои алгоритмы искусственного интеллекта — только после этого он сможет принимать решения о найме людей на работу или их увольнении

Могут ли программы на основе технологий искусственного интеллекта помешать получить работу мечты? Городской совет Нью-Йорка планирует сделать все возможное, чтобы жители мегаполиса не столкнулись с подобной проблемой при поиске работы. Недавно члены совета одобрили законопроект, согласно которому разработчики автоматизированных HR-инструментов для отбора кандидатов должны ежегодно проверять свои алгоритмы искусственного интеллекта и делиться результатами с компаниями, входящими в число их клиентов.

В случае принятия соответствующего закона речь пойдет об одной из первых в США и важных с юридической точки зрения мер по борьбе с дискриминацией со стороны технологий искусственного интеллекта. Цель законопроекта — проверить автоматизированные HR-инструменты на наличие сбоев, из-за которых соискатели подвергаются дискриминации по расовым, этническим или другим признакам. Если подобные меры начнут принимать повсеместно, в Америке резко повысится спрос на так называемых «цифровых охотников за багами».

Сегодня многие компании предлагают крупное вознаграждение за выявление ошибок в области кибербезопасности, не обнаруженных ранее. Размер такого вознаграждения иногда может достигать сотен тысяч долларов. На фоне популярности этой практики появились стартапы вроде Bugcrowd и HackerOne, которые помогают IT-директорам и другим топ-менеджерам запускать специальные программы вознаграждения и нанимать хакеров.

Вознаграждение от Twitter

Представители Bugcrowd и HackerOne заявляют, что на рынке наблюдается рост интереса к программам вознаграждения для охотников за багами и хакеров, которые помогают в выявлении непредусмотренных ошибок в различных алгоритмах искусственного интеллекта. И речь идет не только о предвзятом отношении при поиске работы. Наличие подобных ошибок в алгоритме может повлиять на многие сферы жизни, начиная с рассмотрения заявок на кредиты и заканчивая стратегиями в области охраны общественного порядка и противодействия преступности. Сами разработчики автоматизированных алгоритмов могут специально или же совершенно случайно допустить их появление в программном обеспечении. Кроме того, наличие ошибок зависит от наборов данных, с помощью которых обучаются алгоритмы.

На сегодняшний день почти все программы вознаграждения для охотников за багами носят закрытый характер. К работе над выявлением ошибок приглашают лишь небольшие группы хакеров, чтобы компании могли получить начальное представление о том, чего можно достичь благодаря подобным инициативам.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Из мужского гардероба — в одежду для Барби: как розовый стал женским цветом Из мужского гардероба — в одежду для Барби: как розовый стал женским цветом

Как розовый стал воплощением гендерных стереотипов

Forbes
Еще теплее Еще теплее

Дольче и Габбана рассказали, как придумали почти две тысячи предметов интерьера

Harper's Bazaar
Продажи в офлайне: 8 приемов коммуникации с клиентом Продажи в офлайне: 8 приемов коммуникации с клиентом

Gростые техники продаж, которые помогают вести доверительный диалог

Inc.
10AGE: «Музыка как религия» 10AGE: «Музыка как религия»

Рэпер 10AGE — как он перестал быть лицемером, за что полюбил Советский Союз

ЖАРА Magazine
Используй ложку и телефон: 20 способов доставить себе удовольствие Используй ложку и телефон: 20 способов доставить себе удовольствие

Двадцать разных способов мастурбации на любой вкус и цвет

Cosmopolitan
18 любопытных фактов о 9 фильмах Эльдара Рязанова 18 любопытных фактов о 9 фильмах Эльдара Рязанова

Интересные факты о фильмах Эльдара Рязанова

Maxim
Как выглядит современная российская антиутопия? Рассказ Как выглядит современная российская антиутопия? Рассказ

Фрагмент рассказа «Смена» Эдуарда Веркина

Esquire
Бить или не бить: как снимают постановочные драки в кино Бить или не бить: как снимают постановочные драки в кино

Постановочный бой – это целая наука, а в хорошей экранной драке и удары реальные

Популярная механика
«И не друг, и не враг»: как токсичная дружба отравляет нам жизнь «И не друг, и не враг»: как токсичная дружба отравляет нам жизнь

Почему так тяжело дружить с токсичными людьми

Psychologies
Cмола, воск, латекс, полимеры: что жевали люди с древних времен и до наших дней Cмола, воск, латекс, полимеры: что жевали люди с древних времен и до наших дней

Первые «жвачки» существовали еще в древние времена

Популярная механика
Все страхи мира: чего боятся создатели Кодекса этики искусственного интеллекта Все страхи мира: чего боятся создатели Кодекса этики искусственного интеллекта

Собрание негативных сценариев развития новой технологии

Forbes
8 типов прыщей, которые нельзя давить никому и никогда 8 типов прыщей, которые нельзя давить никому и никогда

Можно ли давить самостоятельно и какие прыщи категорически нельзя трогать

Cosmopolitan
Что будет, если есть один раз в день: отзывы о необычной диете Что будет, если есть один раз в день: отзывы о необычной диете

В чем суть OMAD-диеты?

Cosmopolitan
Кто такая Анна Сорокина: русская лжемиллионерша, обманувшая американскую элиту Кто такая Анна Сорокина: русская лжемиллионерша, обманувшая американскую элиту

В основу сериала легла реальная история русской мошенницы Анны Сорокиной

Cosmopolitan
Пограничное состояние Пограничное состояние

Александр Добровинский с нежностью вспоминает месть любимой женщины

Tatler
Сбавить обороты: 8 способов справиться со своей раздражительностью без вреда для себя и партнера Сбавить обороты: 8 способов справиться со своей раздражительностью без вреда для себя и партнера

Даже в счастливых браках супругам бывает непросто сдержать свое негодование

Лиза
Инновации для животных. Как выглядит современная ветеринария Инновации для животных. Как выглядит современная ветеринария

Как работают современные ветеринары?

СНОБ
Российские физики обобщили адиабатическую теорему на случай ненулевой температуры Российские физики обобщили адиабатическую теорему на случай ненулевой температуры

Адиабатические системы работают лучше в случаях ненулевой температуры

N+1
Совпадений нет Совпадений нет

Достичь гармонии реально – если оба партнера постараются

Cosmopolitan
YouTube-шоу, мерч и квесты: кто заработал на хайпе вокруг «Игры в кальмара» YouTube-шоу, мерч и квесты: кто заработал на хайпе вокруг «Игры в кальмара»

Сколько предприниматели и блогеры заработали на «Игре в кальмара»

Forbes
Ностальгия по постапокалипсису Ностальгия по постапокалипсису

«Финч» — сентиментальная ода американскому сай-фаю XX века

Weekend
Как перестать бояться и начать свое дело Как перестать бояться и начать свое дело

Какие качества помогут создать успешный бизнес

СНОБ
Мифические создания, существовавшие на самом деле Мифические создания, существовавшие на самом деле

В каждом мифе есть исторический факт

Maxim
Ошибки, мешающие вам стать увереннее в себе Ошибки, мешающие вам стать увереннее в себе

Как поднять низкую самооценку?

Psychologies
5 женских поступков, которые мужчины считают пассивной агрессией 5 женских поступков, которые мужчины считают пассивной агрессией

Мы спросили у мужчин, что они считают скрытой агрессией со стороны женщин

Psychologies
Не бойся, я с тобой Не бойся, я с тобой

8 сообщений, с помощью которых можно поддержать и успокоить близкого человека

Лиза
Муаровый магнитный порядок нашли в скрученном трииодиде хрома Муаровый магнитный порядок нашли в скрученном трииодиде хрома

Физики увидели в трииодиде хрома ферромагнитные и антиферромагнитные участки

N+1
Скандал разгорается: стало известно, из чего состоит поддельное мясо тунца в сэндвичах Subway Скандал разгорается: стало известно, из чего состоит поддельное мясо тунца в сэндвичах Subway

Subway обманывала своих клиентов, которые отказывались от мяса?

Популярная механика
О сложностях материнства, романе с Гарри и не только: новое интервью Меган Маркл О сложностях материнства, романе с Гарри и не только: новое интервью Меган Маркл

Меган Маркл пришла в студию к Эллен Дедженерес

Cosmopolitan
«Советские хакеры». История отношений радиолюбителей с властями СССР «Советские хакеры». История отношений радиолюбителей с властями СССР

Книга о проектах и социокультурных явлениях, предшествовавших появлению рунета

СНОБ
Открыть в приложении