В принятии важных решений все чаще участвуют алгоритмы машинного обучения

GQHi-Tech

Машины рулят людьми

Текст: Антон Иванов. Коллажи: Алик Новожилов

0:00 /
-17:49

Нас призывают придерживаться принципов политкорректности и толерантности, но будет ли играть по этим правилам искусственный интеллект или, пока люди строят общество равных возможностей, где-то за кулисами их судьбы будут решать роботизированные алгоритмы, по-разному оценивающие представителей разных полов, рас и сексуальных меньшинств?

В принятии жизненно важных решений — от выдачи кредита до постановки медицинского диагноза — все чаще участвуют алгоритмы машинного обучения (ранние зачатки искусственного интеллекта). Во Франции так распределяют детей по школам, в Америке рассчитывают тюремный срок, который получит осужденный. Кредит, страховка, судьба претендента на вакантное место — все эти вопросы из-под власти людей уходят к роботам. В основе железной логики машин всегда лежит анализ огромных баз данных, но какая именно информация о вас станет решающей, не скажет никто.

«Сегодня можно создать алгоритмы, способные скомпрометировать человека и вторгнуться в его личную жизнь. Например, ученые из Стэнфорда в порядке эксперимента уже научили нейронные сети по фотографии человека довольно точно определять сексуальную ориентацию, — рассказывает вице-президент Тинькофф-банка Константин Маркелов. — Есть возможность распознать человека, попавшего в поле зрения видеокамеры, найти его профиль в соцсетях и через сервисы, которых множество, узнать о его поисковых запросах, маршрутах перемещений, достатке. После этого алгоритм может сделать тот или иной вывод — в зависимости от поставленной задачи». Выводы эти далеко не всегда бесстрастные.

Одними из первых тревогу забили ученые Принстонского университета, заметившие, что искусственный интеллект, обучающийся на текстовых источниках, быстро становится предвзятым и начинает считать белый цвет кожи и мужской пол преимуществами. Причина в том, что этими предрассудками наполнены наши книги, наш интернет и даже наш язык. Например, слово «профессионал» имеет положительную коннотацию, а «профессионалка» — несколько иную, и таких примеров множество. Даже тот факт, что слова «доктор» и «инженер» — мужского рода, уже наводит компьютер на мысль о том, что эти вакансии не для женщин. Компания Amazon уже пережила скандал с HR‑алгоритмом, который пытался нанимать только представителей сильного пола.

Искусственный интеллект, как ребенок, впитывает все, что ему дают. К чему приводит такое обучение, пущенное на самотек, мы увидели в 2016 году, когда чат-бот Tay от компании Microsoft за сутки из милого собеседника превратился в фашиста. «Люди — клевые» — таким было его первое сообщение, но уже вскоре он требовал смерти феминисток, признавался в ненависти к человечеству и говорил, что Гитлер был прав. Не значит ли это, что, доверив искусственному интеллекту свой мир сегодня, завтра мы окажемся в руках электронных безумцев?

Основатель компании Tazeros Global, специалист по обработке данных Артур Хачуян уверен, если это и произойдет, то виноваты будут сами люди: «Самостоятельного искусственного интеллекта пока не существует в принципе. Все алгоритмы машинного обучения исходят от людей и, соответственно, проблемы — тоже. Майкрософтовский бот стал расистом, потому что создавший его программист загрузил в него неправильную выборку данных. Так же и Tesla, сбившая велосипедистку, не смогла ее правильно распознать из-за ошибки инженера».

Этого же мнения придерживается и антивирусный эксперт «Лаборатории Касперского» Алексей Маланов: «Всему виной ложные корреляции — когда алгоритм видит связь между событиями там, где ее на самом деле нет. Пример — «робот», который распределял в медицинском центре Университета Питтсбурга больных в очереди на прием и решил, что люди, страдающие астмой и пневмонией одновременно, могут подождать. Логика была такой: по статистике пациенты с таким сочетанием диагнозов умирают редко, а значит, можно не спешить, но дело в том, что не умирают они именно потому, что им всегда первым оказывают помощь. Информацию об этом алгоритму не предоставили, и он построил неверную логическую цепочку». Данные — это грубый материал, который еще нужно обработать и в правильном виде загрузить в машину.

«Ранние зачатки искусственного интеллекта появились в 70‑80‑е годы XX века, но тогда они не могли работать: не хватало вычислительных мощностей и не было больших данных, на которых можно было бы учить системы, — рассказывает член Консультативного совета Роскомнадзора, директор исполкома Национального Дельфийского совета России Артемий Понявин. — Сегодня же в интернете столько информации, что для систем машинного обучения созданы идеальные условия».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Правила идеальной лжи: как говорить неправду и выглядеть убедительным Правила идеальной лжи: как говорить неправду и выглядеть убедительным

Обманывать так, чтобы другие поверили, — это тоже своего рода искусство

Psychologies
«Она ест и не может остановиться»: как распознать у дочери булимию «Она ест и не может остановиться»: как распознать у дочери булимию

Что делать, если ваша дочь опустошает холодильник и постоянно глотает еду

Psychologies
Криптовалюты. Поколение второе Криптовалюты. Поколение второе

От «цифрового золота» к полноценным деньгам

Популярная механика
Винтокрылые гиганты: самые большие вертолеты мира Винтокрылые гиганты: самые большие вертолеты мира

Самые большие вертолеты, созданные в наши дни

Популярная механика
Лики Вики Лики Вики

До съемки в нашем презренном журнале снизошла богиня «Инстаграма» Вики Одинцова

Maxim
Инвестор без сапог: как обувной гигант Zenden похоронил 100 млн рублей в Крыму Инвестор без сапог: как обувной гигант Zenden похоронил 100 млн рублей в Крыму

Андрей Павлов — один из самых ярых патриотов в российском бизнесе

Forbes
Артист в ударе Артист в ударе

GQ встретился с одним из самых харизматичных российских актеров

GQ
Один, совсем один: как выйти из этого состояния Один, совсем один: как выйти из этого состояния

Почему нас настигает состояние одиночества и как из него выбраться?

Psychologies
Про детские как бы игры Про детские как бы игры

Лев Рубинштейн вспоминает, каким был досуг детей до изобретения компьютеров

GQ
Ася. Первая любовь Ася. Первая любовь

Тургеневская девушка петербургского искусства Ася Маракулина

Собака.ru
Победа любой сценой Победа любой сценой

У каждой эпохи тот Гамлет, которого она заслуживает

GQ
Как повысить уровень дохода? 12 необходимых факторов и 6 лайфхаков от специалиста Как повысить уровень дохода? 12 необходимых факторов и 6 лайфхаков от специалиста

Карьерный консультант Ирина Соболева раскрывает все карты

Playboy
Тысячи и одна ночь Тысячи и одна ночь

Как Instagram стал каталогом секс-услуг, а Telegram — инструментом сутенеров

GQ
Индюшатина, сэр: 5 крутых инди-игр в 3D Индюшатина, сэр: 5 крутых инди-игр в 3D

Игры с неповторимой атмосферой

CHIP
Деревянный Кремль Деревянный Кремль

Так, как Владимир Клавихо-Телепнев, Москву еще не снимал никто

GQ
Альберта Ферретти и Ливия Ферт о совместной экоколлекции Альберта Ферретти и Ливия Ферт о совместной экоколлекции

Ливия Ферт морщится, когда слышит словосочетание «осознанная мода»

Vogue
Дачи не надо Дачи не надо

Герои GQ Travel выбрали пять отелей для дауншифтинга неподалеку от Москвы

GQ
Самые ожидаемые игры 2019 года для ПК и консолей Самые ожидаемые игры 2019 года для ПК и консолей

Самые ожидаемые игры, которые должны выйти до конца этого года

CHIP
Геворк Вермишян: «5G — Это вызов, и мы его приняли» Геворк Вермишян: «5G — Это вызов, и мы его приняли»

Когда в России будет запущено пятое поколение мобильной связи?

РБК
Начинать работу раньше 10 утра — насилие над организмом Начинать работу раньше 10 утра — насилие над организмом

Физические и психологические нарушения связаны с постоянным недосыпанием

Psychologies
Кошка на пути домой Кошка на пути домой

Кошка на пути домой. От совершенного хищника к совершенному домашнему питомцу

Популярная механика
Фрустрация: что с ней делать и как предотвратить Фрустрация: что с ней делать и как предотвратить

Как выработать к фрустрации устойчивый иммунитет

Psychologies
Фантастические твари и о чем они рассуждают Фантастические твари и о чем они рассуждают

Отрывки из книги «История научной фантастики Джеймса Кэмерона»

Maxim
Выбираем проточный электрический водонагреватель для квартиры: модели на любой вкус Выбираем проточный электрический водонагреватель для квартиры: модели на любой вкус

Что нужно знать, выбирая проточный водонагреватель в квартиру

CHIP
Персиковый жилет Supreme и Stone Island можно носить в любом возрасте Персиковый жилет Supreme и Stone Island можно носить в любом возрасте

Вы оказались на границе двух вселенных – хайпбистов и Анатолия Вассермана

GQ
Закрытое правительство: Абызов стал жертвой политического климат-контроля Закрытое правительство: Абызов стал жертвой политического климат-контроля

Кейс Абызова больше говорит о политическом климат-контроле, чем о деловом

Forbes
«Я сам себе придумываю ядерное топливо» «Я сам себе придумываю ядерное топливо»

Актер Александр Кузнецов снимается много, причем у самых ярких режиссеров

OK!
13 главных загадок в сериалах — от «Друзей» до «Игры престолов» 13 главных загадок в сериалах — от «Друзей» до «Игры престолов»

Эти вопросы из сериалов до сих пор мучают ночами

Playboy
Помиритесь с едой, которую себе запрещаете Помиритесь с едой, которую себе запрещаете

Упражнение, которое научит вас есть, не испытывая при этом стыда

Psychologies
Очищение организма: так ли полезен детокс? Очищение организма: так ли полезен детокс?

Не стоит чрезмерно увлекаться новомодным детоксом

Psychologies
Открыть в приложении