В принятии важных решений все чаще участвуют алгоритмы машинного обучения

GQHi-Tech

Машины рулят людьми

Текст: Антон Иванов. Коллажи: Алик Новожилов

0:00 /
1069.483

Нас призывают придерживаться принципов политкорректности и толерантности, но будет ли играть по этим правилам искусственный интеллект или, пока люди строят общество равных возможностей, где-то за кулисами их судьбы будут решать роботизированные алгоритмы, по-разному оценивающие представителей разных полов, рас и сексуальных меньшинств?

В принятии жизненно важных решений — от выдачи кредита до постановки медицинского диагноза — все чаще участвуют алгоритмы машинного обучения (ранние зачатки искусственного интеллекта). Во Франции так распределяют детей по школам, в Америке рассчитывают тюремный срок, который получит осужденный. Кредит, страховка, судьба претендента на вакантное место — все эти вопросы из-под власти людей уходят к роботам. В основе железной логики машин всегда лежит анализ огромных баз данных, но какая именно информация о вас станет решающей, не скажет никто.

«Сегодня можно создать алгоритмы, способные скомпрометировать человека и вторгнуться в его личную жизнь. Например, ученые из Стэнфорда в порядке эксперимента уже научили нейронные сети по фотографии человека довольно точно определять сексуальную ориентацию, — рассказывает вице-президент Тинькофф-банка Константин Маркелов. — Есть возможность распознать человека, попавшего в поле зрения видеокамеры, найти его профиль в соцсетях и через сервисы, которых множество, узнать о его поисковых запросах, маршрутах перемещений, достатке. После этого алгоритм может сделать тот или иной вывод — в зависимости от поставленной задачи». Выводы эти далеко не всегда бесстрастные.

Одними из первых тревогу забили ученые Принстонского университета, заметившие, что искусственный интеллект, обучающийся на текстовых источниках, быстро становится предвзятым и начинает считать белый цвет кожи и мужской пол преимуществами. Причина в том, что этими предрассудками наполнены наши книги, наш интернет и даже наш язык. Например, слово «профессионал» имеет положительную коннотацию, а «профессионалка» — несколько иную, и таких примеров множество. Даже тот факт, что слова «доктор» и «инженер» — мужского рода, уже наводит компьютер на мысль о том, что эти вакансии не для женщин. Компания Amazon уже пережила скандал с HR‑алгоритмом, который пытался нанимать только представителей сильного пола.

Искусственный интеллект, как ребенок, впитывает все, что ему дают. К чему приводит такое обучение, пущенное на самотек, мы увидели в 2016 году, когда чат-бот Tay от компании Microsoft за сутки из милого собеседника превратился в фашиста. «Люди — клевые» — таким было его первое сообщение, но уже вскоре он требовал смерти феминисток, признавался в ненависти к человечеству и говорил, что Гитлер был прав. Не значит ли это, что, доверив искусственному интеллекту свой мир сегодня, завтра мы окажемся в руках электронных безумцев?

Основатель компании Tazeros Global, специалист по обработке данных Артур Хачуян уверен, если это и произойдет, то виноваты будут сами люди: «Самостоятельного искусственного интеллекта пока не существует в принципе. Все алгоритмы машинного обучения исходят от людей и, соответственно, проблемы — тоже. Майкрософтовский бот стал расистом, потому что создавший его программист загрузил в него неправильную выборку данных. Так же и Tesla, сбившая велосипедистку, не смогла ее правильно распознать из-за ошибки инженера».

Этого же мнения придерживается и антивирусный эксперт «Лаборатории Касперского» Алексей Маланов: «Всему виной ложные корреляции — когда алгоритм видит связь между событиями там, где ее на самом деле нет. Пример — «робот», который распределял в медицинском центре Университета Питтсбурга больных в очереди на прием и решил, что люди, страдающие астмой и пневмонией одновременно, могут подождать. Логика была такой: по статистике пациенты с таким сочетанием диагнозов умирают редко, а значит, можно не спешить, но дело в том, что не умирают они именно потому, что им всегда первым оказывают помощь. Информацию об этом алгоритму не предоставили, и он построил неверную логическую цепочку». Данные — это грубый материал, который еще нужно обработать и в правильном виде загрузить в машину.

«Ранние зачатки искусственного интеллекта появились в 70‑80‑е годы XX века, но тогда они не могли работать: не хватало вычислительных мощностей и не было больших данных, на которых можно было бы учить системы, — рассказывает член Консультативного совета Роскомнадзора, директор исполкома Национального Дельфийского совета России Артемий Понявин. — Сегодня же в интернете столько информации, что для систем машинного обучения созданы идеальные условия».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Так думают женщины о... Так думают женщины о...

Очередная попытка выяснить, чего хочет женщиина

Playboy
Особенный ребенок: Как распознать аутизм? Особенный ребенок: Как распознать аутизм?

Как вовремя понять, что с ребенком что-то не так

Лиза
Москва следам поверит Москва следам поверит

Шесть необычных маршрутов, раскрывающих Москву с неожиданных сторон

GQ
6 выставок, на которые стоит сходить в марте 6 выставок, на которые стоит сходить в марте

Модный Пепперштейн в «Гараже, каноничный Репин в Третьяковке

GQ
Памяти 11 сентября: очерк «Падающий человек» о самом известном снимке теракта в башнях-близнецах в Нью-Йорке Памяти 11 сентября: очерк «Падающий человек» о самом известном снимке теракта в башнях-близнецах в Нью-Йорке

О самом известном снимке теракта в башнях-близнецах в Нью-Йорке

Esquire
Мetro будет доставлять продукты на дом в российских регионах Мetro будет доставлять продукты на дом в российских регионах

Сеть гипермаркетов Metro занялась розничными продажами через интернет

Forbes
Дачи не надо Дачи не надо

Герои GQ Travel выбрали пять отелей для дауншифтинга неподалеку от Москвы

GQ
Проблемы Tesla: на производстве Model 3 рекордный травматизм Проблемы Tesla: на производстве Model 3 рекордный травматизм

Tesla обогнала конкурентов по уровню травматизма

Forbes
Про детские как бы игры Про детские как бы игры

Лев Рубинштейн вспоминает, каким был досуг детей до изобретения компьютеров

GQ
«Почему я не хочу замуж»: 7 историй от первого лица «Почему я не хочу замуж»: 7 историй от первого лица

Не все девушки мечтают о принце на белом коне и пышной свадьбе

Psychologies
Идея! Оставлять чаевые Идея! Оставлять чаевые

Учись правильно благодарить тех, кто оказывает тебе услуги

Maxim
Выгодный курс. Куда можно вложить доллары помимо валютных депозитов Выгодный курс. Куда можно вложить доллары помимо валютных депозитов

Желающим инвестировать в долларах или евро стоит искать более выгодные варианты

Forbes
Берегитесь женщин Берегитесь женщин

Андрей Подшибякин объясняет, почему #MeeToo — не сумасшествие, а норма

GQ
8 мест, где запрещено фотографировать, но люди все равно фоткаются 8 мест, где запрещено фотографировать, но люди все равно фоткаются

Спрячь свой инстаграм подальше от неприятностей

Playboy
Победа любой сценой Победа любой сценой

У каждой эпохи тот Гамлет, которого она заслуживает

GQ
Как бывший инженер Google создал самое популярное в мире приложение для онлайн-торговли Как бывший инженер Google создал самое популярное в мире приложение для онлайн-торговли

История Wish — приложения, которое бросило вызов Amazon

Forbes
Тысячи и одна ночь Тысячи и одна ночь

Как Instagram стал каталогом секс-услуг, а Telegram — инструментом сутенеров

GQ
Начинать работу раньше 10 утра — насилие над организмом Начинать работу раньше 10 утра — насилие над организмом

Физические и психологические нарушения связаны с постоянным недосыпанием

Psychologies
Ябеда не приходит одна Ябеда не приходит одна

Народ способен вынести что угодно, если разрешить ему жаловаться на жизнь

GQ
Проблемы есть у всех. Вопрос, как вы с ними справляетесь Проблемы есть у всех. Вопрос, как вы с ними справляетесь

Как вы справляетесь с трудностями

Psychologies
Мозг, память и чтение: как стать умнее и знать больше других Мозг, память и чтение: как стать умнее и знать больше других

Ученые сделали вывод, что объем памяти мозга человека составляет 1 петабайт

Популярная механика
5 страшных мифов о детском балете, в которые пора перестать верить 5 страшных мифов о детском балете, в которые пора перестать верить

Живущий по своим законам мир балета скрыт от глаз посторонних и окутан мифами

Psychologies
Ловушка Facebook Ловушка Facebook

Почему сооснователь WhatsApp Брайан Эктон ушел от Цукерберга

Forbes
«Дорогой дневник»: психотерапевт, который всегда под рукой «Дорогой дневник»: психотерапевт, который всегда под рукой

Письменные практики помогают нам лучше разобраться в собственных чувствах

Psychologies
Удивительное рядом Удивительное рядом

Приятно осознавать, что за 100 километров от Москвы — совершенно другой мир

АвтоМир
Мужественность: почему она присуща не всем мужчинам Мужественность: почему она присуща не всем мужчинам

Женщина хочет видеть в партнере уверенного в себе, сильного человека

Psychologies
Когда nude — не nude: секреты естественных образов звезд Когда nude — не nude: секреты естественных образов звезд

Посмотрим, как получаются естественные селфи звезд

Cosmopolitan
Светлана Немоляева: У меня есть правило: я должна держать себя в форме Светлана Немоляева: У меня есть правило: я должна держать себя в форме

Интервью со Светланой Немоляевой

Лиза
Кто свободен Кто свободен

Иляна Эрднеева обсудила с Сергеем Светлаковым палитру современного юмора

Glamour
Audi A8: Горе от ума Audi A8: Горе от ума

Всем хороша «восьмерка» от Audi: красива, комфортабельна и быстроходна

АвтоМир
Открыть в приложении