Машины рулят людьми

В принятии важных решений все чаще участвуют алгоритмы машинного обучения

GQHi-Tech

Машины рулят людьми

Текст: Антон Иванов. Коллажи: Алик Новожилов

0:00 /
1069.483

Нас призывают придерживаться принципов политкорректности и толерантности, но будет ли играть по этим правилам искусственный интеллект или, пока люди строят общество равных возможностей, где-то за кулисами их судьбы будут решать роботизированные алгоритмы, по-разному оценивающие представителей разных полов, рас и сексуальных меньшинств?

В принятии жизненно важных решений — от выдачи кредита до постановки медицинского диагноза — все чаще участвуют алгоритмы машинного обучения (ранние зачатки искусственного интеллекта). Во Франции так распределяют детей по школам, в Америке рассчитывают тюремный срок, который получит осужденный. Кредит, страховка, судьба претендента на вакантное место — все эти вопросы из-под власти людей уходят к роботам. В основе железной логики машин всегда лежит анализ огромных баз данных, но какая именно информация о вас станет решающей, не скажет никто.

«Сегодня можно создать алгоритмы, способные скомпрометировать человека и вторгнуться в его личную жизнь. Например, ученые из Стэнфорда в порядке эксперимента уже научили нейронные сети по фотографии человека довольно точно определять сексуальную ориентацию, — рассказывает вице-президент Тинькофф-банка Константин Маркелов. — Есть возможность распознать человека, попавшего в поле зрения видеокамеры, найти его профиль в соцсетях и через сервисы, которых множество, узнать о его поисковых запросах, маршрутах перемещений, достатке. После этого алгоритм может сделать тот или иной вывод — в зависимости от поставленной задачи». Выводы эти далеко не всегда бесстрастные.

Одними из первых тревогу забили ученые Принстонского университета, заметившие, что искусственный интеллект, обучающийся на текстовых источниках, быстро становится предвзятым и начинает считать белый цвет кожи и мужской пол преимуществами. Причина в том, что этими предрассудками наполнены наши книги, наш интернет и даже наш язык. Например, слово «профессионал» имеет положительную коннотацию, а «профессионалка» — несколько иную, и таких примеров множество. Даже тот факт, что слова «доктор» и «инженер» — мужского рода, уже наводит компьютер на мысль о том, что эти вакансии не для женщин. Компания Amazon уже пережила скандал с HR‑алгоритмом, который пытался нанимать только представителей сильного пола.

Искусственный интеллект, как ребенок, впитывает все, что ему дают. К чему приводит такое обучение, пущенное на самотек, мы увидели в 2016 году, когда чат-бот Tay от компании Microsoft за сутки из милого собеседника превратился в фашиста. «Люди — клевые» — таким было его первое сообщение, но уже вскоре он требовал смерти феминисток, признавался в ненависти к человечеству и говорил, что Гитлер был прав. Не значит ли это, что, доверив искусственному интеллекту свой мир сегодня, завтра мы окажемся в руках электронных безумцев?

Основатель компании Tazeros Global, специалист по обработке данных Артур Хачуян уверен, если это и произойдет, то виноваты будут сами люди: «Самостоятельного искусственного интеллекта пока не существует в принципе. Все алгоритмы машинного обучения исходят от людей и, соответственно, проблемы — тоже. Майкрософтовский бот стал расистом, потому что создавший его программист загрузил в него неправильную выборку данных. Так же и Tesla, сбившая велосипедистку, не смогла ее правильно распознать из-за ошибки инженера».

Этого же мнения придерживается и антивирусный эксперт «Лаборатории Касперского» Алексей Маланов: «Всему виной ложные корреляции — когда алгоритм видит связь между событиями там, где ее на самом деле нет. Пример — «робот», который распределял в медицинском центре Университета Питтсбурга больных в очереди на прием и решил, что люди, страдающие астмой и пневмонией одновременно, могут подождать. Логика была такой: по статистике пациенты с таким сочетанием диагнозов умирают редко, а значит, можно не спешить, но дело в том, что не умирают они именно потому, что им всегда первым оказывают помощь. Информацию об этом алгоритму не предоставили, и он построил неверную логическую цепочку». Данные — это грубый материал, который еще нужно обработать и в правильном виде загрузить в машину.

«Ранние зачатки искусственного интеллекта появились в 70‑80‑е годы XX века, но тогда они не могли работать: не хватало вычислительных мощностей и не было больших данных, на которых можно было бы учить системы, — рассказывает член Консультативного совета Роскомнадзора, директор исполкома Национального Дельфийского совета России Артемий Понявин. — Сегодня же в интернете столько информации, что для систем машинного обучения созданы идеальные условия».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Лена Горностаева Лена Горностаева

Какую часть мужского тела Лена Горностаева считает самой сексуальной?

Playboy, март'19
Космос со скидкой. Сможет ли Илон Маск сбить цены на полеты к орбите и Луне Космос со скидкой. Сможет ли Илон Маск сбить цены на полеты к орбите и Луне

Сколько теперь будет стоить побывать в космосе

Forbes, март'19
Про детские как бы игры Про детские как бы игры

Лев Рубинштейн вспоминает, каким был досуг детей до изобретения компьютеров

GQ, апрель'19
Проект OCCRP сообщил о виллах окружения Чемезова в Испании Проект OCCRP сообщил о виллах окружения Чемезова в Испании

Новое расследование проекта OCCRP

Forbes, март'19
Двери открываются Двери открываются

Московское метро: античные храмы, целые библиотеки, роскошь и хай-тек

GQ, апрель'19
Экзамен для самой себя Экзамен для самой себя

Ангелина Стречина возглавляет рейтинг перспективных актрис российского кино

OK!, март'19
Берегитесь женщин Берегитесь женщин

Андрей Подшибякин объясняет, почему #MeeToo — не сумасшествие, а норма

GQ, апрель'19
23 фильма ужасов, которые угрожают выйти в ближайший год 23 фильма ужасов, которые угрожают выйти в ближайший год

Эти фильмы ужасов выйдут в 2019-2020 годах и скрасят наши серые будни

Maxim, март'19
Игры кончились Игры кончились

Кит Харингтон рассказал GQ, за что ненавидит сериал, сделавший его знаменитым

GQ, май'19
Елена Летучая и другие звезды на показе осень-зима 2019 Faberlic Couture Елена Летучая и другие звезды на показе осень-зима 2019 Faberlic Couture

Россия становится все более весомым игроком международной модной индустрии

Cosmopolitan, март'19
Тысячи и одна ночь Тысячи и одна ночь

Как Instagram стал каталогом секс-услуг, а Telegram — инструментом сутенеров

GQ, апрель'19
Национальное дерево Пуэрто-Рико возвращается к жизни Национальное дерево Пуэрто-Рико возвращается к жизни

Спустя полтора года после разрушительного урагана природа начинает расцветать

National Geographic, март'19
Победа любой сценой Победа любой сценой

У каждой эпохи тот Гамлет, которого она заслуживает

GQ, апрель'19
Гонка на понижение цены. Как продавцам заработать при работе с маркетплейсами Гонка на понижение цены. Как продавцам заработать при работе с маркетплейсами

Комиссии российских маркетплейсов могут достигать 38% от цены товара

Forbes, март'19
Дачи не надо Дачи не надо

Герои GQ Travel выбрали пять отелей для дауншифтинга неподалеку от Москвы

GQ, апрель'19
Запрет на полеты над Индией и Пакистаном продлен до 5 марта Запрет на полеты над Индией и Пакистаном продлен до 5 марта

Закрытие неба над территорией Индии и Пакистана продлено на сутки

National Geographic, март'19
Деревянный Кремль Деревянный Кремль

Так, как Владимир Клавихо-Телепнев, Москву еще не снимал никто

GQ, апрель'19
Самым богатым россиянином в рейтинге миллиардеров Forbes стал Леонид Михельсон Самым богатым россиянином в рейтинге миллиардеров Forbes стал Леонид Михельсон

Состояние богатейшего россиянина впервые с 2011 года превысило $20 млрд

Forbes, март'19
Человек с большой буквы X Человек с большой буквы X

Майкл Фассбендер рассказал о новых точках притяжения

GQ, июнь'19
Марина Зудина: «С болью можно жить и улыбаться» Марина Зудина: «С болью можно жить и улыбаться»

Марина Зудина о новом этапе в карьере и отношениях с Владимиром Машковым

StarHit, март'19
Гибкое время Фабиана Офнера Гибкое время Фабиана Офнера

Как по частям собрать момент, которого никогда не было

Популярная механика, апрель'19
Летающий самоучка Летающий самоучка

К 120-летию журнала — о его герое и авторе — Константине Арцеулове

Огонёк, март'19
Цифровой психоз Цифровой психоз

Социальные сети способны свести вас с ума

GQ, июнь'19
20 богатейших российских бизнесменов. Рейтинг Forbes 20 богатейших российских бизнесменов. Рейтинг Forbes

В России появились бизнесмены, чье состояние превышает $20 млрд

Forbes, март'19
Легкая рука Легкая рука

Как производятся костюмы семейной марки Cesare Attolini

The Rake, март'19
Музей подводят под монастырь Музей подводят под монастырь

«Церковная реституция» добралась до особо ценного объекта наследия

Огонёк, март'19
«Дерипаска любит эпатировать». Каковы шансы миллиардера победить Минфин США «Дерипаска любит эпатировать». Каковы шансы миллиардера победить Минфин США

Утверждения Дерипаски по поводу личного состояния неверны

Forbes, март'19
Проверка на прочность Проверка на прочность

В судьбе человека заложены как минимум три кризиса, которых невозможно избежать

Лиза, март'19
Создатель Всемирной паутины — о том, почему нельзя откладывать создание единого договора об использовании интернета Создатель Всемирной паутины — о том, почему нельзя откладывать создание единого договора об использовании интернета

Перевод открытого письма сэра Тима Бернерса-Ли, придумавшего Всемирную паутину

Esquire, март'19
Глоток энергии Глоток энергии

Как «подзарядить батарейку» после затяжной зимы, не отходя от холодильника

Vogue, апрель'19