Машины рулят людьми

В принятии важных решений все чаще участвуют алгоритмы машинного обучения

GQHi-Tech

Машины рулят людьми

Текст: Антон Иванов. Коллажи: Алик Новожилов

Нас призывают придерживаться принципов политкорректности и толерантности, но будет ли играть по этим правилам искусственный интеллект или, пока люди строят общество равных возможностей, где-то за кулисами их судьбы будут решать роботизированные алгоритмы, по-разному оценивающие представителей разных полов, рас и сексуальных меньшинств?

В принятии жизненно важных решений — от выдачи кредита до постановки медицинского диагноза — все чаще участвуют алгоритмы машинного обучения (ранние зачатки искусственного интеллекта). Во Франции так распределяют детей по школам, в Америке рассчитывают тюремный срок, который получит осужденный. Кредит, страховка, судьба претендента на вакантное место — все эти вопросы из-под власти людей уходят к роботам. В основе железной логики машин всегда лежит анализ огромных баз данных, но какая именно информация о вас станет решающей, не скажет никто.

«Сегодня можно создать алгоритмы, способные скомпрометировать человека и вторгнуться в его личную жизнь. Например, ученые из Стэнфорда в порядке эксперимента уже научили нейронные сети по фотографии человека довольно точно определять сексуальную ориентацию, — рассказывает вице-президент Тинькофф-банка Константин Маркелов. — Есть возможность распознать человека, попавшего в поле зрения видеокамеры, найти его профиль в соцсетях и через сервисы, которых множество, узнать о его поисковых запросах, маршрутах перемещений, достатке. После этого алгоритм может сделать тот или иной вывод — в зависимости от поставленной задачи». Выводы эти далеко не всегда бесстрастные.

Одними из первых тревогу забили ученые Принстонского университета, заметившие, что искусственный интеллект, обучающийся на текстовых источниках, быстро становится предвзятым и начинает считать белый цвет кожи и мужской пол преимуществами. Причина в том, что этими предрассудками наполнены наши книги, наш интернет и даже наш язык. Например, слово «профессионал» имеет положительную коннотацию, а «профессионалка» — несколько иную, и таких примеров множество. Даже тот факт, что слова «доктор» и «инженер» — мужского рода, уже наводит компьютер на мысль о том, что эти вакансии не для женщин. Компания Amazon уже пережила скандал с HR‑алгоритмом, который пытался нанимать только представителей сильного пола.

Искусственный интеллект, как ребенок, впитывает все, что ему дают. К чему приводит такое обучение, пущенное на самотек, мы увидели в 2016 году, когда чат-бот Tay от компании Microsoft за сутки из милого собеседника превратился в фашиста. «Люди — клевые» — таким было его первое сообщение, но уже вскоре он требовал смерти феминисток, признавался в ненависти к человечеству и говорил, что Гитлер был прав. Не значит ли это, что, доверив искусственному интеллекту свой мир сегодня, завтра мы окажемся в руках электронных безумцев?

Основатель компании Tazeros Global, специалист по обработке данных Артур Хачуян уверен, если это и произойдет, то виноваты будут сами люди: «Самостоятельного искусственного интеллекта пока не существует в принципе. Все алгоритмы машинного обучения исходят от людей и, соответственно, проблемы — тоже. Майкрософтовский бот стал расистом, потому что создавший его программист загрузил в него неправильную выборку данных. Так же и Tesla, сбившая велосипедистку, не смогла ее правильно распознать из-за ошибки инженера».

Этого же мнения придерживается и антивирусный эксперт «Лаборатории Касперского» Алексей Маланов: «Всему виной ложные корреляции — когда алгоритм видит связь между событиями там, где ее на самом деле нет. Пример — «робот», который распределял в медицинском центре Университета Питтсбурга больных в очереди на прием и решил, что люди, страдающие астмой и пневмонией одновременно, могут подождать. Логика была такой: по статистике пациенты с таким сочетанием диагнозов умирают редко, а значит, можно не спешить, но дело в том, что не умирают они именно потому, что им всегда первым оказывают помощь. Информацию об этом алгоритму не предоставили, и он построил неверную логическую цепочку». Данные — это грубый материал, который еще нужно обработать и в правильном виде загрузить в машину.

«Ранние зачатки искусственного интеллекта появились в 70‑80‑е годы XX века, но тогда они не могли работать: не хватало вычислительных мощностей и не было больших данных, на которых можно было бы учить системы, — рассказывает член Консультативного совета Роскомнадзора, директор исполкома Национального Дельфийского совета России Артемий Понявин. — Сегодня же в интернете столько информации, что для систем машинного обучения созданы идеальные условия».

Авторизуйтесь и читайте статьи из популярных журналов

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Что у вас на горячее? Что у вас на горячее?

Развеиваем популярные мифы о загаре и напоминаем: солнце светит всем одинаково

GQ, август'19
Путь в гору Путь в гору

Как боец Хабиб Нурмагомедов стал одним из главных героев мирового спорта

Forbes, август'19
На далёкой Амазонке На далёкой Амазонке

Преображение квартиры со сложной архитектурой в лёгкое и светлое пространство

SALON-Interior, апрель'19
Карл Лагерфельд Карл Лагерфельд

Магия, колкий юмор, особое чувство стиля и самые невероятные парижские истории

Elle, апрель'19
Фантастические твари и о чем они рассуждают Фантастические твари и о чем они рассуждают

Отрывки из книги «История научной фантастики Джеймса Кэмерона»

Maxim, апрель'19
Как мы учились чистить зубы: почти 2 миллиона (!) лет проб и ошибок Как мы учились чистить зубы: почти 2 миллиона (!) лет проб и ошибок

Как менялись приспособления для чистки зубов

National Geographic, март'19
Страх и трепет православного патриота Страх и трепет православного патриота

Размышления над книгой протоиерея Андрея Кордочкина

Эксперт, март'19
Показать класс! Показать класс!

О рецептах для вдохновения и грандиозных профессиональных планах Марка Стаценко

OK!, март'19
Вьетнам, окройся! Вьетнам, окройся!

Сколько бы раз вы ни были в Азии, понять, изучить, привыкнуть к ней невозможно

Домашний Очаг, апрель'19
Берегитесь женщин Берегитесь женщин

Андрей Подшибякин объясняет, почему #MeeToo — не сумасшествие, а норма

GQ, апрель'19
Бегемот убивает антилопу: видео Бегемот убивает антилопу: видео

Бегемоты питаются не только растениями – это факт

National Geographic, март'19
Секрет ловушки муравьиных львов: видео Секрет ловушки муравьиных львов: видео

Учитесь строить идеальную воронку у муравьиных львов

National Geographic, март'19
Vessel: новая (и грандиозная) достопримечательность Нью-Йорка Vessel: новая (и грандиозная) достопримечательность Нью-Йорка

Футуристическая смотровая площадка расположилась на Манхеттене

National Geographic, март'19
Про детские как бы игры Про детские как бы игры

Лев Рубинштейн вспоминает, каким был досуг детей до изобретения компьютеров

GQ, апрель'19
Где искать омега-3? Где искать омега-3?

Принимать золотистые капсулы у многих вошло в привычку

Лиза, март'19
Почти как дома? Особенности родов по контракту Почти как дома? Особенности родов по контракту

Преимущества родов по контракту

9 месяцев, апрель'19
Красиво жить не запретишь Красиво жить не запретишь

Декоратор Майлз Редд отстаивает право своих заказчиков на жизнь в роскоши

AD, апрель'19
Как победить соперника с помощью воздействия на его глаза Как победить соперника с помощью воздействия на его глаза

Удары по глазам не требуют больших усилий, тем самым можно победить соперника

Men’s Health, март'19
Золотошвейный покров с ликом святого Зосимы: неожиданная находка антропологов Золотошвейный покров с ликом святого Зосимы: неожиданная находка антропологов

Группой учёных было сделано удивительное открытие

National Geographic, март'19
Майка Монро: «Между актером и фанатами должна быть дистанция» Майка Монро: «Между актером и фанатами должна быть дистанция»

У Майки Монро завидная фильмография и еще более завидные карьерные перспективы

Grazia, март'19
Туннельный синдром Туннельный синдром

Если у тебя немеют пальцы и болят кисти рук, возможно, это туннельный синдром

Лиза, март'19
Везде свои Везде свои

Три года назад семья Суриковых отправилась в кругосветное путешествие

StarHit, март'19
Видит будущее Видит будущее

Патриция Бамби о футуризме, эпохе диджитал и переменах в моде

Grazia, март'19
Не подходи, я в домике Не подходи, я в домике

Как в офисе очертить свою территорию и договориться с коллегами соблюдать ее?

Лиза, март'19
Мини-лягушки: новый род найден на Мадагаскаре Мини-лягушки: новый род найден на Мадагаскаре

Мозг такой амфибии может поместиться на кончике булавки!

National Geographic, март'19
«Ресторан и кальян несовместимы»: шеф-повар о хамском отношении к еде «Ресторан и кальян несовместимы»: шеф-повар о хамском отношении к еде

Еда — не только топливо для организма, но и важный элемент культуры

Men’s Health, март'19
Бюрократия жалоб Бюрократия жалоб

Институт жалоб начинает конкурировать с судебной системой

Огонёк, март'19
Райан Рейнольдс делится секретами ухода за собой Райан Рейнольдс делится секретами ухода за собой

Что лежит в косметичке Райана Рейнольдса

GQ, март'19
Как две капли воды Как две капли воды

Этих звезд легко представить в роли братьев или двойников самих себя

Лиза, март'19
Москва следам поверит Москва следам поверит

Шесть необычных маршрутов, раскрывающих Москву с неожиданных сторон

GQ, апрель'19