В принятии важных решений все чаще участвуют алгоритмы машинного обучения

GQHi-Tech

Машины рулят людьми

Текст: Антон Иванов. Коллажи: Алик Новожилов

0:00 /
1069.483

Нас призывают придерживаться принципов политкорректности и толерантности, но будет ли играть по этим правилам искусственный интеллект или, пока люди строят общество равных возможностей, где-то за кулисами их судьбы будут решать роботизированные алгоритмы, по-разному оценивающие представителей разных полов, рас и сексуальных меньшинств?

В принятии жизненно важных решений — от выдачи кредита до постановки медицинского диагноза — все чаще участвуют алгоритмы машинного обучения (ранние зачатки искусственного интеллекта). Во Франции так распределяют детей по школам, в Америке рассчитывают тюремный срок, который получит осужденный. Кредит, страховка, судьба претендента на вакантное место — все эти вопросы из-под власти людей уходят к роботам. В основе железной логики машин всегда лежит анализ огромных баз данных, но какая именно информация о вас станет решающей, не скажет никто.

«Сегодня можно создать алгоритмы, способные скомпрометировать человека и вторгнуться в его личную жизнь. Например, ученые из Стэнфорда в порядке эксперимента уже научили нейронные сети по фотографии человека довольно точно определять сексуальную ориентацию, — рассказывает вице-президент Тинькофф-банка Константин Маркелов. — Есть возможность распознать человека, попавшего в поле зрения видеокамеры, найти его профиль в соцсетях и через сервисы, которых множество, узнать о его поисковых запросах, маршрутах перемещений, достатке. После этого алгоритм может сделать тот или иной вывод — в зависимости от поставленной задачи». Выводы эти далеко не всегда бесстрастные.

Одними из первых тревогу забили ученые Принстонского университета, заметившие, что искусственный интеллект, обучающийся на текстовых источниках, быстро становится предвзятым и начинает считать белый цвет кожи и мужской пол преимуществами. Причина в том, что этими предрассудками наполнены наши книги, наш интернет и даже наш язык. Например, слово «профессионал» имеет положительную коннотацию, а «профессионалка» — несколько иную, и таких примеров множество. Даже тот факт, что слова «доктор» и «инженер» — мужского рода, уже наводит компьютер на мысль о том, что эти вакансии не для женщин. Компания Amazon уже пережила скандал с HR‑алгоритмом, который пытался нанимать только представителей сильного пола.

Искусственный интеллект, как ребенок, впитывает все, что ему дают. К чему приводит такое обучение, пущенное на самотек, мы увидели в 2016 году, когда чат-бот Tay от компании Microsoft за сутки из милого собеседника превратился в фашиста. «Люди — клевые» — таким было его первое сообщение, но уже вскоре он требовал смерти феминисток, признавался в ненависти к человечеству и говорил, что Гитлер был прав. Не значит ли это, что, доверив искусственному интеллекту свой мир сегодня, завтра мы окажемся в руках электронных безумцев?

Основатель компании Tazeros Global, специалист по обработке данных Артур Хачуян уверен, если это и произойдет, то виноваты будут сами люди: «Самостоятельного искусственного интеллекта пока не существует в принципе. Все алгоритмы машинного обучения исходят от людей и, соответственно, проблемы — тоже. Майкрософтовский бот стал расистом, потому что создавший его программист загрузил в него неправильную выборку данных. Так же и Tesla, сбившая велосипедистку, не смогла ее правильно распознать из-за ошибки инженера».

Этого же мнения придерживается и антивирусный эксперт «Лаборатории Касперского» Алексей Маланов: «Всему виной ложные корреляции — когда алгоритм видит связь между событиями там, где ее на самом деле нет. Пример — «робот», который распределял в медицинском центре Университета Питтсбурга больных в очереди на прием и решил, что люди, страдающие астмой и пневмонией одновременно, могут подождать. Логика была такой: по статистике пациенты с таким сочетанием диагнозов умирают редко, а значит, можно не спешить, но дело в том, что не умирают они именно потому, что им всегда первым оказывают помощь. Информацию об этом алгоритму не предоставили, и он построил неверную логическую цепочку». Данные — это грубый материал, который еще нужно обработать и в правильном виде загрузить в машину.

«Ранние зачатки искусственного интеллекта появились в 70‑80‑е годы XX века, но тогда они не могли работать: не хватало вычислительных мощностей и не было больших данных, на которых можно было бы учить системы, — рассказывает член Консультативного совета Роскомнадзора, директор исполкома Национального Дельфийского совета России Артемий Понявин. — Сегодня же в интернете столько информации, что для систем машинного обучения созданы идеальные условия».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Криптовалюты. Поколение второе Криптовалюты. Поколение второе

От «цифрового золота» к полноценным деньгам

Популярная механика
Черная полоса Boeing: как скажутся на компании две катастрофы 737 Maх Черная полоса Boeing: как скажутся на компании две катастрофы 737 Maх

Из-за двух крушений флагманских лайнеров 737 Max компания Boeing обвал котировок

Forbes
Игры кончились Игры кончились

Кит Харингтон рассказал GQ, за что ненавидит сериал, сделавший его знаменитым

GQ
Джинсы помогли мужчине выжить в открытом море. Лайфхак, который может пригодиться каждому Джинсы помогли мужчине выжить в открытом море. Лайфхак, который может пригодиться каждому

Эх, знал бы этот трюк Леонардо Ди Каприо в «Титанике»!

Maxim
Кто я? Кто я?

Кто ты такой? Вопрос, который мы задаем себе в течение жизни

Psychologies
Купить не глядя. Почему онлайн-продажи машин никак не разгонятся Купить не глядя. Почему онлайн-продажи машин никак не разгонятся

AliExpress начнет реализовывать в России автомобили марки Chery

Forbes
Победа любой сценой Победа любой сценой

У каждой эпохи тот Гамлет, которого она заслуживает

GQ
В США обнародовали основные итоги расследования Мюллера В США обнародовали основные итоги расследования Мюллера

Спецпрокурор Мюллер установил факт вмешательства России в выборы США

Forbes
Дачи не надо Дачи не надо

Герои GQ Travel выбрали пять отелей для дауншифтинга неподалеку от Москвы

GQ
Как найти девушку для серьезных отношений и брака: подробное руководство Как найти девушку для серьезных отношений и брака: подробное руководство

Где познакомиться с девушкой для серьезных отношений

Playboy
Москва следам поверит Москва следам поверит

Шесть необычных маршрутов, раскрывающих Москву с неожиданных сторон

GQ
Грудь Ани Лорак, изнасилование и другие громкие скандалы в «Что? Где? Когда?» Грудь Ани Лорак, изнасилование и другие громкие скандалы в «Что? Где? Когда?»

Многие недооценивают программу «Что? Где? Когда?», считая ее скучной

Cosmopolitan
Артист в ударе Артист в ударе

GQ встретился с одним из самых харизматичных российских актеров

GQ
Хороший кадр Хороший кадр

Рассказываем, как получить работу мечты

StarHit
Про детские как бы игры Про детские как бы игры

Лев Рубинштейн вспоминает, каким был досуг детей до изобретения компьютеров

GQ
В ожидании Mortal Kombat 11: история самого народного файтинга В ожидании Mortal Kombat 11: история самого народного файтинга

Почему «Мортал Комбат» особенно любят в России

CHIP
Тысячи и одна ночь Тысячи и одна ночь

Как Instagram стал каталогом секс-услуг, а Telegram — инструментом сутенеров

GQ
Аморальные соцсети: ФБР ловит педофилов на живца Аморальные соцсети: ФБР ловит педофилов на живца

Все ли средства хороши в борьбе против сексуальных преступников в интернете?

Forbes
Алиса в стране откатов Алиса в стране откатов

Как именно работает эзотерическая экономика откатов и офшоров?

Esquire
Отец в декрете Отец в декрете

Три отца рассказали нам, почему они предпочли сидеть дома в декрете

Psychologies
Лепота спасет мир Лепота спасет мир

Группа «Фабрика» обрела новую участницу – Марию Гончарук

Maxim
Немосковское метро. Как развиваются подземки в российских городах Немосковское метро. Как развиваются подземки в российских городах

Как обстоят дела с метро в городах России?

СНОБ
Через тернии к пяти звездам Через тернии к пяти звездам

Старинный особняк, ставший военным госпиталем, вернул себе былую роскошь

GQ
Самые ожидаемые игры 2019 года для ПК и консолей Самые ожидаемые игры 2019 года для ПК и консолей

Самые ожидаемые игры, которые должны выйти до конца этого года

CHIP
Продажи «Касперского» в Северной Америке сократились на четверть из-за геополитики Продажи «Касперского» в Северной Америке сократились на четверть из-за геополитики

Американский госсектор не может использовать ПО «Лаборатории Касперского»

Forbes
Алкогений: Чарли Шин Алкогений: Чарли Шин

Чарли Шин не только успел сняться в полусотне фильмов, но и полежать в рехабе

Maxim
Господин со связями Господин со связями

Чем же не угодил покупателям китайский кроссовер DFM AX7?

АвтоМир
Ложь, в которую верят взрослые люди Ложь, в которую верят взрослые люди

Блогер Кен Рейд разбирает три вида лжи, которые приводят к потере веры в себя

Psychologies
Отцы и дети: истории пап, которые не бросили больных детей Отцы и дети: истории пап, которые не бросили больных детей

Разговор с папами подопечных благотворительного Фонда Константина Хабенского

Cosmopolitan
«Чужак»: фрагмент нового романа Стивена Кинга «Чужак»: фрагмент нового романа Стивена Кинга

Отрывок из новой истории Стивена Кинга об убийстве 11-летнего мальчика

Esquire
Открыть в приложении