Автономный режим боевых роботов может представлять опасность для человечества

ForbesHi-Tech

Бесчеловечное решение: как развитие боевых роботов достигло опасной черты

Олег Шакиров

Фото Mehmet Kaman / Anadolu Agency via Getty Images

В марте 2020 года в Ливии беспилотник без команды от человека выследил силы противника и нанес по ним удар. Инцидент, возможно, с первым известным случаем атаки ударного беспилотника без получения явного приказа от человека показывает опасность распространения автономных систем вооружений, считает консультант ПИР-центра Олег Шакиров.

В ходе военных действий в Ливии разыгрался сюжет из научной фантастики. Беспилотные летательные аппараты автономно, без команды от человека, действуя по заданной программе, выследили силы противника (подразделения, примкнувшие к командующему Ливийской национальной армии Халифе Хафтару) и нанесли по ним удар.

Это произошло еще в марте 2020 года, однако лишь спустя год об инциденте кратко написала группа экспертов ООН по Ливии — более чем в 500-страничном докладе нападению дронов уделено два предложения. В середине мая инцидент был кратко упомянут в статье правозащитной организации Human Rights Watch, затем в Бюллетене ученых-атомщиков и издании New Scientist. Благодаря публикации NY Post история наконец вышла к широкой аудитории.

Автономный режим

Внимание к, казалось бы, давнему и не имевшему видимых последствий событию легко объяснимо. Уже несколько десятилетий военные применяют ударные и разведывательные беспилотники, а также роботы, способные выполнять задачи на суше или в воде. Однако такая техника удаленно управляется человеком — в армии США дроны официально называются не беспилотными, а дистанционно пилотируемыми.

Автономные вооружения, в отличие от управляемых, действуют самостоятельно, без участия оператора. В худшем случае отсутствие человеческого контроля может привести к непредвиденным жертвам — на этой опасности делают акцент активисты, выступающие за запрет боевых роботов. Что именно может пойти не так, предсказать сложно, но вероятные сбои может представить любой, кто сталкивался с ошибками в работе сервисов на основе искусственного интеллекта, таких как интернет-поисковики, чат-боты или приложения для распознавания текста и изображений.

Примером вооружений, которые могут функционировать автономно при переключении в соответствующий режим, эксперты называют автоматическую туррель SGR-A1, разработанную компанией Samsung Techwin и используемую для охраны демилитаризованной зоны на Корейском полуострове. Сам производитель этого не признавал, утверждая, что для поражения целей необходимо участие человека. Автономный режим есть в системе противоракетной обороны «Иджис», размещаемой на американских кораблях, а также на военных базах в Европе. В этих случаях подразумевается, что оператор сознательно примет решение переключить такую систему в автономный режим и обратно.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как выбрать монитор для компьютера и наслаждаться «картинкой» Как выбрать монитор для компьютера и наслаждаться «картинкой»

Хороший монитор не обязательно должен стоить дорого

CHIP
Это провокация Это провокация

Гарри Нуриев рассказал, кто и что интересует его в современном искусстве

AD
Годы не помеха! Кто навязывает возрастные ограничения в стиле и как с этим жить Годы не помеха! Кто навязывает возрастные ограничения в стиле и как с этим жить

Кто внушает нам, что после определенного возраста нужно начинать одеваться иначе

Cosmopolitan
Карен Кавалерян: Карен Кавалерян:

Карен Кавалерян — о том, как живется авторам популярных песен

Караван историй
Зуб моллюска помог ученым создать материал для 3D-печати Зуб моллюска помог ученым создать материал для 3D-печати

Минерал сантабарбарит прочнее многих современных материалов для зубных имплантов

N+1
Ближайший внегалактический источник быстрых радиовсплесков связали со старым шаровым скоплением Ближайший внегалактический источник быстрых радиовсплесков связали со старым шаровым скоплением

Астрономы локализовали источник повторяющихся быстрых радиовсплексов

N+1
Шея и зона декольте: 5 эффективных советов по уходу Шея и зона декольте: 5 эффективных советов по уходу

Наша программа красоты поможет твоей шее и зоне декольте выглядеть идеально

Cosmopolitan
Самосбывающееся проклятие Самосбывающееся проклятие

Cлухи о конце эпохи низкой инфляции в США сильно преувеличены

Forbes
«Муж съедает всю еду в доме, и это разрушает наши отношения» «Муж съедает всю еду в доме, и это разрушает наши отношения»

Как еда может стать причиной серьезной ссоры между супругами

Psychologies
Секреты многодетных звезд: как худеют Виктория Бекхэм, Деми Мур и другие мамы Секреты многодетных звезд: как худеют Виктория Бекхэм, Деми Мур и другие мамы

Звездные мамы рассказали, как быстро привести себя в форму.

Cosmopolitan
Северные гладкие киты за сорок лет стали на метр короче Северные гладкие киты за сорок лет стали на метр короче

Ученые связывают уменьшение размера китов с запутыванием в рыболовных снастях

N+1
Мужской взгляд на короткую стрижку Мужской взгляд на короткую стрижку

Что думает он — длинные или короткие волосы для девушки лучше?

Cosmopolitan
5 способов вкусно приготовить фалафель 5 способов вкусно приготовить фалафель

Празднуем Международный день фалафеля!

GQ
Спортивное питание: наращивает мышцы или убивает почки? Спортивное питание: наращивает мышцы или убивает почки?

Сегодня проблему стройматериалов для мускулов решают волшебные пилюли

Maxim
«Отец предавал меня всю жизнь, но осознала я это только после его смерти» «Отец предавал меня всю жизнь, но осознала я это только после его смерти»

Отношения с родителями во многом определяют линию нашей собственной жизни

Psychologies
Людк, а Людк, глянь, что делается! Фильмы о мужских изменах и предательстве Людк, а Людк, глянь, что делается! Фильмы о мужских изменах и предательстве

Измена — это идеальная завязка для фильма

Cosmopolitan
Класс коррекции: как ухаживать за мужскими бровями? Класс коррекции: как ухаживать за мужскими бровями?

Какие услуги по уходу за мужскими бровями существуют на сегодняшний день?

Esquire
Устойчивые к химикатам лососевые вши проникли в океан из акваферм Устойчивые к химикатам лососевые вши проникли в океан из акваферм

Избавление рыб от паразитов привело к распространению резистентных вшей в океане

N+1
Как устроен патрульный катер «Мангуст» с ракетной установкой Как устроен патрульный катер «Мангуст» с ракетной установкой

Эта легкомысленного вида посудина — первая в своем роде

Maxim
Триумф или ошибка: как поиски воды на Марсе привели к неожиданному открытию Триумф или ошибка: как поиски воды на Марсе привели к неожиданному открытию

Ученые сомневаются, что на Марсе действительно существуют озера

Forbes
ATLAS измерил поляризацию одиночных топ-кварков и антикварков ATLAS измерил поляризацию одиночных топ-кварков и антикварков

Физики провели на Большом андронном коллайдере эксперимент над кварками

N+1
На все сто На все сто

Сто мест для интересного и необычного отпуска в России

Cosmopolitan
Frances McDormand Frances McDormand

Мысли Фрэнсис Макдорманд

ЖАРА Magazine
Лекарство от всех болезней: что такое джаму-сок и чем он полезен Лекарство от всех болезней: что такое джаму-сок и чем он полезен

Модный тренд – индонезийский напиток джаму

Cosmopolitan
Дамские романы: как две сестры создали компанию стоимостью $225 млн, придумывая мобильные игры «для девочек» Дамские романы: как две сестры создали компанию стоимостью $225 млн, придумывая мобильные игры «для девочек»

Как ставка на женскую аудиторию помогла сестрам Накадзима заработать $141,5 млн

Forbes
Сила есть: что показывает государство российскому обществу в 2021 году Сила есть: что показывает государство российскому обществу в 2021 году

Общество рефлекторно сжимается в ответ на кампанию закручивания гаек

Forbes
Мобильный офис Мобильный офис

Как выпускница физфака построила мебельную компанию в России

Forbes
Певец любви Певец любви

Дима Билан — один из немногих музыкантов, кто всё это время остается «на волне»

OK!
Все о массаже гуаша: техники, эффективность и противопоказания Все о массаже гуаша: техники, эффективность и противопоказания

Почему массаж роллерами и скребками из кристаллов становится все популярнее

РБК
15 мыслей Юрия Стоянова 15 мыслей Юрия Стоянова

Юрий Стоянов — о кровопийцах, стендаперах, прошлом, будущем и несбыточном

GQ
Открыть в приложении