Автономный режим боевых роботов может представлять опасность для человечества

ForbesHi-Tech

Бесчеловечное решение: как развитие боевых роботов достигло опасной черты

Олег Шакиров

Фото Mehmet Kaman / Anadolu Agency via Getty Images

В марте 2020 года в Ливии беспилотник без команды от человека выследил силы противника и нанес по ним удар. Инцидент, возможно, с первым известным случаем атаки ударного беспилотника без получения явного приказа от человека показывает опасность распространения автономных систем вооружений, считает консультант ПИР-центра Олег Шакиров.

В ходе военных действий в Ливии разыгрался сюжет из научной фантастики. Беспилотные летательные аппараты автономно, без команды от человека, действуя по заданной программе, выследили силы противника (подразделения, примкнувшие к командующему Ливийской национальной армии Халифе Хафтару) и нанесли по ним удар.

Это произошло еще в марте 2020 года, однако лишь спустя год об инциденте кратко написала группа экспертов ООН по Ливии — более чем в 500-страничном докладе нападению дронов уделено два предложения. В середине мая инцидент был кратко упомянут в статье правозащитной организации Human Rights Watch, затем в Бюллетене ученых-атомщиков и издании New Scientist. Благодаря публикации NY Post история наконец вышла к широкой аудитории.

Автономный режим

Внимание к, казалось бы, давнему и не имевшему видимых последствий событию легко объяснимо. Уже несколько десятилетий военные применяют ударные и разведывательные беспилотники, а также роботы, способные выполнять задачи на суше или в воде. Однако такая техника удаленно управляется человеком — в армии США дроны официально называются не беспилотными, а дистанционно пилотируемыми.

Автономные вооружения, в отличие от управляемых, действуют самостоятельно, без участия оператора. В худшем случае отсутствие человеческого контроля может привести к непредвиденным жертвам — на этой опасности делают акцент активисты, выступающие за запрет боевых роботов. Что именно может пойти не так, предсказать сложно, но вероятные сбои может представить любой, кто сталкивался с ошибками в работе сервисов на основе искусственного интеллекта, таких как интернет-поисковики, чат-боты или приложения для распознавания текста и изображений.

Примером вооружений, которые могут функционировать автономно при переключении в соответствующий режим, эксперты называют автоматическую туррель SGR-A1, разработанную компанией Samsung Techwin и используемую для охраны демилитаризованной зоны на Корейском полуострове. Сам производитель этого не признавал, утверждая, что для поражения целей необходимо участие человека. Автономный режим есть в системе противоракетной обороны «Иджис», размещаемой на американских кораблях, а также на военных базах в Европе. В этих случаях подразумевается, что оператор сознательно примет решение переключить такую систему в автономный режим и обратно.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Слушать сердце» или «включить голову»? Насколько разумен человек разумный «Слушать сердце» или «включить голову»? Насколько разумен человек разумный

Задумывались ли вы когда-нибудь о том, как люди принимают решения?

N+1
Новое лето Новое лето

Элегантная квартира, наполненная атмосферой радости, счастья и лета

SALON-Interior
Вам стоит простить себя за то, что вы… Вам стоит простить себя за то, что вы…

Больше не ругать себя за эти мысли и действия

Psychologies
Кому доверить ребенка. Разбор педагогических методик в детских садах Кому доверить ребенка. Разбор педагогических методик в детских садах

Самые известные педагогические методики в детских садах

СНОБ
Токсины и старение: как просроченная косметика влияет на кожу Токсины и старение: как просроченная косметика влияет на кожу

Разбираемся, почему нужно уделять внимание срокам годности косметики

Cosmopolitan
«Я никогда не сомневалась в том, что заслуживаю этих денег»: как продюсер Шонда Раймс заработала $350 млн «Я никогда не сомневалась в том, что заслуживаю этих денег»: как продюсер Шонда Раймс заработала $350 млн

Как вера в собственные силы помогла Шонде Раймс заключить контракт с Netflix?

Forbes
Как сделать лицо чувственным: главные бьюти-секреты принцессы Дианы Как сделать лицо чувственным: главные бьюти-секреты принцессы Дианы

Принцесса Диана пользовалась секретами, которые помогали ей прекрасно выглядеть

Cosmopolitan
Как предпринимательницы из Израиля и Палестины объединяют людей с помощью технологий Как предпринимательницы из Израиля и Палестины объединяют людей с помощью технологий

Организация Tech2Peace помогает молодым палестинцам запустить стартап

Forbes
«Художник — не кузнец своего счастья»: как Франсиско Инфанте-Арана создал кинетическое искусство «Художник — не кузнец своего счастья»: как Франсиско Инфанте-Арана создал кинетическое искусство

Художник Франсиско Инфанте-Арана — о творческом пути, соавторах и арт-рынке

Forbes
Оля Гинзбург Оля Гинзбург

Оля Гинзбург, дизайнер Ola Ola, делает коллаборации с художницей Данини

Собака.ru
Переживают за всё и за всех! 5 самых тревожных знаков зодиака Переживают за всё и за всех! 5 самых тревожных знаков зодиака

Самые чувствительные знаки зодиака

Cosmopolitan
7 способов стать лучшим партнером 7 способов стать лучшим партнером

Что необходимо делать, чтобы любимому человеку хотелось оставаться рядом с нами?

Psychologies
Дарья Панайотти Дарья Панайотти

Дарья Панайотти – куратор Отдела современного искусства Эрмитажа

Собака.ru
Секреты многодетных звезд: как худеют Виктория Бекхэм, Деми Мур и другие мамы Секреты многодетных звезд: как худеют Виктория Бекхэм, Деми Мур и другие мамы

Звездные мамы рассказали, как быстро привести себя в форму.

Cosmopolitan
Енот-детектив, аниме против инопланетян и чертоги разума: 7 видеоигр на лето Енот-детектив, аниме против инопланетян и чертоги разума: 7 видеоигр на лето

Backbone, Ratchet & Clank: Rift Apart и другие крупные игровые релизы

Esquire
Химики превратили биоразлагаемые вилки в пену Химики превратили биоразлагаемые вилки в пену

Вилки из биопластика превратили в пену с помощью углекислого газа

N+1
Там в саду при долине Там в саду при долине

Ландшафтная архитектура Арабеллы Леннокс-Бойд — рай, созданный руками женщины

Tatler
Даже на 100 кг! Юмористки, которые очень сильно похудели Даже на 100 кг! Юмористки, которые очень сильно похудели

Некоторые звезды комедии сильно худеют. Причем до неузнаваемости!

Cosmopolitan
Ни слова про Арбузы: путешествие в Астрахань Ни слова про Арбузы: путешествие в Астрахань

В Астрахань хорошо приезжать на несколько дней, чтобы увидеть все чудеса света

Seasons of life
Моя забота Моя забота

Чтобы питомцу было хорошо и он жил долго, надо за ним правильно ухаживать

Cosmopolitan
Ночь в коробке под мостом, насмешки сослуживцев и другие факты о принце Уильяме Ночь в коробке под мостом, насмешки сослуживцев и другие факты о принце Уильяме

Малоизвестные факты о принце Уильяме

Cosmopolitan
Загореть, но не обгореть: как избежать солнечного ожога, и почему его нельзя мазать сметаной Загореть, но не обгореть: как избежать солнечного ожога, и почему его нельзя мазать сметаной

Ровный загар - неотъемлемый атрибут хорошего отдыха и веселых каникул

Популярная механика
«Каждый за себя»: как я стала матерью-одиночкой и заработала первый миллион «Каждый за себя»: как я стала матерью-одиночкой и заработала первый миллион

#НЕзависимая Надежда Озимова — как ей удалось создать курс по брендингу

Cosmopolitan
«Нас не испугал диагноз»: история мамы детей с особенностями развития «Нас не испугал диагноз»: история мамы детей с особенностями развития

История семьи, которая воспитывает детей с особенностями развития

Cosmopolitan
Поляризацию связали с цветом для сверхбыстрой спектроскопии Поляризацию связали с цветом для сверхбыстрой спектроскопии

Физики смогли ускорить спектроскопические измерения

N+1
Отпуск под контролем: какие продукты на шведском столе лучше не есть Отпуск под контролем: какие продукты на шведском столе лучше не есть

Эксперт – как правильно питаться на отдыхе, чтобы не набрать вес

Cosmopolitan
Как наладить обмен веществ Как наладить обмен веществ

Улучшить метаболизм сложно, но можно

Cosmopolitan
Главные плюсы езды на велосипеде (для похудения и не только) Главные плюсы езды на велосипеде (для похудения и не только)

Советы об использовании велосипедных прогулок для снижения веса и удовольствия

Playboy
Больше энергии, чем целые страны: действительно ли добыча биткоина вредит экологии Больше энергии, чем целые страны: действительно ли добыча биткоина вредит экологии

Критики биткоина утверждают, что его производство наносит огромный вред природе

Forbes
Энергия оргазма: в чем секрет женского удовольствия? Энергия оргазма: в чем секрет женского удовольствия?

Как даосская традиция описывает женский оргазм?

Psychologies
Открыть в приложении