Автономный режим боевых роботов может представлять опасность для человечества

ForbesHi-Tech

Бесчеловечное решение: как развитие боевых роботов достигло опасной черты

Олег Шакиров

Фото Mehmet Kaman / Anadolu Agency via Getty Images

В марте 2020 года в Ливии беспилотник без команды от человека выследил силы противника и нанес по ним удар. Инцидент, возможно, с первым известным случаем атаки ударного беспилотника без получения явного приказа от человека показывает опасность распространения автономных систем вооружений, считает консультант ПИР-центра Олег Шакиров.

В ходе военных действий в Ливии разыгрался сюжет из научной фантастики. Беспилотные летательные аппараты автономно, без команды от человека, действуя по заданной программе, выследили силы противника (подразделения, примкнувшие к командующему Ливийской национальной армии Халифе Хафтару) и нанесли по ним удар.

Это произошло еще в марте 2020 года, однако лишь спустя год об инциденте кратко написала группа экспертов ООН по Ливии — более чем в 500-страничном докладе нападению дронов уделено два предложения. В середине мая инцидент был кратко упомянут в статье правозащитной организации Human Rights Watch, затем в Бюллетене ученых-атомщиков и издании New Scientist. Благодаря публикации NY Post история наконец вышла к широкой аудитории.

Автономный режим

Внимание к, казалось бы, давнему и не имевшему видимых последствий событию легко объяснимо. Уже несколько десятилетий военные применяют ударные и разведывательные беспилотники, а также роботы, способные выполнять задачи на суше или в воде. Однако такая техника удаленно управляется человеком — в армии США дроны официально называются не беспилотными, а дистанционно пилотируемыми.

Автономные вооружения, в отличие от управляемых, действуют самостоятельно, без участия оператора. В худшем случае отсутствие человеческого контроля может привести к непредвиденным жертвам — на этой опасности делают акцент активисты, выступающие за запрет боевых роботов. Что именно может пойти не так, предсказать сложно, но вероятные сбои может представить любой, кто сталкивался с ошибками в работе сервисов на основе искусственного интеллекта, таких как интернет-поисковики, чат-боты или приложения для распознавания текста и изображений.

Примером вооружений, которые могут функционировать автономно при переключении в соответствующий режим, эксперты называют автоматическую туррель SGR-A1, разработанную компанией Samsung Techwin и используемую для охраны демилитаризованной зоны на Корейском полуострове. Сам производитель этого не признавал, утверждая, что для поражения целей необходимо участие человека. Автономный режим есть в системе противоракетной обороны «Иджис», размещаемой на американских кораблях, а также на военных базах в Европе. В этих случаях подразумевается, что оператор сознательно примет решение переключить такую систему в автономный режим и обратно.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Любовь Аркус — Forbes: «Женщина тащит весь груз, который природа ей предоставляет» Любовь Аркус — Forbes: «Женщина тащит весь груз, который природа ей предоставляет»

Режиссер Любовь Аркус — как честно высказываться в условиях цензуры

Forbes
Одна вокруг света: киты, кайтсерфинг и посылка из России Одна вокруг света: киты, кайтсерфинг и посылка из России

124-я серия о кругосветном путешествии москвички Ирины Сидоренко: Мексика

Forbes
Nokia 3310. Обзор старой и новой версий легендарного телефона Nokia 3310. Обзор старой и новой версий легендарного телефона

Nokia 3310 — легенда, тема множества дискуссий и героиня мемов

Цифровой океан
Смотри не перепутай! В каком порядке эффективнее всего пользоваться косметикой Смотри не перепутай! В каком порядке эффективнее всего пользоваться косметикой

Эти простые правила домашнего ухода помогут твоей коже засиять здоровьем

Cosmopolitan
Мозг, исцеляющий себя Мозг, исцеляющий себя

Реальные истории людей, которые победили болезни и преобразили свой мозг

kiozk originals
Злая мегера или преданный друг. 10 заповедей мачехи Злая мегера или преданный друг. 10 заповедей мачехи

Как остаться собой и не навредить собственной семье в новой роли мачехи?

СНОБ
«Я не телепат, дорогая!»: почему мужчины не догадываются, чего мы от них ждем «Я не телепат, дорогая!»: почему мужчины не догадываются, чего мы от них ждем

Как мужчины пытаются угадать, что нам нужно, м как у них это не получается

Cosmopolitan
Когда прошлое не дает двигаться вперед Когда прошлое не дает двигаться вперед

Случалось ли вам чувствовать, что вы словно буксуете?

Psychologies
Коллайдеры новой эры Коллайдеры новой эры

Ускорительный комплекс NICA в Дубне решит большие вопросы современной физики

Эксперт
Зрительная память Зрительная память

Сорок лет совместной работы и дружбы двух fashion-легенд — Линдберга и Соццани

Harper's Bazaar
Глазами другого Глазами другого

Когда на нас смотрят, мы открываем свою личность заново

Psychologies
Дмитрий Губерниев Дмитрий Губерниев

Правила жизни телеведущего Дмитрия Губерниева

Esquire
Есть ретушь или нет? Фигуры российских звезд в отпуске vs в городе — сравниваем Есть ретушь или нет? Фигуры российских звезд в отпуске vs в городе — сравниваем

Российские звезды частенько попадаются на ретуши и фотошопе, особенно на отдыхе

Cosmopolitan
Действительно ли модная индустрия попала в сети тиктока? Действительно ли модная индустрия попала в сети тиктока?

Кажется, модные бренды слишком очарованы приложением в этом сезоне. Но стоит ли?

GQ
Муж — не владелец. Почему мы до сих пор позволяем диктовать, как нам выглядеть Муж — не владелец. Почему мы до сих пор позволяем диктовать, как нам выглядеть

Почему в XXI веке мужчины по-прежнему диктуют нам, как выглядеть

Cosmopolitan
От сока в багажнике до рояля в салоне: история создателей шоу-тюнинга West Coast Customs, героев «Тачки на прокачку» От сока в багажнике до рояля в салоне: история создателей шоу-тюнинга West Coast Customs, героев «Тачки на прокачку»

Эта автомастерская с Xzibit стала одной из самых популярных на ТВ в 2000-х

VC.RU
Путешествующее с прошлого марта стадо слонов добралось до столицы провинции Юньнань Путешествующее с прошлого марта стадо слонов добралось до столицы провинции Юньнань

Семейная группа слонов путешествует по Китарю и добралось до города Куньмин

N+1
Завезенные на австралийский остров тасманийские дьяволы погубили колонию пингвинов Завезенные на австралийский остров тасманийские дьяволы погубили колонию пингвинов

Попытка защитить один вид от вымирания привела к проблемам для других

N+1
Тебя выдает лак для ногтей: выбор оттенка многое говорит о характере! Тебя выдает лак для ногтей: выбор оттенка многое говорит о характере!

Что расскажут о твоем характере любимые цвета лака для ногтей?

Cosmopolitan
Вместе до последнего вздоха: история любви Дмитрия Хворостовского и Флоранс Илли Вместе до последнего вздоха: история любви Дмитрия Хворостовского и Флоранс Илли

Вдова оперного певца Дмитрия Хворостовского вспоминает своего супруга

Cosmopolitan
Триумф или ошибка: как поиски воды на Марсе привели к неожиданному открытию Триумф или ошибка: как поиски воды на Марсе привели к неожиданному открытию

Ученые сомневаются, что на Марсе действительно существуют озера

Forbes
Атомно-силовой микроскоп разглядел отдельные аминокислоты в белках Атомно-силовой микроскоп разглядел отдельные аминокислоты в белках

Новый метод микроскопии позволяет следить за конформацией биомолекул

N+1
Невроз и рак: чем болели Андрей Губин, Шура и другие русские звезды 90-х Невроз и рак: чем болели Андрей Губин, Шура и другие русские звезды 90-х

Марина Хлебникова, Шура, Губин — куда исчезли любимцы миллионов в зените славы?

Cosmopolitan
Европейские дизайнеры — о том, как создать ресторан в здании с историей Европейские дизайнеры — о том, как создать ресторан в здании с историей

Четыре знаковых дизайнерских ресторана в Париже, Нанси, Венеции и Лондоне

РБК
«Слитая переписка стала ударом для Оли»: отрывок из книги пиар-агента Бузовой «Слитая переписка стала ударом для Оли»: отрывок из книги пиар-агента Бузовой

Отрывок из книги Антона Богославского «Больше чем пиар. Как создать звезду»

Cosmopolitan
Жесты, перформансы и смертельные номера: что творят футболисты на стадионе Жесты, перформансы и смертельные номера: что творят футболисты на стадионе

Мало просто забить гол, нужно сделать так, чтобы его запомнили

Maxim
Чем занять ребенка летом? Все «за» и «против» спортивных детских лагерей Чем занять ребенка летом? Все «за» и «против» спортивных детских лагерей

Летом перед родителями встает вопрос: чем занять ребенка во время каникул?

СНОБ
«Страсти по Бумбарашу»: театр на пределе возможностей «Страсти по Бумбарашу»: театр на пределе возможностей

В Театре Олега Табакова — премьера спектакля в постановке Владимира Машкова

Эксперт
Советы желающему запыхаться. 10 веселых кардиотренировок Советы желающему запыхаться. 10 веселых кардиотренировок

10 тренировочных мини-программ, каждая из которых занимает всего 20 минут

Maxim
Робохимику поручили проверку гипотез о зарождении жизни Робохимику поручили проверку гипотез о зарождении жизни

Химики создали робота, который может самостоятельно проводить химические реакции

N+1
Открыть в приложении