Автономный режим боевых роботов может представлять опасность для человечества

ForbesHi-Tech

Бесчеловечное решение: как развитие боевых роботов достигло опасной черты

Олег Шакиров

Фото Mehmet Kaman / Anadolu Agency via Getty Images

В марте 2020 года в Ливии беспилотник без команды от человека выследил силы противника и нанес по ним удар. Инцидент, возможно, с первым известным случаем атаки ударного беспилотника без получения явного приказа от человека показывает опасность распространения автономных систем вооружений, считает консультант ПИР-центра Олег Шакиров.

В ходе военных действий в Ливии разыгрался сюжет из научной фантастики. Беспилотные летательные аппараты автономно, без команды от человека, действуя по заданной программе, выследили силы противника (подразделения, примкнувшие к командующему Ливийской национальной армии Халифе Хафтару) и нанесли по ним удар.

Это произошло еще в марте 2020 года, однако лишь спустя год об инциденте кратко написала группа экспертов ООН по Ливии — более чем в 500-страничном докладе нападению дронов уделено два предложения. В середине мая инцидент был кратко упомянут в статье правозащитной организации Human Rights Watch, затем в Бюллетене ученых-атомщиков и издании New Scientist. Благодаря публикации NY Post история наконец вышла к широкой аудитории.

Автономный режим

Внимание к, казалось бы, давнему и не имевшему видимых последствий событию легко объяснимо. Уже несколько десятилетий военные применяют ударные и разведывательные беспилотники, а также роботы, способные выполнять задачи на суше или в воде. Однако такая техника удаленно управляется человеком — в армии США дроны официально называются не беспилотными, а дистанционно пилотируемыми.

Автономные вооружения, в отличие от управляемых, действуют самостоятельно, без участия оператора. В худшем случае отсутствие человеческого контроля может привести к непредвиденным жертвам — на этой опасности делают акцент активисты, выступающие за запрет боевых роботов. Что именно может пойти не так, предсказать сложно, но вероятные сбои может представить любой, кто сталкивался с ошибками в работе сервисов на основе искусственного интеллекта, таких как интернет-поисковики, чат-боты или приложения для распознавания текста и изображений.

Примером вооружений, которые могут функционировать автономно при переключении в соответствующий режим, эксперты называют автоматическую туррель SGR-A1, разработанную компанией Samsung Techwin и используемую для охраны демилитаризованной зоны на Корейском полуострове. Сам производитель этого не признавал, утверждая, что для поражения целей необходимо участие человека. Автономный режим есть в системе противоракетной обороны «Иджис», размещаемой на американских кораблях, а также на военных базах в Европе. В этих случаях подразумевается, что оператор сознательно примет решение переключить такую систему в автономный режим и обратно.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

В мозге двух пациентов с болезнью Альцгеймера обнаружили отложения меди и железа В мозге двух пациентов с болезнью Альцгеймера обнаружили отложения меди и железа

У двух пациентов с болезнью Альцгеймера обнаружили отложения металлов в мозге

N+1
Напуганные щитомордники с маленьким запасом яда не стали кусаться и сбежали Напуганные щитомордники с маленьким запасом яда не стали кусаться и сбежали

Китайские щитомордники чувствуют, сколько яда у них осталось

N+1
Как не стать жертвой террора и других бед во время отдыха Как не стать жертвой террора и других бед во время отдыха

Как избежать столкновения с террористами?

Cosmopolitan
Что смотреть: 10 сериалов, которые спасут от грусти Что смотреть: 10 сериалов, которые спасут от грусти

Смешные, трогательные и красивые сериалы, которые поднимут вам настроение

Cosmopolitan
8 (по)потрясных латиноамериканских песен 8 (по)потрясных латиноамериканских песен

Эти песни были посланы свыше, чтобы ты смог скоротать начало лета под них

Maxim
Секспросвет и наказание. Как россияне сегодня воспитывают своих детей и что об этом думают психологи Секспросвет и наказание. Как россияне сегодня воспитывают своих детей и что об этом думают психологи

Можно ли наказывать детей? И когда начинать говорить с ребенком о сексе?

СНОБ
Федор Федотов Федор Федотов

Федор Федотов, актер ТЮЗа и хоккеист, сыграл в драме «Серебряные коньки»

Собака.ru
Ученые, ставшие фантастами: Барбара Хэмбли и Аркади Мартин Ученые, ставшие фантастами: Барбара Хэмбли и Аркади Мартин

Писательницы-историки, использующие свои знания в фантастических романах

Популярная механика
Не надо работать в Goldman Sachs Не надо работать в Goldman Sachs

Эссе сооснователя Netflix Марка Рэндольфа

Inc.
Президент, живущий на широкую ногу: куда делись миллионы Байдена и почему он не сколотил капитал Президент, живущий на широкую ногу: куда делись миллионы Байдена и почему он не сколотил капитал

За четыре года до избрания президентом США Байден заработал больше $17 млн

Forbes
Чем грозит слабеющий гольфстрим? Чем грозит слабеющий гольфстрим?

Новые данные, уточняющие поведение Гольфстрима

Наука и жизнь
Первая в Антарктиде: почему в честь геолога Марии Кленовой назвали горы на Новой Земле Первая в Антарктиде: почему в честь геолога Марии Кленовой назвали горы на Новой Земле

Кленова стала первой женщиной в мире, возглавившей научную экспедицию

Forbes
До мурашек: лучшие экранизации «короля ужасов» Стивена Кинга До мурашек: лучшие экранизации «короля ужасов» Стивена Кинга

Стивен Кинг как никто умеет создавать напряжение и атмосферу страха

Cosmopolitan
Открытые фонды Открытые фонды

Мишель Нуссбаумер обставила индустриальный лофт антикварной мебелью

AD
Как сделать лицо чувственным: главные бьюти-секреты принцессы Дианы Как сделать лицо чувственным: главные бьюти-секреты принцессы Дианы

Принцесса Диана пользовалась секретами, которые помогали ей прекрасно выглядеть

Cosmopolitan
Как общаться с тем, кто не смотрит в глаза Как общаться с тем, кто не смотрит в глаза

Как быть, если наш визави упорно отводит взгляд?

Psychologies
Британцы раскритиковали за полноту… манекен Британцы раскритиковали за полноту… манекен

Фэтшейминг все еще остается частью культуры

Psychologies
Бежевый карандаш для идеальных стрелок и еще 9 полезных лайфхаков визажиста Бежевый карандаш для идеальных стрелок и еще 9 полезных лайфхаков визажиста

Лайфхаки от визажиста, о которых те еще не знаешь

Cosmopolitan
«Чувство юмора спасает нас во всем» «Чувство юмора спасает нас во всем»

Максим Лагашкин и Екатерина Стулова отмечают 25-ю годовщину со дня свадьбы

OK!
«Человек, который все делает сам, вряд ли может быть успешным»: карьерные советы главы BBDO Group в России «Человек, который все делает сам, вряд ли может быть успешным»: карьерные советы главы BBDO Group в России

Элла Стюарт: «Добиться успеха можно, только если любишь свою работу»

Forbes
Покрас Лампас —  о современной культуре, русском искусстве и NFT Покрас Лампас —  о современной культуре, русском искусстве и NFT

Самый обсуждаемый российский каллиграф Покрас Лампас

Esquire
10 правил: как похудеть незаметно 10 правил: как похудеть незаметно

Можно ли похудеть незаметно для себя?

Здоровье
Копировать и вставить Копировать и вставить

Как ученые пытаются создать искусственные человеческие органы

GQ
Гиганты в небе: 6 самых больших самолетов Гиганты в небе: 6 самых больших самолетов

Порождения человеческого разума, способные перевозить сотни тонн грузов

Вокруг света
Пепперштейн и Митта размышляют о сюрреализме, школьном рэпе и кефире Пепперштейн и Митта размышляют о сюрреализме, школьном рэпе и кефире

История про эксцентричного художника нашего времени Павла Пепперштейна

GQ
Советские фильмы о школе и школьниках: 7 интересных ностальгических картин Советские фильмы о школе и школьниках: 7 интересных ностальгических картин

Красные галстуки, полеты в космос и, конечно, первая любовь

Playboy
5 правил регулярного ухода за ногтями 5 правил регулярного ухода за ногтями

Какой именно систематический уход нужен для «красы ногтей»

Cosmopolitan
Как устроен бизнес хакеров-вымогателей Как устроен бизнес хакеров-вымогателей

Как организована киберпреступность и какие стратегии она использует?

Популярная механика
Продать за секунды: семь советов, как привлечь и удержать внимание современного потребителя Продать за секунды: семь советов, как привлечь и удержать внимание современного потребителя

Как сделать интернет-рекламу эффективнее?

Forbes
Еще 5 живописных заброшенных сооружений Еще 5 живописных заброшенных сооружений

Эти руины — своего рода памятники несбывшимся мечтам

Maxim
Открыть в приложении