Автономный режим боевых роботов может представлять опасность для человечества

ForbesHi-Tech

Бесчеловечное решение: как развитие боевых роботов достигло опасной черты

Олег Шакиров

Фото Mehmet Kaman / Anadolu Agency via Getty Images

В марте 2020 года в Ливии беспилотник без команды от человека выследил силы противника и нанес по ним удар. Инцидент, возможно, с первым известным случаем атаки ударного беспилотника без получения явного приказа от человека показывает опасность распространения автономных систем вооружений, считает консультант ПИР-центра Олег Шакиров.

В ходе военных действий в Ливии разыгрался сюжет из научной фантастики. Беспилотные летательные аппараты автономно, без команды от человека, действуя по заданной программе, выследили силы противника (подразделения, примкнувшие к командующему Ливийской национальной армии Халифе Хафтару) и нанесли по ним удар.

Это произошло еще в марте 2020 года, однако лишь спустя год об инциденте кратко написала группа экспертов ООН по Ливии — более чем в 500-страничном докладе нападению дронов уделено два предложения. В середине мая инцидент был кратко упомянут в статье правозащитной организации Human Rights Watch, затем в Бюллетене ученых-атомщиков и издании New Scientist. Благодаря публикации NY Post история наконец вышла к широкой аудитории.

Автономный режим

Внимание к, казалось бы, давнему и не имевшему видимых последствий событию легко объяснимо. Уже несколько десятилетий военные применяют ударные и разведывательные беспилотники, а также роботы, способные выполнять задачи на суше или в воде. Однако такая техника удаленно управляется человеком — в армии США дроны официально называются не беспилотными, а дистанционно пилотируемыми.

Автономные вооружения, в отличие от управляемых, действуют самостоятельно, без участия оператора. В худшем случае отсутствие человеческого контроля может привести к непредвиденным жертвам — на этой опасности делают акцент активисты, выступающие за запрет боевых роботов. Что именно может пойти не так, предсказать сложно, но вероятные сбои может представить любой, кто сталкивался с ошибками в работе сервисов на основе искусственного интеллекта, таких как интернет-поисковики, чат-боты или приложения для распознавания текста и изображений.

Примером вооружений, которые могут функционировать автономно при переключении в соответствующий режим, эксперты называют автоматическую туррель SGR-A1, разработанную компанией Samsung Techwin и используемую для охраны демилитаризованной зоны на Корейском полуострове. Сам производитель этого не признавал, утверждая, что для поражения целей необходимо участие человека. Автономный режим есть в системе противоракетной обороны «Иджис», размещаемой на американских кораблях, а также на военных базах в Европе. В этих случаях подразумевается, что оператор сознательно примет решение переключить такую систему в автономный режим и обратно.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Странное поведение истребителя F-35: почему пилотам становится плохо? Странное поведение истребителя F-35: почему пилотам становится плохо?

Необъяснимые случаи ухудшения самочувствия пилотов в ходе испытаний F-35

Популярная механика
Одна вокруг света: киты, кайтсерфинг и посылка из России Одна вокруг света: киты, кайтсерфинг и посылка из России

124-я серия о кругосветном путешествии москвички Ирины Сидоренко: Мексика

Forbes
Непревзойденные асы: как живут и охотятся стрекозы Непревзойденные асы: как живут и охотятся стрекозы

Это не миражи и не призраки, а стремительные и ловкие охотники из мира насекомых

Вокруг света
Первая в Антарктиде: почему в честь геолога Марии Кленовой назвали горы на Новой Земле Первая в Антарктиде: почему в честь геолога Марии Кленовой назвали горы на Новой Земле

Кленова стала первой женщиной в мире, возглавившей научную экспедицию

Forbes
История одной фотографии: моряк целует медсестру на Таймс-сквер История одной фотографии: моряк целует медсестру на Таймс-сквер

Кто были те люди, которые попали на легендарную фотографию Альфреда Эйзенштадта

Maxim
Особенности нашей памяти: можем ли мы доверять себе Особенности нашей памяти: можем ли мы доверять себе

Насколько наша память способна исказить реальность?

Популярная механика
То самое белое платье, бикини и мешок из-под картошки: 10 самых знаковых модных моментов Мэрилин Монро То самое белое платье, бикини и мешок из-под картошки: 10 самых знаковых модных моментов Мэрилин Монро

Мэрилин Монро не только великая актриса, но и икона стиля

Esquire
Как падение биткоина обрушило доходность криптоферм и чего ждать дальше Как падение биткоина обрушило доходность криптоферм и чего ждать дальше

К чему приведет падение стоимости криптовалют

Forbes
7 актеров, которые перекачались для своих ролей 7 актеров, которые перекачались для своих ролей

На зависть Александру «Невскому» Курицыну

Maxim
5 книг для интровертов, которые хотят преуспеть в жизни 5 книг для интровертов, которые хотят преуспеть в жизни

Правда ли, что интровертам путь в успешную жизнь закрыт?

Популярная механика
Алина Фаркаш о том, почему можно и нужно менять свои принципы Алина Фаркаш о том, почему можно и нужно менять свои принципы

Не нужно бояться изменить свое мнение по тому или иному вопросу

Cosmopolitan
5 мифов о кондиционерах, которым не стоит верить 5 мифов о кондиционерах, которым не стоит верить

Популярные заблуждения о кондиционерах и их вреде

CHIP
Не идеальная, а счастливая: как не выгореть, стараясь быть хорошей матерью Не идеальная, а счастливая: как не выгореть, стараясь быть хорошей матерью

Сегодня сложно быть мамой, не пытаясь соответствовать высоким стандартам

Psychologies
Как не допустить солнечный удар. Советы врача Как не допустить солнечный удар. Советы врача

Важно понимать разницу между тепловым и солнечным ударом

РБК
Азарт и блокчейн: как беспроигрышная криптолотерея привлекла $200 млн и оказалась лотереей для одного победителя Азарт и блокчейн: как беспроигрышная криптолотерея привлекла $200 млн и оказалась лотереей для одного победителя

Как устроена криптовалютная беспроигрышная лотерея?

Forbes
Бьюти-ностальгия: 13 хитов советской косметики Бьюти-ностальгия: 13 хитов советской косметики

Все хиты советской косметики, которые сегодня кажутся настоящим ретро

Cosmopolitan
От приложения до электронной коммерции: Топ-5 сфер применения языка PHP От приложения до электронной коммерции: Топ-5 сфер применения языка PHP

Несколько вдохновляющих примеров того, что можно делать с помощью языка PHP

Популярная механика
Шум моторных лодок заглушил любовные песни рыб-жаб Шум моторных лодок заглушил любовные песни рыб-жаб

Шумовое загрязнение нарушает коммуникацию этих рыб

N+1
Times Square-то тикает, или почему так мало женщин-музыкантов Times Square-то тикает, или почему так мало женщин-музыкантов

В музыкальном мире соотношение мужчин и женщин составляет 80% против 20%

ЖАРА Magazine

Как понять, что человек, находящийся рядом с тобой, опасен?

Cosmopolitan
Как быть романтичным с девушкой: 29 милых идей на каждый день Как быть романтичным с девушкой: 29 милых идей на каждый день

Кто такой романтик и как им стать?

Playboy
Гремучая смесь: самое удивительное животное Австралии Гремучая смесь: самое удивительное животное Австралии

Млекопитающее, птица или рептилия?

Вокруг света
В шаге от пропасти В шаге от пропасти

Подростковая агрессивность: причины, последствия, предотвращение

Лиза
Мире — мир Мире — мир

Алексей Миранчук примерил на себя стиль итальянских фанатов панинаро

Esquire
Как почистить динамик телефона: практические советы Как почистить динамик телефона: практические советы

Советы по очистке динамика телефона от пыли и грязи

CHIP
Одеться в космос Одеться в космос

Рассказываем, какую одежду носят космонавты

N+1
Дайсон против Дайсона Дайсон против Дайсона

Как работает сфера Дайсона

Наука и жизнь
«Локдаун встряхнул»: почему растут цены на загородную недвижимость и что будет дальше «Локдаун встряхнул»: почему растут цены на загородную недвижимость и что будет дальше

Впервые с 2014 года застройщики начинают строить новые коттеджные поселки

Forbes
Курс на Восток. С чего начать знакомство с восточной культурой Курс на Восток. С чего начать знакомство с восточной культурой

Всё, что нужно знать о современной восточной культуре

СНОБ
Он тебя точно простит: как мириться с разными знаками зодиака Он тебя точно простит: как мириться с разными знаками зодиака

Неважно, что именно ты сделала не так, важно знать, как теперь загладить вину

Cosmopolitan
Открыть в приложении