Автономный режим боевых роботов может представлять опасность для человечества

ForbesHi-Tech

Бесчеловечное решение: как развитие боевых роботов достигло опасной черты

Олег Шакиров

Фото Mehmet Kaman / Anadolu Agency via Getty Images

В марте 2020 года в Ливии беспилотник без команды от человека выследил силы противника и нанес по ним удар. Инцидент, возможно, с первым известным случаем атаки ударного беспилотника без получения явного приказа от человека показывает опасность распространения автономных систем вооружений, считает консультант ПИР-центра Олег Шакиров.

В ходе военных действий в Ливии разыгрался сюжет из научной фантастики. Беспилотные летательные аппараты автономно, без команды от человека, действуя по заданной программе, выследили силы противника (подразделения, примкнувшие к командующему Ливийской национальной армии Халифе Хафтару) и нанесли по ним удар.

Это произошло еще в марте 2020 года, однако лишь спустя год об инциденте кратко написала группа экспертов ООН по Ливии — более чем в 500-страничном докладе нападению дронов уделено два предложения. В середине мая инцидент был кратко упомянут в статье правозащитной организации Human Rights Watch, затем в Бюллетене ученых-атомщиков и издании New Scientist. Благодаря публикации NY Post история наконец вышла к широкой аудитории.

Автономный режим

Внимание к, казалось бы, давнему и не имевшему видимых последствий событию легко объяснимо. Уже несколько десятилетий военные применяют ударные и разведывательные беспилотники, а также роботы, способные выполнять задачи на суше или в воде. Однако такая техника удаленно управляется человеком — в армии США дроны официально называются не беспилотными, а дистанционно пилотируемыми.

Автономные вооружения, в отличие от управляемых, действуют самостоятельно, без участия оператора. В худшем случае отсутствие человеческого контроля может привести к непредвиденным жертвам — на этой опасности делают акцент активисты, выступающие за запрет боевых роботов. Что именно может пойти не так, предсказать сложно, но вероятные сбои может представить любой, кто сталкивался с ошибками в работе сервисов на основе искусственного интеллекта, таких как интернет-поисковики, чат-боты или приложения для распознавания текста и изображений.

Примером вооружений, которые могут функционировать автономно при переключении в соответствующий режим, эксперты называют автоматическую туррель SGR-A1, разработанную компанией Samsung Techwin и используемую для охраны демилитаризованной зоны на Корейском полуострове. Сам производитель этого не признавал, утверждая, что для поражения целей необходимо участие человека. Автономный режим есть в системе противоракетной обороны «Иджис», размещаемой на американских кораблях, а также на военных базах в Европе. В этих случаях подразумевается, что оператор сознательно примет решение переключить такую систему в автономный режим и обратно.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

2010-е: архивация 2010-е: архивация

Знаковые вещи, определившие облик эпохи 2010–2020 годов, уходят со сцены

Maxim
Булочки Cinnabon как пример сокращения рисков и можно ли накопить на отпуск, если вы не готовы рисковать Булочки Cinnabon как пример сокращения рисков и можно ли накопить на отпуск, если вы не готовы рисковать

Отрывок из книги Эллисон Шрагер «Заходит экономист в публичный дом»

Inc.
В Русь ворвусь В Русь ворвусь

Гранд-вояж в красивый русский город — новый жанр светской жизни

Tatler
Победительница шоу «Ты топ-модель»:«У нас была честная конкуренция, без козней» Победительница шоу «Ты топ-модель»:«У нас была честная конкуренция, без козней»

Победительница шоу «Ты топ-модель на ТНТ» Тина Тоева — о проекте и планах

Cosmopolitan
Археологи осветили пещеру палеолитическими методами Археологи осветили пещеру палеолитическими методами

Ученые установили основные источники света, которые использовали люди палеолита

N+1
Ни слова про Арбузы: путешествие в Астрахань Ни слова про Арбузы: путешествие в Астрахань

В Астрахань хорошо приезжать на несколько дней, чтобы увидеть все чудеса света

Seasons of life
Бомбически рекомендую: музыкант Дмитрий Спирин советует понравившиеся фильмы, музыку и книги Бомбически рекомендую: музыкант Дмитрий Спирин советует понравившиеся фильмы, музыку и книги

Дмитрий Спирин рассказывает о том, что произвело на него впечатление

Maxim
Как я подрабатывала гейшей в Японии Как я подрабатывала гейшей в Японии

Отрывок из книги Марины Чижовой «Дневник современной гейши»

Psychologies
«Жизнь сложнее таблички в Excel»: в чём суть движения FIRE и можно ли в России выйти на пенсию в 35 лет «Жизнь сложнее таблички в Excel»: в чём суть движения FIRE и можно ли в России выйти на пенсию в 35 лет

Как работает стратегия финансовой независимости и раннего выхода на пенсию

VC.RU
Экологичный растворитель поможет переработать литий-ионные аккумуляторы Экологичный растворитель поможет переработать литий-ионные аккумуляторы

Экологичный растворитель поможет регенирировать катодный материал

N+1
В руинах поселения V тысячелетия до нашей эры нашли один из древнейших храмов Ирана В руинах поселения V тысячелетия до нашей эры нашли один из древнейших храмов Ирана

Археологи нашли в Иране культовый центр эпохи энеолита

N+1
«Я не хочу ничего решать» — губительная позиция, считает Михаил Лабковский «Я не хочу ничего решать» — губительная позиция, считает Михаил Лабковский

«Я не хочу ничего решать» — позиция истеричных и инфантильных людей

Cosmopolitan
«Три ребенка - это перебор!»: забавные фразы Кейт Миддлтон и Уильяма о детях «Три ребенка - это перебор!»: забавные фразы Кейт Миддлтон и Уильяма о детях

Родители королевских детей говорят о них так, что невозможно не улыбнуться

Cosmopolitan
7 странных законов со всего мира 7 странных законов со всего мира

Странные, но полезные законы в разных государствах мира

Maxim
Петр и Феврония: вместе несмотря ни на что Петр и Феврония: вместе несмотря ни на что

Петр и Феврония — святые покровители брака

Psychologies
Как вырастить мальчика, который не побоится быть уязвимым (и зачем ему это) Как вырастить мальчика, который не побоится быть уязвимым (и зачем ему это)

Что могут сделать родители, чтобы их сын не боялся быть искренним и уязвимым?

Psychologies
Одна вокруг света: забастовка на дороге и самое толстое дерево в мире Одна вокруг света: забастовка на дороге и самое толстое дерево в мире

123-я серия о кругосветном путешествии москвички Ирины Сидоренко, Мексика

Forbes
«Дочь закрыла руками голову и лицо»: почему родители отказываются от шлепков «Дочь закрыла руками голову и лицо»: почему родители отказываются от шлепков

Почему родители в России готовы бить своих детей и к чему это приводит

Cosmopolitan
Как понять, что вы действительно простили измену Как понять, что вы действительно простили измену

Психолог: как происходит процесс прощения и как понять, что вы простили измену

Psychologies
Пейзажи пустоты Пейзажи пустоты

Анна Толстова об Александре Гронском и недоверии ко времени и месту

Weekend
Новый король ринга: как Тони Хан покончил с монополией в рестлинге Новый король ринга: как Тони Хан покончил с монополией в рестлинге

Тони Хан создал реальную угрозу для WWE Винса Макмэна

Forbes
30 вещей, которые нужно перестать делать к 30 годам 30 вещей, которые нужно перестать делать к 30 годам

Некоторые привычки после 30 тебе уже не понадобятся

Cosmopolitan
Любящие мамы и милые леди: какими выросли красавицы-внучки Елизаветы II Любящие мамы и милые леди: какими выросли красавицы-внучки Елизаветы II

Наследники британской короны стали счастливыми родителями.

Cosmopolitan
Правила жизни Кирилла Серебренникова Правила жизни Кирилла Серебренникова

Правила жизни режиссера Кирилла Серебренникова

Esquire
Джоли или Монро? На кого из звезд – типичных Близнецов ты похожа Джоли или Монро? На кого из звезд – типичных Близнецов ты похожа

Нужно ли быть Близнецами, чтобы добиться большего успеха, чем все остальные?

Cosmopolitan
Мужской взгляд на короткую стрижку Мужской взгляд на короткую стрижку

Что думает он — длинные или короткие волосы для девушки лучше?

Cosmopolitan
Парадокс красного неба объяснили дефицитом подходящих планет и звезд Парадокс красного неба объяснили дефицитом подходящих планет и звезд

Почему Солнце не является красным карликом?

N+1
Космополит от выпечки: краткая история пончика Космополит от выпечки: краткая история пончика

Путешествие по истории одного из самых космополитичных десертов – пончика

Вокруг света
Федор Федотов Федор Федотов

Федор Федотов, актер ТЮЗа и хоккеист, сыграл в драме «Серебряные коньки»

Собака.ru
Домашняя работа: как стартап бывшего топ-менеджера Microsoft зарабатывает на покупке жилья за наличные Домашняя работа: как стартап бывшего топ-менеджера Microsoft зарабатывает на покупке жилья за наличные

В чем особенность Flyhomes и как он зарабатывает на рынке недвижимости?

Forbes
Открыть в приложении