Автономный режим боевых роботов может представлять опасность для человечества

ForbesHi-Tech

Бесчеловечное решение: как развитие боевых роботов достигло опасной черты

Олег Шакиров

Фото Mehmet Kaman / Anadolu Agency via Getty Images

В марте 2020 года в Ливии беспилотник без команды от человека выследил силы противника и нанес по ним удар. Инцидент, возможно, с первым известным случаем атаки ударного беспилотника без получения явного приказа от человека показывает опасность распространения автономных систем вооружений, считает консультант ПИР-центра Олег Шакиров.

В ходе военных действий в Ливии разыгрался сюжет из научной фантастики. Беспилотные летательные аппараты автономно, без команды от человека, действуя по заданной программе, выследили силы противника (подразделения, примкнувшие к командующему Ливийской национальной армии Халифе Хафтару) и нанесли по ним удар.

Это произошло еще в марте 2020 года, однако лишь спустя год об инциденте кратко написала группа экспертов ООН по Ливии — более чем в 500-страничном докладе нападению дронов уделено два предложения. В середине мая инцидент был кратко упомянут в статье правозащитной организации Human Rights Watch, затем в Бюллетене ученых-атомщиков и издании New Scientist. Благодаря публикации NY Post история наконец вышла к широкой аудитории.

Автономный режим

Внимание к, казалось бы, давнему и не имевшему видимых последствий событию легко объяснимо. Уже несколько десятилетий военные применяют ударные и разведывательные беспилотники, а также роботы, способные выполнять задачи на суше или в воде. Однако такая техника удаленно управляется человеком — в армии США дроны официально называются не беспилотными, а дистанционно пилотируемыми.

Автономные вооружения, в отличие от управляемых, действуют самостоятельно, без участия оператора. В худшем случае отсутствие человеческого контроля может привести к непредвиденным жертвам — на этой опасности делают акцент активисты, выступающие за запрет боевых роботов. Что именно может пойти не так, предсказать сложно, но вероятные сбои может представить любой, кто сталкивался с ошибками в работе сервисов на основе искусственного интеллекта, таких как интернет-поисковики, чат-боты или приложения для распознавания текста и изображений.

Примером вооружений, которые могут функционировать автономно при переключении в соответствующий режим, эксперты называют автоматическую туррель SGR-A1, разработанную компанией Samsung Techwin и используемую для охраны демилитаризованной зоны на Корейском полуострове. Сам производитель этого не признавал, утверждая, что для поражения целей необходимо участие человека. Автономный режим есть в системе противоракетной обороны «Иджис», размещаемой на американских кораблях, а также на военных базах в Европе. В этих случаях подразумевается, что оператор сознательно примет решение переключить такую систему в автономный режим и обратно.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как искупаться в проруби и не заболеть Как искупаться в проруби и не заболеть

Хочешь ты того или нет, но моржевание улучшает кровоснабжение внутренних органов

Maxim
Маша Белик Маша Белик

Дизайнер Маша Белик. Ее платья носят Юля Снигирь и Софья Эрнст

Собака.ru
Как удалить данные с потерянного смартфона (iPhone или на Android) Как удалить данные с потерянного смартфона (iPhone или на Android)

Как дистанционно удалить с телефона всю информацию

CHIP
Роботы с русской душой: как выпускник ВГИКа придумал сельский киберпанк, который оценил даже Дмитрий Рогозин Роботы с русской душой: как выпускник ВГИКа придумал сельский киберпанк, который оценил даже Дмитрий Рогозин

Русская деревня с роботами, кибердоярками и фрактальными огурцами на грядках

Inc.
Почему я купил Harvard Business Review Russia Почему я купил Harvard Business Review Russia

Чем Harvard Business Review будет заниматься в России

Forbes
Что такое фейсфитнес и почему его критикуют Что такое фейсфитнес и почему его критикуют

Рассказываем, как укрепить мышцы лица и сохранить упругую кожу

РБК
Русский из регионов: как в разных концах России появляются регионализмы Русский из регионов: как в разных концах России появляются регионализмы

Почему люди используют регионализмы и зачем нужно их изучать

РБК
Бьюти-ностальгия: 13 хитов советской косметики Бьюти-ностальгия: 13 хитов советской косметики

Все хиты советской косметики, которые сегодня кажутся настоящим ретро

Cosmopolitan
Оля Гинзбург Оля Гинзбург

Оля Гинзбург, дизайнер Ola Ola, делает коллаборации с художницей Данини

Собака.ru
Почему меня никто не любит? Почему меня никто не любит?

“Недо” – самая грустная приставка на свете

Cosmopolitan
«Слитая переписка стала ударом для Оли»: отрывок из книги пиар-агента Бузовой «Слитая переписка стала ударом для Оли»: отрывок из книги пиар-агента Бузовой

Отрывок из книги Антона Богославского «Больше чем пиар. Как создать звезду»

Cosmopolitan
Самца серого кита заподозрили в рекордном путешествии длиной 27 тысяч километров Самца серого кита заподозрили в рекордном путешествии длиной 27 тысяч километров

Серый кит проделал путь с севера Тихого океана до побережья Намибии

N+1
Ученые установили, что интеллект зависит от размера зрачка Ученые установили, что интеллект зависит от размера зрачка

Различие в размере зрачков у недалеких и умных людей видно невооруженным глазом!

Maxim
Ископаемого «хозяина реки» назвали крупнейшим крокодилом Австралии Ископаемого «хозяина реки» назвали крупнейшим крокодилом Австралии

Первый гавиаловый крокодил из Австралии

N+1
Новый квантовый микроскоп позволяет увидеть то, что нельзя было увидеть Новый квантовый микроскоп позволяет увидеть то, что нельзя было увидеть

Ученые создали квантовый микроскоп для наблюдения за биологическими структурами

National Geographic
Новозеландский попугай стал жить в горах, чтобы избежать людей Новозеландский попугай стал жить в горах, чтобы избежать людей

Люди истребляли этих птиц целое столетие и вынудили их сменить ареал обитания

National Geographic
Стать эгоисткой, чтобы... спасти отношения Стать эгоисткой, чтобы... спасти отношения

Психолог: как здоровый эгоизм и любовь к себе помогут жить счастливее

Psychologies
На космических задворках: есть ли жизнь на краю Галактики На космических задворках: есть ли жизнь на краю Галактики

Жизнь способна зародиться почти в любой точке Галактики

Forbes
«В чем сила, брат?»: за что мы всегда будем любить Данилу Багрова «В чем сила, брат?»: за что мы всегда будем любить Данилу Багрова

Почему фильмы «Брат» и «Брат-2» не теряют своей актуальности и сегодня?

Psychologies
Новая жизнь за партой Новая жизнь за партой

Рынок дополнительного образования для взрослых переживает подъем

Эксперт
Редкий, яркий и скрытный: кто такой зеленый голубь Редкий, яркий и скрытный: кто такой зеленый голубь

Голубь с необычной зеленой окраской, занесенный в Красную книгу

Вокруг света
Встать на тропу. Открываем Россию Встать на тропу. Открываем Россию

Восемь российских экомаршрутов, ведущих вверх, вглубь и в лесную чащу

National Geographic Traveler
«Дочь закрыла руками голову и лицо»: почему родители отказываются от шлепков «Дочь закрыла руками голову и лицо»: почему родители отказываются от шлепков

Почему родители в России готовы бить своих детей и к чему это приводит

Cosmopolitan
«Нужно менять культуру секса, а не рассказывать, как правильно стимулировать клитор» «Нужно менять культуру секса, а не рассказывать, как правильно стимулировать клитор»

Сексолог Наталья Фомичева — о разнице между сексом у мужчин и женщин

Reminder
Фанаты. Во имя розы Фанаты. Во имя розы

На Британских островах футбол всегда был неразрывно связан с насилием

Esquire
Колористика для стиляг: основные правила комбинирования цветов в гардеробе Колористика для стиляг: основные правила комбинирования цветов в гардеробе

Пора решить вопрос с комбинированием цветов раз и навсегда

Playboy
Чем бизнесу грозит утечка пользовательских данных и как себя от этого обезопасить Чем бизнесу грозит утечка пользовательских данных и как себя от этого обезопасить

С ростом количества персональной информации в онлайне растет и угроза ее утечки

Inc.
«Локдаун встряхнул»: почему растут цены на загородную недвижимость и что будет дальше «Локдаун встряхнул»: почему растут цены на загородную недвижимость и что будет дальше

Впервые с 2014 года застройщики начинают строить новые коттеджные поселки

Forbes
Как общаться с тем, кто не смотрит в глаза Как общаться с тем, кто не смотрит в глаза

Как быть, если наш визави упорно отводит взгляд?

Psychologies
7 мифов о фруктах 7 мифов о фруктах

Лето – время фруктов, поэтому будет не лишним развеять некоторые фруктовые мифы

Худеем правильно
Открыть в приложении