Автономный режим боевых роботов может представлять опасность для человечества

ForbesHi-Tech

Бесчеловечное решение: как развитие боевых роботов достигло опасной черты

Олег Шакиров

Фото Mehmet Kaman / Anadolu Agency via Getty Images

В марте 2020 года в Ливии беспилотник без команды от человека выследил силы противника и нанес по ним удар. Инцидент, возможно, с первым известным случаем атаки ударного беспилотника без получения явного приказа от человека показывает опасность распространения автономных систем вооружений, считает консультант ПИР-центра Олег Шакиров.

В ходе военных действий в Ливии разыгрался сюжет из научной фантастики. Беспилотные летательные аппараты автономно, без команды от человека, действуя по заданной программе, выследили силы противника (подразделения, примкнувшие к командующему Ливийской национальной армии Халифе Хафтару) и нанесли по ним удар.

Это произошло еще в марте 2020 года, однако лишь спустя год об инциденте кратко написала группа экспертов ООН по Ливии — более чем в 500-страничном докладе нападению дронов уделено два предложения. В середине мая инцидент был кратко упомянут в статье правозащитной организации Human Rights Watch, затем в Бюллетене ученых-атомщиков и издании New Scientist. Благодаря публикации NY Post история наконец вышла к широкой аудитории.

Автономный режим

Внимание к, казалось бы, давнему и не имевшему видимых последствий событию легко объяснимо. Уже несколько десятилетий военные применяют ударные и разведывательные беспилотники, а также роботы, способные выполнять задачи на суше или в воде. Однако такая техника удаленно управляется человеком — в армии США дроны официально называются не беспилотными, а дистанционно пилотируемыми.

Автономные вооружения, в отличие от управляемых, действуют самостоятельно, без участия оператора. В худшем случае отсутствие человеческого контроля может привести к непредвиденным жертвам — на этой опасности делают акцент активисты, выступающие за запрет боевых роботов. Что именно может пойти не так, предсказать сложно, но вероятные сбои может представить любой, кто сталкивался с ошибками в работе сервисов на основе искусственного интеллекта, таких как интернет-поисковики, чат-боты или приложения для распознавания текста и изображений.

Примером вооружений, которые могут функционировать автономно при переключении в соответствующий режим, эксперты называют автоматическую туррель SGR-A1, разработанную компанией Samsung Techwin и используемую для охраны демилитаризованной зоны на Корейском полуострове. Сам производитель этого не признавал, утверждая, что для поражения целей необходимо участие человека. Автономный режим есть в системе противоракетной обороны «Иджис», размещаемой на американских кораблях, а также на военных базах в Европе. В этих случаях подразумевается, что оператор сознательно примет решение переключить такую систему в автономный режим и обратно.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Форматы книг в зеркале живописи Форматы книг в зеркале живописи

Какие книги читали в разные времена представители разных сословий

Наука и жизнь
Вспомнить всё Вспомнить всё

О чем мечтали в детстве звезды российской футбольной сборной?

Men’s Health
Виртуальный секс: замена реальному или приятный бонус для двоих? Виртуальный секс: замена реальному или приятный бонус для двоих?

Чем именно хорош «вирт» и почему не стоит от него отказываться?

Psychologies
«Есть стереотип, что надо выпить, чтобы спеть»: зачем предприниматель вложил $1,5 млн в кабинки для караоке в России «Есть стереотип, что надо выпить, чтобы спеть»: зачем предприниматель вложил $1,5 млн в кабинки для караоке в России

Армен Погосян и его Bellis Karaoke Box производит караоке-боксы

VC.RU
Как деликатно намекнуть девушке на секс: 8 идей, помогающих избежать неловкости Как деликатно намекнуть девушке на секс: 8 идей, помогающих избежать неловкости

Как экологично завести разговор об интиме с потенциальной партнершей?

Playboy
Как бороться с морщинами на лице без хирургического вмешательства Как бороться с морщинами на лице без хирургического вмешательства

Эти простые способы помогут приостановить ранее старение в домашних условиях

Cosmopolitan
17 мужских привычек, вызывающих тревогу за его здоровье 17 мужских привычек, вызывающих тревогу за его здоровье

Почему же нас так тревожат его «маленькие слабости»?

Cosmopolitan
Паукообразные дракулы: как живут одни из самых опасных животных России и можно ли от них спастись Паукообразные дракулы: как живут одни из самых опасных животных России и можно ли от них спастись

Вероятность нападения клеща в теплый сезон выше, чем шанс встретиться с медведем

Вокруг света
Охотничий дротик на Юконе 6000 лет назад склеили бобровой струей Охотничий дротик на Юконе 6000 лет назад склеили бобровой струей

На растаявшем леднике в Канаде нашли дротик со следами кастореума

N+1
3 мифа об охлаждении ноутбуков, в которые пора перестать верить 3 мифа об охлаждении ноутбуков, в которые пора перестать верить

Помогают ли охлаждающие подставки? Каким слоем нужно наносить термопасту?

CHIP
Как выглядят жены звездных стендаперов: Абрамова, Щербакова, Романова и других Как выглядят жены звездных стендаперов: Абрамова, Щербакова, Романова и других

Как выглядят супруги популярных российских стендаперов

Cosmopolitan
Добрые «ястребы» из Федрезерва: почему растущая инфляция не пугает ФРС Добрые «ястребы» из Федрезерва: почему растущая инфляция не пугает ФРС

ФРС показала «полуястребиный» настрой

Forbes
Альбина Джанабаева: Альбина Джанабаева:

Откровенное интервью с Альбиной Джанабаевой

Караван историй
Руководство биохакера: как правильный свет помогает обрести сверхчеловеческие способности Руководство биохакера: как правильный свет помогает обрести сверхчеловеческие способности

Отрывок из книги биохакера Дэйва Эспри о том, как освещение продляет жизнь

Forbes
7 вещей, которые мы бы хотели изменить в девушках 7 вещей, которые мы бы хотели изменить в девушках

В девушках все же есть черты, которые мы не против усовершенствовать

Maxim
Что говорит о тебе твое рукопожатие Что говорит о тебе твое рукопожатие

Ученые поговорили с мужскими рукопожатиями и выделили пять их типов

Maxim
Десятки видов клещей, тысячи видов микробов: чем опасна домашняя пыль Десятки видов клещей, тысячи видов микробов: чем опасна домашняя пыль

Чем опасна пыль

Cosmopolitan
Как правильно загорать в солярии: 7 советов от врача Как правильно загорать в солярии: 7 советов от врача

Как загореть в солярии и не навредить себе

Cosmopolitan
Каньоны под толщей льда, оттаявшие острова и другие географические открытия XXI века Каньоны под толщей льда, оттаявшие острова и другие географические открытия XXI века

Географические открытия XXI века существуют, но за ними придется спуститься

Вокруг света
Слушать кино: плей-лист режиссера и сценариста фильма «Маша» Анастасии Пальчиковой Слушать кино: плей-лист режиссера и сценариста фильма «Маша» Анастасии Пальчиковой

Автор фильма «Маша» Анастасия Пальчикова рассказывает о своей любимой музыке

Esquire
Кросс-платформенная разработка мобильных приложений: в чем плюсы для бизнеса Кросс-платформенная разработка мобильных приложений: в чем плюсы для бизнеса

Преимущества работы с кросс-платформенными технологиями

Популярная механика
Годы не помеха! Кто навязывает возрастные ограничения в стиле и как с этим жить Годы не помеха! Кто навязывает возрастные ограничения в стиле и как с этим жить

Кто внушает нам, что после определенного возраста нужно начинать одеваться иначе

Cosmopolitan
От сока в багажнике до рояля в салоне: история создателей шоу-тюнинга West Coast Customs, героев «Тачки на прокачку» От сока в багажнике до рояля в салоне: история создателей шоу-тюнинга West Coast Customs, героев «Тачки на прокачку»

Эта автомастерская с Xzibit стала одной из самых популярных на ТВ в 2000-х

VC.RU
Кража века Кража века

Кража раритетов из дрезденской сокровищницы взбудоражила всю Германию

Караван историй
Домашняя работа: как стартап бывшего топ-менеджера Microsoft зарабатывает на покупке жилья за наличные Домашняя работа: как стартап бывшего топ-менеджера Microsoft зарабатывает на покупке жилья за наличные

В чем особенность Flyhomes и как он зарабатывает на рынке недвижимости?

Forbes
Mary Gu Mary Gu

Блиц-вопросы певице и блогеру Mary Gu

ЖАРА Magazine
Сергей Бугаев. Африка советского рока Сергей Бугаев. Африка советского рока

Сергей Бугаев — о своем детстве и группе «Поп-механика»

Коллекция. Караван историй
На всю спину и как у Гарри Поттера: какие шрамы есть у членов королевской семьи На всю спину и как у Гарри Поттера: какие шрамы есть у членов королевской семьи

Откуда у родственников королевы и у нее самой появились шрамы

Cosmopolitan
«Ёбидоёби» и «Страшный сон вегана». Как живется адептам хулиганского нейминга «Ёбидоёби» и «Страшный сон вегана». Как живется адептам хулиганского нейминга

Почему компании выбирают нестандартный нейминг и как реагируют клиенты?

Inc.
Берег мечты Берег мечты

Из нью-йоркской квартиры в дом у самого океана

AD
Открыть в приложении