Автономный режим боевых роботов может представлять опасность для человечества

ForbesHi-Tech

Бесчеловечное решение: как развитие боевых роботов достигло опасной черты

Олег Шакиров

Фото Mehmet Kaman / Anadolu Agency via Getty Images

В марте 2020 года в Ливии беспилотник без команды от человека выследил силы противника и нанес по ним удар. Инцидент, возможно, с первым известным случаем атаки ударного беспилотника без получения явного приказа от человека показывает опасность распространения автономных систем вооружений, считает консультант ПИР-центра Олег Шакиров.

В ходе военных действий в Ливии разыгрался сюжет из научной фантастики. Беспилотные летательные аппараты автономно, без команды от человека, действуя по заданной программе, выследили силы противника (подразделения, примкнувшие к командующему Ливийской национальной армии Халифе Хафтару) и нанесли по ним удар.

Это произошло еще в марте 2020 года, однако лишь спустя год об инциденте кратко написала группа экспертов ООН по Ливии — более чем в 500-страничном докладе нападению дронов уделено два предложения. В середине мая инцидент был кратко упомянут в статье правозащитной организации Human Rights Watch, затем в Бюллетене ученых-атомщиков и издании New Scientist. Благодаря публикации NY Post история наконец вышла к широкой аудитории.

Автономный режим

Внимание к, казалось бы, давнему и не имевшему видимых последствий событию легко объяснимо. Уже несколько десятилетий военные применяют ударные и разведывательные беспилотники, а также роботы, способные выполнять задачи на суше или в воде. Однако такая техника удаленно управляется человеком — в армии США дроны официально называются не беспилотными, а дистанционно пилотируемыми.

Автономные вооружения, в отличие от управляемых, действуют самостоятельно, без участия оператора. В худшем случае отсутствие человеческого контроля может привести к непредвиденным жертвам — на этой опасности делают акцент активисты, выступающие за запрет боевых роботов. Что именно может пойти не так, предсказать сложно, но вероятные сбои может представить любой, кто сталкивался с ошибками в работе сервисов на основе искусственного интеллекта, таких как интернет-поисковики, чат-боты или приложения для распознавания текста и изображений.

Примером вооружений, которые могут функционировать автономно при переключении в соответствующий режим, эксперты называют автоматическую туррель SGR-A1, разработанную компанией Samsung Techwin и используемую для охраны демилитаризованной зоны на Корейском полуострове. Сам производитель этого не признавал, утверждая, что для поражения целей необходимо участие человека. Автономный режим есть в системе противоракетной обороны «Иджис», размещаемой на американских кораблях, а также на военных базах в Европе. В этих случаях подразумевается, что оператор сознательно примет решение переключить такую систему в автономный режим и обратно.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Бессмысленные споры в интернете вредят нашему здоровью Бессмысленные споры в интернете вредят нашему здоровью

Так ли безобидно увлечение интернет-полемикой?

Psychologies
Онлайн-мероприятие как распределённая система: как качественно провести конференцию в интернете Онлайн-мероприятие как распределённая система: как качественно провести конференцию в интернете

Как сделать, чтобы онлайн-конференция работала хорошо?

Популярная механика
«Моцарт видит меня именно таким, какой я есть на самом деле» «Моцарт видит меня именно таким, какой я есть на самом деле»

Музыкант Алексей Воробьёв и его корги Моцарт

OK!
Два рассказа о чертовой силе чтения Два рассказа о чертовой силе чтения

Два рассказа о чертовой силе чтения

Esquire
Бежевый карандаш для идеальных стрелок и еще 9 полезных лайфхаков визажиста Бежевый карандаш для идеальных стрелок и еще 9 полезных лайфхаков визажиста

Лайфхаки от визажиста, о которых те еще не знаешь

Cosmopolitan
План Б: ответы на главные вопросы о мерах экстренной контрацепции План Б: ответы на главные вопросы о мерах экстренной контрацепции

Говорим о той самой «таблетке завтрашнего дня»

Playboy
Жена после развода сразу нашла другого: что делать и каких ошибок избегать Жена после развода сразу нашла другого: что делать и каких ошибок избегать

Как быть, если у твоей бывшей появился кто-то другой

Playboy
20 самых высокооплачиваемых профессий с низким уровнем стресса 20 самых высокооплачиваемых профессий с низким уровнем стресса

Перспективные профессии с низким уровнем стресса

Inc.
Верхние слои атмосферы Венеры признали непригодными для земных экстремофилов Верхние слои атмосферы Венеры признали непригодными для земных экстремофилов

Даже в верхних слоях атмосферы Венеры жизнь земного типа не сможет выжить

N+1
10 сериалов с крутыми парнями 10 сериалов с крутыми парнями

Сериалы, главные герои которых — отличные парни

Cosmopolitan
ATLAS измерил поляризацию одиночных топ-кварков и антикварков ATLAS измерил поляризацию одиночных топ-кварков и антикварков

Физики провели на Большом андронном коллайдере эксперимент над кварками

N+1
10 толстых романов, на которые можно потратить летние вечера и не пожалеть 10 толстых романов, на которые можно потратить летние вечера и не пожалеть

10 толстых романов — от безусловной классики до самых интересных новинок

Esquire
404 ZERO 404 ZERO

Медиахудожники Александр Лециус и Кристина Карпышева

Собака.ru
Жарим правильно: 5 правил идеального сочного стейка своими руками от шеф-повара Жарим правильно: 5 правил идеального сочного стейка своими руками от шеф-повара

Советы от шефа и тот самый рецепт, который может стать твоим фирменным

Playboy
10 самых запоминающихся моментов за всю историю «Премии МУЗ-ТВ» 10 самых запоминающихся моментов за всю историю «Премии МУЗ-ТВ»

Самые казусные и скандальные ситуации на «Премии МУЗ-ТВ»

Cosmopolitan
Олеся Рудакова. Мама Олеся Рудакова. Мама

Дочь Нины Руслановой: «Мама не могла ни говорить, ни писать, но мы не сдавались»

Коллекция. Караван историй
Миллион долларов в месяц: на что тратит деньги Павел Дуров Миллион долларов в месяц: на что тратит деньги Павел Дуров

Павел Дуров — один из самых таинственных миллиардеров из России

РБК
Построили бизнес на «сброшенных» вызовах: история индийского телефонного сервиса ZipDial Построили бизнес на «сброшенных» вызовах: история индийского телефонного сервиса ZipDial

Как привычка сбрасывать звонок дала начало индустрии стоимостью почти в $100 млн

VC.RU
12 главных фильмов лета 12 главных фильмов лета

Лучшие фильмы для лета: о британской музыке девяностых и взрослении

РБК
По €100 за килограмм: из чего и как на самом деле создаются духи По €100 за килограмм: из чего и как на самом деле создаются духи

Главы из книги Луки Турина «Секрет аромата: от молекулы до духов»

Forbes
Зарядка для тех, кто ведет сидячий образ жизни Зарядка для тех, кто ведет сидячий образ жизни

К чему приводит недостаток движения?

Psychologies
Измены, разводы, тяжелые роды: личные драмы всех невесток Елизаветы II Измены, разводы, тяжелые роды: личные драмы всех невесток Елизаветы II

Как сложилась судьба невесток Елизаветы II?

Cosmopolitan
Скорость, мощность, влагозащита: как выбрать электросамокат и не пожалеть Скорость, мощность, влагозащита: как выбрать электросамокат и не пожалеть

Как правильно выбрать электросамокат для катания по городу

Популярная механика
Накопительный режим: как экономить на мелочах и сохранить при этом внушительную сумму? Отвечает Esquire Накопительный режим: как экономить на мелочах и сохранить при этом внушительную сумму? Отвечает Esquire

Коротко и наглядно объясняем, что такое СБП

Esquire
Почему в токсичных отношениях мы чувствуем себя счастливыми и как из них выйти? Отрывок из книги психолога Шахиды Араби Почему в токсичных отношениях мы чувствуем себя счастливыми и как из них выйти? Отрывок из книги психолога Шахиды Араби

Отрывок из книги Шахиды Араби «Токсичные люди»

СНОБ
Надо ли пользоваться солнцезащитными средствами в городе? Надо ли пользоваться солнцезащитными средствами в городе?

Чем отличается состав дневных, пляжных и мейкап-продуктов с SPF?

Psychologies
Готовы к риску: как женщины заняли лидирующие позиции в индустрии беспилотных автомобилей Готовы к риску: как женщины заняли лидирующие позиции в индустрии беспилотных автомобилей

Индустрия беспилотников оказалась открытой к женщинам в роли CEO и основателей

Forbes
«Не знаю, как быть дальше»: 22 вещи, которые можно сделать прямо сейчас «Не знаю, как быть дальше»: 22 вещи, которые можно сделать прямо сейчас

Простые советы, которые помогут двигаться дальше

Psychologies
Нужно ли вмешиваться в чужие конфликты? Нужно ли вмешиваться в чужие конфликты?

Так стоит ли пытаться мирить близких людей?

Psychologies
Углекислый газ помог получить транспортные слои для солнечных элементов Углекислый газ помог получить транспортные слои для солнечных элементов

Новые солнечные элементы эффективнее за счет меньшего количества ионов лития

N+1
Открыть в приложении