Живая сила в военных действиях становится все менее важной

CHIPHi-Tech

Война командных строк

Ведущие специалисты по робототехнике международного уровня предупреждают об ужасном потенциале интеллектуального оружия и требуют его запретить. Но можно ли вообще запретить машинам думать?

В 1899 году представители 26 стран собрались на Гаагской мирной конференции, чтобы принять несколько деклараций, в том числе «О запрещении метания снарядов и взрывчатых веществ с воздушных шаров или при помощи иных подобных новых способов». Данный запрет оказался пророческим. Уже в 1903 году братья Райт впервые совершили полет на самолете, оснащенном двигателем. Но на следующей мирной конференции в 1907 году запрет был фактически отменен: «Воспрещается… бомбардировать каким бы то ни было способом незащищенные города…». Такой ход позволил политикам развязать руки военным, которые уже почувствовали возможности ведения войны с воздуха, а небольшая оговорка о необходимости щадить незащищенные местности разбилась в пух и прах, когда в 1937 году была проведена массированная бомбардировка Герники.

Через 110 лет — и бесчисленное количество бомбежек спустя — оружие стало другим, однако некоторые проблемы остались теми же. Созревает новая технология, которая может трагически изменить жизнь людей и их смерть, — искусственный интеллект (ИИ). Машины, которые умеют думать, вероятно, хороши и в проведении боевых действий. По крайней мере до тех пор, пока они не развивают пацифистские идеи и сознание.

Машины с лицензией на убийство

Осознание огромного потенциала искусственного интеллекта активизировало элиту отрасли ИИ. В открытом письме к ООН такие специалисты в области ИИ, как немец Юрген Шмидхубер, и такие предприниматели, как глава Tesla Илон Маск, потребовали заняться решением проблемы летального оружия. По мнению Маска, конкуренция за превосходство в области ИИ «может стать причиной начала третьей мировой войны». Политика тоже не обошла этот вопрос стороной.

«Самый большой риск нашей цивилизации». Глава Tesla Илон Маск об угрозах автономного оружия: «У меня есть доступ к самым передовым разработкам в области ИИ, и я считаю, что людей должно беспокоить развитие таких технологий»

Но возможно ли вообще запретить или ограничить использование автономного оружия? Вопрос чрезвычайно запутанный, начиная с самого определения машин. В настоящее время используется большое количество терминов — от «боевых роботов» до «интеллектуального оружия». В политике и ученой среде часто используется определение «автономные системы летального оружия» (Lethal autonomous weapon systems — LAWS), также известные как «роботы-убийцы». «Автономные» — потому что система самостоятельно, без вмешательства человека, способна выполнять свою задачу и даже в незнакомых условиях принимать логичные решения. То есть БПЛА, которые используются для прицельной атаки по нажатию кнопки, в текущей их версии не подходят под определение роботов-убийц.

Испытанный симбиоз человека и машины. Дистанционно управляемые автоматы и частично автономные роботы сокращают риски для саперов-людей

Ограничения на летальное оружие, имеющее разрешение убивать, вызывает жаркие споры, поскольку отсюда появляются новые проблемы. Когда в боевых условиях робот идентифицирует противника, с точки зрения этических норм, пожалуй, нет никакой разницы между тем, кто его устраняет — машина самостоятельно или управляющий машиной за тысячу километров оператор. Вопрос будет состоять в другом: сможет ли боец из плоти и крови, принимающий решения, иметь подробную информацию и достаточное количество времени, чтобы отменить предложение машины о каком-либо действии?

В связи с этим эксперты говорят о так называемом надлежащем контроле со стороны человека (meaningful human control). В США использование данного определения зашло слишком далеко. Министерство обороны даже в одной из директив определяет проект по автономным системам летального оружия, который разрешает надлежащий контроль со стороны человека. «Надлежащий» значит следующее: конечное решение может принимать человек, но «может» вовсе не означает, что он должен его принимать. Споры вокруг семантических тонкостей доказывают, что США и некоторые страны из остальных примерно 45, работающих над автономным летальным оружием, наверняка не хотят, чтобы их разработки попали в список запретов ООН.

Надлежащий контроль со стороны человека. Под расплывчатой формулировкой США оставляют за собой возможность решать, какая роль будет отводиться солдатам

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Переток силы Переток силы

Чем полезен российский климат для развития альтернативной энергетики

Forbes
Большая энциклопедия джентльмена. Том XVIII Большая энциклопедия джентльмена. Том XVIII

Как вести себя в кругу родственников

GQ
Любовь, случайности и cash Любовь, случайности и cash

Какие функции всегда должны оставаться за лидером, а какие необходимо передавать

FP. BusinessReview
Новогодние праздники: как провести их с пользой для здоровья? Новогодние праздники: как провести их с пользой для здоровья?

Как распорядиться свободным временем во время беременности

9 месяцев
Трагедия Эйнштейна, или счастливый Сизиф Трагедия Эйнштейна, или счастливый Сизиф

Очерк второй. Эйнштейн против Паули. Единая теория поля

Наука и жизнь
Стороны Света Стороны Света

Отель месяца, Южный полюс, Майами, Рим

Tatler
Как вырабатывать гормоны счастья? Как вырабатывать гормоны счастья?

Дофамин, эндорфин, окситоцин, серотонин... Можно ли стимулировать их выработку? Можно ли в результате стать счастливее? Ответы на эти вопросы мы нашли в книге заслуженного профессора Калифорнийского университета Лоретты Грациано Бройнинг «Гормоны счастья».

Psychologies
Свое, родное Свое, родное

Рецепты русской кухни

9 месяцев
Детское время Детское время

Наши героини открыли свое дело во время декрета

Cosmopolitan
В кейптаунском порту В кейптаунском порту

Кейптаун стал центром современного африканского искусства

Vogue
Йога как танец Йога как танец

Мы занимаемся йогой так, как будто танцуем под любимую музыку

Yoga Journal
Летающий автомобиль Атаманова Летающий автомобиль Атаманова

Пятиместный автомобиль, первый полет которого планируется уже в сентябре

Популярная механика
11 тичерз-курсов 11 тичерз-курсов

Куда пойти учиться, чтобы стать преподавателем йоги

Yoga Journal
Балерина vs ЦК Балерина vs ЦК

Матильда Кшесинская оставила о себе память и в судебных архивах

Дилетант
Лучше гор могут быть Лучше гор могут быть

На этих зимних курортах вы отлично проведете время

Glamour
Хватает ли тебе эстрогенов? Хватает ли тебе эстрогенов?

Что делать, если возник дефицит эстрогенов

Лиза
Выходи из комнаты Выходи из комнаты

Соверши гриль-вечеринку

Playboy
Проект под ключ Проект под ключ

Белла Торн — новая фаворитка Ксавье Долана

GQ
5 причин открыть семейный счет 5 причин открыть семейный счет

Деньги сами по себе не делают нас счастливыми. Но возможности, которые они дарят, а главное, умение ими грамотно распорядиться позволяют чувствовать себя независимыми и получать удовольствие от жизни. Семейный счет в банке — один из таких полезных инструментов. Управление им — ценный навык, который придает уверенности и помогает наладить отношения с близкими людьми. Как это работает?

Psychologies
Как все запутано Как все запутано

«Зачем просто, если можно сложно?»

Psychologies
Тоненький ледок Тоненький ледок

Саша Спилберг делится впечатлениями о шоу #IntimissimiOnIce

Tatler
Чемоданное настроение Чемоданное настроение

Куда поехать на зимние каникулы?

Psychologies
Как полюбить зиму: секреты из Норвегии Как полюбить зиму: секреты из Норвегии

Холод и ветер, сугробы и гололед, короткий световой день и постоянный риск подхватить простуду. Казалось бы, зимой не так много поводов для радости. Однако в Норвегии, где климат еще суровее, большинство людей счастливы. Как они научились получать удовольствие от зимы?

Psychologies
Татьяна Еремеева. Простая история Татьяна Еремеева. Простая история

История Татьяны Еремеевой об отношениях со Спартаком Мишулиным

Караван историй
Где найти энергию зимой? Где найти энергию зимой?

Попробуйте в этом году сделать все по-другому и пережить зиму без потери энергии

Домашний Очаг
Упасть по собственному желанию Упасть по собственному желанию

Альпинисты боятся сорваться, а роупджамперы идут в горы специально за этим

Популярная механика
Наведем порядок! Наведем порядок!

Уборка обладает целительными свойствами

Psychologies
Мастер церемоний Мастер церемоний

Кто в этом году был ведущим праздников номер один? Конечно, MC Андрей Малахов

Tatler
Ольга Кормухина: Нужно научиться ждать Ольга Кормухина: Нужно научиться ждать

В преддверии концертов мы поговорили с певицей о русском роке и путешествиях

Лиза
«Я не девочка с «биполяркой»: проект фотографа Лизы Жаковой «Я не девочка с «биполяркой»: проект фотографа Лизы Жаковой

Лиза Жакова недавно опубликовала фотопроект «Нам не кажется», посвященный депрессии и биполярному расстройству личности. В интервью Psychologies.ru она рассказала о том, как живет с этими диагнозами, почему не хочет ассоциировать с ними свое творчество, что не так с флешмобом #faceofdepression, и о многом другом.

Psychologies
Открыть в приложении