Живая сила в военных действиях становится все менее важной

CHIPHi-Tech

Война командных строк

Ведущие специалисты по робототехнике международного уровня предупреждают об ужасном потенциале интеллектуального оружия и требуют его запретить. Но можно ли вообще запретить машинам думать?

В 1899 году представители 26 стран собрались на Гаагской мирной конференции, чтобы принять несколько деклараций, в том числе «О запрещении метания снарядов и взрывчатых веществ с воздушных шаров или при помощи иных подобных новых способов». Данный запрет оказался пророческим. Уже в 1903 году братья Райт впервые совершили полет на самолете, оснащенном двигателем. Но на следующей мирной конференции в 1907 году запрет был фактически отменен: «Воспрещается… бомбардировать каким бы то ни было способом незащищенные города…». Такой ход позволил политикам развязать руки военным, которые уже почувствовали возможности ведения войны с воздуха, а небольшая оговорка о необходимости щадить незащищенные местности разбилась в пух и прах, когда в 1937 году была проведена массированная бомбардировка Герники.

Через 110 лет — и бесчисленное количество бомбежек спустя — оружие стало другим, однако некоторые проблемы остались теми же. Созревает новая технология, которая может трагически изменить жизнь людей и их смерть, — искусственный интеллект (ИИ). Машины, которые умеют думать, вероятно, хороши и в проведении боевых действий. По крайней мере до тех пор, пока они не развивают пацифистские идеи и сознание.

Машины с лицензией на убийство

Осознание огромного потенциала искусственного интеллекта активизировало элиту отрасли ИИ. В открытом письме к ООН такие специалисты в области ИИ, как немец Юрген Шмидхубер, и такие предприниматели, как глава Tesla Илон Маск, потребовали заняться решением проблемы летального оружия. По мнению Маска, конкуренция за превосходство в области ИИ «может стать причиной начала третьей мировой войны». Политика тоже не обошла этот вопрос стороной.

«Самый большой риск нашей цивилизации». Глава Tesla Илон Маск об угрозах автономного оружия: «У меня есть доступ к самым передовым разработкам в области ИИ, и я считаю, что людей должно беспокоить развитие таких технологий»

Но возможно ли вообще запретить или ограничить использование автономного оружия? Вопрос чрезвычайно запутанный, начиная с самого определения машин. В настоящее время используется большое количество терминов — от «боевых роботов» до «интеллектуального оружия». В политике и ученой среде часто используется определение «автономные системы летального оружия» (Lethal autonomous weapon systems — LAWS), также известные как «роботы-убийцы». «Автономные» — потому что система самостоятельно, без вмешательства человека, способна выполнять свою задачу и даже в незнакомых условиях принимать логичные решения. То есть БПЛА, которые используются для прицельной атаки по нажатию кнопки, в текущей их версии не подходят под определение роботов-убийц.

Испытанный симбиоз человека и машины. Дистанционно управляемые автоматы и частично автономные роботы сокращают риски для саперов-людей

Ограничения на летальное оружие, имеющее разрешение убивать, вызывает жаркие споры, поскольку отсюда появляются новые проблемы. Когда в боевых условиях робот идентифицирует противника, с точки зрения этических норм, пожалуй, нет никакой разницы между тем, кто его устраняет — машина самостоятельно или управляющий машиной за тысячу километров оператор. Вопрос будет состоять в другом: сможет ли боец из плоти и крови, принимающий решения, иметь подробную информацию и достаточное количество времени, чтобы отменить предложение машины о каком-либо действии?

В связи с этим эксперты говорят о так называемом надлежащем контроле со стороны человека (meaningful human control). В США использование данного определения зашло слишком далеко. Министерство обороны даже в одной из директив определяет проект по автономным системам летального оружия, который разрешает надлежащий контроль со стороны человека. «Надлежащий» значит следующее: конечное решение может принимать человек, но «может» вовсе не означает, что он должен его принимать. Споры вокруг семантических тонкостей доказывают, что США и некоторые страны из остальных примерно 45, работающих над автономным летальным оружием, наверняка не хотят, чтобы их разработки попали в список запретов ООН.

Надлежащий контроль со стороны человека. Под расплывчатой формулировкой США оставляют за собой возможность решать, какая роль будет отводиться солдатам

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Переток силы Переток силы

Чем полезен российский климат для развития альтернативной энергетики

Forbes
Не вся овсянка одинаково полезна! Не вся овсянка одинаково полезна!

Какую кашу выбрать

Домашний Очаг
Они записали убийство Они записали убийство

Квентин Тарантино, Брэд Питт и Леонардо ДиКаприо о главном фильме лета

Esquire
Реально ли планировать время в большом городе? Реально ли планировать время в большом городе?

Учащенное сердцебиение, то жар, то холод, несмолкающий рой мыслей в голове: «Почему ты не могла выйти на 10 минут пораньше?!», «Ну как так можно?», «Боже, как стыдно!..» Именно так многие из нас чувствуют себя при опозданиях. Можно ли предотвратить такие ситуации? Как научиться трезво оценивать свой список задач и успевать намного больше?

Psychologies
Бизнесменская зорька Бизнесменская зорька

Вероника Романова – ведущая утренней программы «Стартап» на канале «РБК»

Maxim
Кинотеатр Звездный Кинотеатр Звездный

Репортаж со съемок очередной части «Звездных войн»

GQ
День согласия и примирения День согласия и примирения

Глеб Амуров препарирует главную новогоднюю примету

Glamour
Jeep Wrangler Jeep Wrangler

Только для особых ценителей и профессионалов

АвтоМир
5 продуктов, опасных для красоты 5 продуктов, опасных для красоты

Мы то, что мы едим. Это непреложная истина. И вроде бы все уже знают, что вредно, а что полезно, но все равно включают в рацион продукты, употребление которых негативно сказывается на внешности.

Psychologies
Психология зачатия: как влияют эмоции? Психология зачатия: как влияют эмоции?

Тщательная подготовка – залог благополучного появления долгожданного малыша

9 месяцев
С корабля на баттл С корабля на баттл

Феномен рэп-баттлов

Esquire
Где мои подарки? Где мои подарки?

Праздник – это подарки, но что делать, если их становится слишком много?

Домашний Очаг
Пусть говорит Пусть говорит

Резидент Stand Up Елена Новикова про Новый год

Cosmopolitan
Топ-5 лайфхаков перед сном Топ-5 лайфхаков перед сном

Следуя этим советам, ты можешь «навести красоту» еще с вечера

Лиза
5 вещей, которые портят имидж 5 вещей, которые портят имидж

Многие из наших привычных действий негативно отражаются на репутации

Лиза
Где найти энергию зимой? Где найти энергию зимой?

Попробуйте в этом году сделать все по-другому и пережить зиму без потери энергии

Домашний Очаг
В шутливой форме В шутливой форме

Настя Ивлеева стала суперзвездой инстаграма и комедийного жанра

Glamour
Как полюбить зиму: секреты из Норвегии Как полюбить зиму: секреты из Норвегии

Холод и ветер, сугробы и гололед, короткий световой день и постоянный риск подхватить простуду. Казалось бы, зимой не так много поводов для радости. Однако в Норвегии, где климат еще суровее, большинство людей счастливы. Как они научились получать удовольствие от зимы?

Psychologies
Обыкновенный аутизм Обыкновенный аутизм

Как помочь детям с нарушениями развития

Русский репортер
Ольга Кормухина: Нужно научиться ждать Ольга Кормухина: Нужно научиться ждать

В преддверии концертов мы поговорили с певицей о русском роке и путешествиях

Лиза
Значение не меняется Значение не меняется

Группа Serebro — лучший герлз-бенд десятилетия

Glamour
5 биографий успешных мужчин, у которых есть чему поучиться 5 биографий успешных мужчин, у которых есть чему поучиться

Это не сборники советов «Как заработать миллион» или «Стань счастливым за 21 день». Магии и готовых бизнес-рецептов на страницах этих книг тоже нет. Зато есть откровенные жизненные истории мужчин, не побоявшихся трудностей и осуществивших мечты вопреки обстоятельствам. Возможно, однажды и вам придется написать мемуары о своей выдающейся жизни. А пока читайте и берите пример.

Psychologies
Я и мое благоустройство Я и мое благоустройство

О том, что бывает, когда вы доверяете государству все решать за вас

GQ
Как все запутано Как все запутано

«Зачем просто, если можно сложно?»

Psychologies
Маргарита Симоньян: Высокие отношения Маргарита Симоньян: Высокие отношения

Однажды прочитала в "Фейсбуке": "Здравствуйте, Маргарита! Это Тигран Кеосаян"

Караван историй
Осмелиться на яркий жест: почему мы боимся яркого макияжа? Осмелиться на яркий жест: почему мы боимся яркого макияжа?

Синие тени, зеленые ресницы, алые губы… Не каждая девушка решится на такое буйство красок, хотя оно сейчас в моде. Почему же, несмотря на уговоры визажистов, мы с осторожностью относимся к яркому макияжу и стесняемся даже красной помады?

Psychologies
Промотур в городе света Промотур в городе света

Рассказ Тома Хэнкса из дебютного сборника актера

Esquire
Mercedes-Benz A-Класс Mercedes-Benz A-Класс

Третье поколение хэтчбека А-Класса открестилось от своих предшественников

АвтоМир
Пилатес: краткий курс Пилатес: краткий курс

Актриса Анна Хилькевич протестировала комплекс упражнений

Cosmopolitan
По моему веленью По моему веленью

Наши мечты – не просто фантазии, а руководство к действию

Cosmopolitan
Открыть в приложении