Живая сила в военных действиях становится все менее важной

CHIPHi-Tech

Война командных строк

Ведущие специалисты по робототехнике международного уровня предупреждают об ужасном потенциале интеллектуального оружия и требуют его запретить. Но можно ли вообще запретить машинам думать?

В 1899 году представители 26 стран собрались на Гаагской мирной конференции, чтобы принять несколько деклараций, в том числе «О запрещении метания снарядов и взрывчатых веществ с воздушных шаров или при помощи иных подобных новых способов». Данный запрет оказался пророческим. Уже в 1903 году братья Райт впервые совершили полет на самолете, оснащенном двигателем. Но на следующей мирной конференции в 1907 году запрет был фактически отменен: «Воспрещается… бомбардировать каким бы то ни было способом незащищенные города…». Такой ход позволил политикам развязать руки военным, которые уже почувствовали возможности ведения войны с воздуха, а небольшая оговорка о необходимости щадить незащищенные местности разбилась в пух и прах, когда в 1937 году была проведена массированная бомбардировка Герники.

Через 110 лет — и бесчисленное количество бомбежек спустя — оружие стало другим, однако некоторые проблемы остались теми же. Созревает новая технология, которая может трагически изменить жизнь людей и их смерть, — искусственный интеллект (ИИ). Машины, которые умеют думать, вероятно, хороши и в проведении боевых действий. По крайней мере до тех пор, пока они не развивают пацифистские идеи и сознание.

Машины с лицензией на убийство

Осознание огромного потенциала искусственного интеллекта активизировало элиту отрасли ИИ. В открытом письме к ООН такие специалисты в области ИИ, как немец Юрген Шмидхубер, и такие предприниматели, как глава Tesla Илон Маск, потребовали заняться решением проблемы летального оружия. По мнению Маска, конкуренция за превосходство в области ИИ «может стать причиной начала третьей мировой войны». Политика тоже не обошла этот вопрос стороной.

«Самый большой риск нашей цивилизации». Глава Tesla Илон Маск об угрозах автономного оружия: «У меня есть доступ к самым передовым разработкам в области ИИ, и я считаю, что людей должно беспокоить развитие таких технологий»

Но возможно ли вообще запретить или ограничить использование автономного оружия? Вопрос чрезвычайно запутанный, начиная с самого определения машин. В настоящее время используется большое количество терминов — от «боевых роботов» до «интеллектуального оружия». В политике и ученой среде часто используется определение «автономные системы летального оружия» (Lethal autonomous weapon systems — LAWS), также известные как «роботы-убийцы». «Автономные» — потому что система самостоятельно, без вмешательства человека, способна выполнять свою задачу и даже в незнакомых условиях принимать логичные решения. То есть БПЛА, которые используются для прицельной атаки по нажатию кнопки, в текущей их версии не подходят под определение роботов-убийц.

Испытанный симбиоз человека и машины. Дистанционно управляемые автоматы и частично автономные роботы сокращают риски для саперов-людей

Ограничения на летальное оружие, имеющее разрешение убивать, вызывает жаркие споры, поскольку отсюда появляются новые проблемы. Когда в боевых условиях робот идентифицирует противника, с точки зрения этических норм, пожалуй, нет никакой разницы между тем, кто его устраняет — машина самостоятельно или управляющий машиной за тысячу километров оператор. Вопрос будет состоять в другом: сможет ли боец из плоти и крови, принимающий решения, иметь подробную информацию и достаточное количество времени, чтобы отменить предложение машины о каком-либо действии?

В связи с этим эксперты говорят о так называемом надлежащем контроле со стороны человека (meaningful human control). В США использование данного определения зашло слишком далеко. Министерство обороны даже в одной из директив определяет проект по автономным системам летального оружия, который разрешает надлежащий контроль со стороны человека. «Надлежащий» значит следующее: конечное решение может принимать человек, но «может» вовсе не означает, что он должен его принимать. Споры вокруг семантических тонкостей доказывают, что США и некоторые страны из остальных примерно 45, работающих над автономным летальным оружием, наверняка не хотят, чтобы их разработки попали в список запретов ООН.

Надлежащий контроль со стороны человека. Под расплывчатой формулировкой США оставляют за собой возможность решать, какая роль будет отводиться солдатам

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Переток силы Переток силы

Чем полезен российский климат для развития альтернативной энергетики

Forbes
Знаки судьбы? Знаки судьбы?

Откуда берутся приметы и суеверия и почему мы до сих пор в них верим?

Лиза
Техника физиков Техника физиков

Как выпускники превращают онлайн-школу английского в образовательный холдинг

Forbes
Свое, родное Свое, родное

Рецепты русской кухни

9 месяцев
Нечеловеческий секс Нечеловеческий секс

Почему мы все еще занимаемся сексом по старинке – с живыми людьми?

Популярная механика
Лучший из лучших Лучший из лучших

Джордж Клуни обладает многими качествами, которые хотели бы иметь другие

Playboy
Елена Яковлева: «Елки проверяют на прочность» Елена Яковлева: «Елки проверяют на прочность»

Интервью с актрисой, известной как «интердевочка» и Каменская

Лиза
В долине мечтателей В долине мечтателей

Лидеры Кремниевой долины предлагают революционные идеи

CHIP
Star и млад Star и млад

Спектакль «До и после», который поддержали Театр Наций и фестиваль «Территория»

СНОБ
Лидия Сейфуллина Лидия Сейфуллина

Лидия Сейфуллина глазами Дмитрия Быкова

Дилетант
V значит Вьялицына V значит Вьялицына

Нью-йоркская квартира модели Anne V

Tatler
Глубоко берут Глубоко берут

Как появился национальный бренд питьевой воды из озера Байкал

Forbes
Балерина vs ЦК Балерина vs ЦК

Матильда Кшесинская оставила о себе память и в судебных архивах

Дилетант
Макс атакует Макс атакует

Максим Виторган — о театре и кино, вдумчивом характере и жизни с Ксенией Собчак

Vogue
Реально ли планировать время в большом городе? Реально ли планировать время в большом городе?

Учащенное сердцебиение, то жар, то холод, несмолкающий рой мыслей в голове: «Почему ты не могла выйти на 10 минут пораньше?!», «Ну как так можно?», «Боже, как стыдно!..» Именно так многие из нас чувствуют себя при опозданиях. Можно ли предотвратить такие ситуации? Как научиться трезво оценивать свой список задач и успевать намного больше?

Psychologies
Богомолов Богомолов

Мы обсудили с режиссером Константином Богомоловым фобии и комплексы

Esquire
Звездный билет Звездный билет

Человечество опять мечтает о Луне, куда переместятся автомобильные гонки

Quattroruote
Пицца высокого полета Пицца высокого полета

Энциклопедия самых заметных российских бизнес-проектов. «Додо Пицца»

Esquire
Бастионы просят огня Бастионы просят огня

Мексиканский Тулум как альтернатива Сен-Барту

Tatler
“Cтрах или скука покажут, что вы двигаетесь не туда” “Cтрах или скука покажут, что вы двигаетесь не туда”

Как избавиться от груза прошлого и взять ответственность за свою жизнь

Psychologies
Покорители стен: ледолазы Покорители стен: ледолазы

Не выпускать ледоруб из рук: потеряв инструмент, спортсмен сходит с дистанции

Популярная механика
Соперница Путина. Как Ксения Собчак стала голосом оппозиции Соперница Путина. Как Ксения Собчак стала голосом оппозиции

Собчак — идеальный спарринг-партнер для власти

Forbes
Выходцы из среднего класса Выходцы из среднего класса

Hyundai Elantra – Toyota Corolla

АвтоМир
Шоу за стеклом Шоу за стеклом

Жизнь Ким Кардашьян — это, пожалуй, самое успешное реалити-шоу в истории

Glamour
Слово королевы Слово королевы

Хелен Миррен — о своей русской крови, феминизме и стиле Мелании Трамп

Vogue
Чемоданное настроение: куда поехать на зимние каникулы? Чемоданное настроение: куда поехать на зимние каникулы?

Длинные праздники – отличный повод сбавить темп, сменить обстановку и набраться впечатлений на несколько месяцев вперед. Осталось только решить, где это сделать.

Psychologies
Mazda3 – Ford Focus Mazda3 – Ford Focus

На что сегодня делают ставку былые бестселлеры?

АвтоМир
Коллективное хозяйство Коллективное хозяйство

У «Куйбышевазот» нет контролирующего акционера, но есть главный

Forbes
Анекдот с бородой Анекдот с бородой

Джейсон Момоа спешит спасать мир в новом образе — супергероя Аквамена

Vogue
Хотела летать Хотела летать

Ирина Иерусалимская всегда хотела быть только стюардессой

Домашний Очаг
Открыть в приложении