Живая сила в военных действиях становится все менее важной

CHIPHi-Tech

Война командных строк

Ведущие специалисты по робототехнике международного уровня предупреждают об ужасном потенциале интеллектуального оружия и требуют его запретить. Но можно ли вообще запретить машинам думать?

В 1899 году представители 26 стран собрались на Гаагской мирной конференции, чтобы принять несколько деклараций, в том числе «О запрещении метания снарядов и взрывчатых веществ с воздушных шаров или при помощи иных подобных новых способов». Данный запрет оказался пророческим. Уже в 1903 году братья Райт впервые совершили полет на самолете, оснащенном двигателем. Но на следующей мирной конференции в 1907 году запрет был фактически отменен: «Воспрещается… бомбардировать каким бы то ни было способом незащищенные города…». Такой ход позволил политикам развязать руки военным, которые уже почувствовали возможности ведения войны с воздуха, а небольшая оговорка о необходимости щадить незащищенные местности разбилась в пух и прах, когда в 1937 году была проведена массированная бомбардировка Герники.

Через 110 лет — и бесчисленное количество бомбежек спустя — оружие стало другим, однако некоторые проблемы остались теми же. Созревает новая технология, которая может трагически изменить жизнь людей и их смерть, — искусственный интеллект (ИИ). Машины, которые умеют думать, вероятно, хороши и в проведении боевых действий. По крайней мере до тех пор, пока они не развивают пацифистские идеи и сознание.

Машины с лицензией на убийство

Осознание огромного потенциала искусственного интеллекта активизировало элиту отрасли ИИ. В открытом письме к ООН такие специалисты в области ИИ, как немец Юрген Шмидхубер, и такие предприниматели, как глава Tesla Илон Маск, потребовали заняться решением проблемы летального оружия. По мнению Маска, конкуренция за превосходство в области ИИ «может стать причиной начала третьей мировой войны». Политика тоже не обошла этот вопрос стороной.

«Самый большой риск нашей цивилизации». Глава Tesla Илон Маск об угрозах автономного оружия: «У меня есть доступ к самым передовым разработкам в области ИИ, и я считаю, что людей должно беспокоить развитие таких технологий»

Но возможно ли вообще запретить или ограничить использование автономного оружия? Вопрос чрезвычайно запутанный, начиная с самого определения машин. В настоящее время используется большое количество терминов — от «боевых роботов» до «интеллектуального оружия». В политике и ученой среде часто используется определение «автономные системы летального оружия» (Lethal autonomous weapon systems — LAWS), также известные как «роботы-убийцы». «Автономные» — потому что система самостоятельно, без вмешательства человека, способна выполнять свою задачу и даже в незнакомых условиях принимать логичные решения. То есть БПЛА, которые используются для прицельной атаки по нажатию кнопки, в текущей их версии не подходят под определение роботов-убийц.

Испытанный симбиоз человека и машины. Дистанционно управляемые автоматы и частично автономные роботы сокращают риски для саперов-людей

Ограничения на летальное оружие, имеющее разрешение убивать, вызывает жаркие споры, поскольку отсюда появляются новые проблемы. Когда в боевых условиях робот идентифицирует противника, с точки зрения этических норм, пожалуй, нет никакой разницы между тем, кто его устраняет — машина самостоятельно или управляющий машиной за тысячу километров оператор. Вопрос будет состоять в другом: сможет ли боец из плоти и крови, принимающий решения, иметь подробную информацию и достаточное количество времени, чтобы отменить предложение машины о каком-либо действии?

В связи с этим эксперты говорят о так называемом надлежащем контроле со стороны человека (meaningful human control). В США использование данного определения зашло слишком далеко. Министерство обороны даже в одной из директив определяет проект по автономным системам летального оружия, который разрешает надлежащий контроль со стороны человека. «Надлежащий» значит следующее: конечное решение может принимать человек, но «может» вовсе не означает, что он должен его принимать. Споры вокруг семантических тонкостей доказывают, что США и некоторые страны из остальных примерно 45, работающих над автономным летальным оружием, наверняка не хотят, чтобы их разработки попали в список запретов ООН.

Надлежащий контроль со стороны человека. Под расплывчатой формулировкой США оставляют за собой возможность решать, какая роль будет отводиться солдатам

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Переток силы Переток силы

Чем полезен российский климат для развития альтернативной энергетики

Forbes
5 продуктов, опасных для красоты 5 продуктов, опасных для красоты

Мы то, что мы едим. Это непреложная истина. И вроде бы все уже знают, что вредно, а что полезно, но все равно включают в рацион продукты, употребление которых негативно сказывается на внешности.

Psychologies
В тылу «Аванпоста» В тылу «Аванпоста»

Лукерье Ильяшенко было приятно снять бронежилет после спасения Земли

Maxim
С новым счастьем С новым счастьем

Уже решила, как изменишь жизнь с 1 января? Не забудь и об отношениях!

Cosmopolitan
Чак Паланик Чак Паланик

Чак Паланик: Судный день

Esquire
Волшебство тажина Волшебство тажина

Если вы думаете, что подарить увлеченному кулинару, подарите тажин

Домашний Очаг
Политическая география Тревора Паглена Политическая география Тревора Паглена

Жизнь в исполнении Паглена выглядит не слишком радостным киберпанком

Популярная механика
Вырваться из надоевшей роли Вырваться из надоевшей роли

Психодраматерапевт дает практические советы, как найти путь к свободе

Psychologies
В долине мечтателей В долине мечтателей

Лидеры Кремниевой долины предлагают революционные идеи

CHIP
Виноваты звезды? Виноваты звезды?

С некоторыми людьми мы дружим не потому, что они нам симпатичны

Cosmopolitan
Intel против AMD: ПК на любой бюджет Intel против AMD: ПК на любой бюджет

На каком ЦП лучше собрать нужную именно вам систему

CHIP
Цифровая лихорадка Цифровая лихорадка

Биткоины, криптовалюта, блокчейн… Мир вокруг нас сошел с ума

Psychologies
Свое, родное Свое, родное

Рецепты русской кухни

9 месяцев
«Страсть должна не сжигать, а питать» «Страсть должна не сжигать, а питать»

Ежедневные перегрузки и ждущие решения проблемы делают для нас соблазнительной формулу «будь проще». Но психоаналитик Андрей Россохин предостерегает против крайностей.

Psychologies
Правила отцовского клуба Правила отцовского клуба

О том, как быть отцом тройни

GQ
Мы с собой друзья Мы с собой друзья

5 фраз, которые на правах лучшей подруги полезно повторять себе

Cosmopolitan
Бастионы просят огня Бастионы просят огня

Мексиканский Тулум как альтернатива Сен-Барту

Tatler
Зачем ты паришься? Зачем ты паришься?

Как сделать поход в парную максимально полезным для здоровья и красоты

Cosmopolitan
Да, нет, знаю Да, нет, знаю

Татьяна Навка: «На Новый год я буду работать»

Glamour
В кейптаунском порту В кейптаунском порту

Кейптаун стал центром современного африканского искусства

Vogue
Sexting Sexting

Почему мне хватает секса по sms

Cosmopolitan
С островом без сокровищ С островом без сокровищ

Как Джонни Депп рухнул с киноолимпа в долговую яму

Tatler
Макс атакует Макс атакует

Максим Виторган — о театре и кино, вдумчивом характере и жизни с Ксенией Собчак

Vogue
100 самых сексуальных женщин страны 2017 100 самых сексуальных женщин страны 2017

Узри достойнейшую! Всех прочих, к слову, тоже!

Maxim
Высокие отношения Высокие отношения

Где кататься зимой?

Добрые советы
Елена Яковлева: «Елки проверяют на прочность» Елена Яковлева: «Елки проверяют на прочность»

Интервью с актрисой, известной как «интердевочка» и Каменская

Лиза
Уже не Нольтрофеич Уже не Нольтрофеич

«Спартак» — чемпион! Первый раз с 2001 года и впервые за 13 лет при Федуне

Forbes
Ритуальные танцы Ритуальные танцы

Чтобы облегчить переход на новый уровень, мы используем ритуалы

Psychologies
Star и млад Star и млад

Спектакль «До и после», который поддержали Театр Наций и фестиваль «Территория»

СНОБ
Сильные девочки Сильные девочки

Интервью с Натальей Злобиной, победительницей конкурса «Героиня нашего времени»

Домашний Очаг
Открыть в приложении