Живая сила в военных действиях становится все менее важной

CHIPHi-Tech

Война командных строк

Ведущие специалисты по робототехнике международного уровня предупреждают об ужасном потенциале интеллектуального оружия и требуют его запретить. Но можно ли вообще запретить машинам думать?

В 1899 году представители 26 стран собрались на Гаагской мирной конференции, чтобы принять несколько деклараций, в том числе «О запрещении метания снарядов и взрывчатых веществ с воздушных шаров или при помощи иных подобных новых способов». Данный запрет оказался пророческим. Уже в 1903 году братья Райт впервые совершили полет на самолете, оснащенном двигателем. Но на следующей мирной конференции в 1907 году запрет был фактически отменен: «Воспрещается… бомбардировать каким бы то ни было способом незащищенные города…». Такой ход позволил политикам развязать руки военным, которые уже почувствовали возможности ведения войны с воздуха, а небольшая оговорка о необходимости щадить незащищенные местности разбилась в пух и прах, когда в 1937 году была проведена массированная бомбардировка Герники.

Через 110 лет — и бесчисленное количество бомбежек спустя — оружие стало другим, однако некоторые проблемы остались теми же. Созревает новая технология, которая может трагически изменить жизнь людей и их смерть, — искусственный интеллект (ИИ). Машины, которые умеют думать, вероятно, хороши и в проведении боевых действий. По крайней мере до тех пор, пока они не развивают пацифистские идеи и сознание.

Машины с лицензией на убийство

Осознание огромного потенциала искусственного интеллекта активизировало элиту отрасли ИИ. В открытом письме к ООН такие специалисты в области ИИ, как немец Юрген Шмидхубер, и такие предприниматели, как глава Tesla Илон Маск, потребовали заняться решением проблемы летального оружия. По мнению Маска, конкуренция за превосходство в области ИИ «может стать причиной начала третьей мировой войны». Политика тоже не обошла этот вопрос стороной.

«Самый большой риск нашей цивилизации». Глава Tesla Илон Маск об угрозах автономного оружия: «У меня есть доступ к самым передовым разработкам в области ИИ, и я считаю, что людей должно беспокоить развитие таких технологий»

Но возможно ли вообще запретить или ограничить использование автономного оружия? Вопрос чрезвычайно запутанный, начиная с самого определения машин. В настоящее время используется большое количество терминов — от «боевых роботов» до «интеллектуального оружия». В политике и ученой среде часто используется определение «автономные системы летального оружия» (Lethal autonomous weapon systems — LAWS), также известные как «роботы-убийцы». «Автономные» — потому что система самостоятельно, без вмешательства человека, способна выполнять свою задачу и даже в незнакомых условиях принимать логичные решения. То есть БПЛА, которые используются для прицельной атаки по нажатию кнопки, в текущей их версии не подходят под определение роботов-убийц.

Испытанный симбиоз человека и машины. Дистанционно управляемые автоматы и частично автономные роботы сокращают риски для саперов-людей

Ограничения на летальное оружие, имеющее разрешение убивать, вызывает жаркие споры, поскольку отсюда появляются новые проблемы. Когда в боевых условиях робот идентифицирует противника, с точки зрения этических норм, пожалуй, нет никакой разницы между тем, кто его устраняет — машина самостоятельно или управляющий машиной за тысячу километров оператор. Вопрос будет состоять в другом: сможет ли боец из плоти и крови, принимающий решения, иметь подробную информацию и достаточное количество времени, чтобы отменить предложение машины о каком-либо действии?

В связи с этим эксперты говорят о так называемом надлежащем контроле со стороны человека (meaningful human control). В США использование данного определения зашло слишком далеко. Министерство обороны даже в одной из директив определяет проект по автономным системам летального оружия, который разрешает надлежащий контроль со стороны человека. «Надлежащий» значит следующее: конечное решение может принимать человек, но «может» вовсе не означает, что он должен его принимать. Споры вокруг семантических тонкостей доказывают, что США и некоторые страны из остальных примерно 45, работающих над автономным летальным оружием, наверняка не хотят, чтобы их разработки попали в список запретов ООН.

Надлежащий контроль со стороны человека. Под расплывчатой формулировкой США оставляют за собой возможность решать, какая роль будет отводиться солдатам

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Добро пожаловать в машину! Добро пожаловать в машину!

Оправдана ли суета вокруг дополненной реальности

CHIP
Уже не Нольтрофеич Уже не Нольтрофеич

«Спартак» — чемпион! Первый раз с 2001 года и впервые за 13 лет при Федуне

Forbes
Евгений Лапшин: Три горизонта инноваций: как не проспать технологическую революцию Евгений Лапшин: Три горизонта инноваций: как не проспать технологическую революцию

Как не примкнуть к отстающим во время очередного прорыва?

РБК
Искусственный интеллект глупее пчелы. Пока Искусственный интеллект глупее пчелы. Пока

Cо временем компьютерные нейросети станут умнее человека

Forbes
«Мы свидетели нового дополненного мира» «Мы свидетели нового дополненного мира»

Подборка высказываний футурологов и предпринимателей об Индустрии 4.0

РБК
Sexting Sexting

Почему мне хватает секса по sms

Cosmopolitan
7 правил творческой диеты Джулии Кэмерон 7 правил творческой диеты Джулии Кэмерон

Не расставаться с тетрадкой и ручкой — вот, похоже, главный принцип необычной диеты писательницы Джулии Кэмерон. Она заметила: как только человек расцветает творчески, он преображается и физически. И предлагает несколько инструментов, основанных на письменной практике, которые помогут постройнеть. В самом деле, если мы можем едой заглушать чувства, то почему бы не сделать обратное и не заглушить аппетит словами?

Psychologies
Перекресток 2.0: Музыка и искусственный интеллект Перекресток 2.0: Музыка и искусственный интеллект

Как искусственный интеллект повлияет на развитие мировой музыки?

Playboy
Знаки судьбы? Знаки судьбы?

Откуда берутся приметы и суеверия и почему мы до сих пор в них верим?

Лиза
Пицца высокого полета Пицца высокого полета

Энциклопедия самых заметных российских бизнес-проектов. «Додо Пицца»

Esquire
Хлеб на зрелища Хлеб на зрелища

10 самых важных спортивных сделок 2017 года

Forbes
Я соперничаю с женщинами Я соперничаю с женщинами

Если речь не о любовном треугольнике, казалось бы, зачем нам вступать в борьбу

Psychologies
Поколение X Поколение X

Как жить в одном мире с представителями поколения Икс?

GQ
24 часа наедине с мужчиной 24 часа наедине с мужчиной

Всякий уважающий себя самец должен круглые сутки быть на высоте

Playboy
Лучше гор могут быть Лучше гор могут быть

На этих зимних курортах вы отлично проведете время

Glamour
Maserati Levante Maserati Levante

Дизель V6 наделяет «Трезубец» недюжинным темпераментом

Quattroruote
Большая энциклопедия джентльмена. Том XVIII Большая энциклопедия джентльмена. Том XVIII

Как вести себя в кругу родственников

GQ
Комсомольский комсомолец Комсомольский комсомолец

Уголок желтой прессы

Maxim
Есть чтобы спать Есть чтобы спать

Что есть для здорового сна

Yoga Journal
Путеводные чувства Путеводные чувства

Как научиться планировать жизнь с соответствии со своими эмоциями

Yoga Journal
Очевидные вещи Очевидные вещи

Полный шкаф, а надеть нечего — знакомая ситуация?

Psychologies
Правила отцовского клуба Правила отцовского клуба

О том, как быть отцом тройни

GQ
Женщина на грани Женщина на грани

Актриса Юлия Пересильд согласилась остаться без формы

Esquire
Хью Джекман Хью Джекман

Правила жизни Хью Джекмана

Esquire
Наталия Басовская Наталия Басовская

Правила жизни историка Наталии Басовской

Esquire
Intel против AMD: ПК на любой бюджет Intel против AMD: ПК на любой бюджет

На каком ЦП лучше собрать нужную именно вам систему

CHIP
Ураганная энергия Ураганная энергия

Как направить в мирное русло энергию ураганов

Популярная механика
Больше не надо Больше не надо

Что делать, если партнер настроен на секс, а вам этого не особенно хочется?

Добрые советы
Цифровая лихорадка Цифровая лихорадка

Биткоины, криптовалюта, блокчейн… Мир вокруг нас сошел с ума

Psychologies
Вам к психологу! Вам к психологу!

Психотерапия – эффективный способ справиться с проблемами

Домашний Очаг
Открыть в приложении