Война командных строк

Живая сила в военных действиях становится все менее важной

CHIPHi-Tech

Война командных строк

Ведущие специалисты по робототехнике международного уровня предупреждают об ужасном потенциале интеллектуального оружия и требуют его запретить. Но можно ли вообще запретить машинам думать?

В 1899 году представители 26 стран собрались на Гаагской мирной конференции, чтобы принять несколько деклараций, в том числе «О запрещении метания снарядов и взрывчатых веществ с воздушных шаров или при помощи иных подобных новых способов». Данный запрет оказался пророческим. Уже в 1903 году братья Райт впервые совершили полет на самолете, оснащенном двигателем. Но на следующей мирной конференции в 1907 году запрет был фактически отменен: «Воспрещается… бомбардировать каким бы то ни было способом незащищенные города…». Такой ход позволил политикам развязать руки военным, которые уже почувствовали возможности ведения войны с воздуха, а небольшая оговорка о необходимости щадить незащищенные местности разбилась в пух и прах, когда в 1937 году была проведена массированная бомбардировка Герники.

Через 110 лет — и бесчисленное количество бомбежек спустя — оружие стало другим, однако некоторые проблемы остались теми же. Созревает новая технология, которая может трагически изменить жизнь людей и их смерть, — искусственный интеллект (ИИ). Машины, которые умеют думать, вероятно, хороши и в проведении боевых действий. По крайней мере до тех пор, пока они не развивают пацифистские идеи и сознание.

Машины с лицензией на убийство

Осознание огромного потенциала искусственного интеллекта активизировало элиту отрасли ИИ. В открытом письме к ООН такие специалисты в области ИИ, как немец Юрген Шмидхубер, и такие предприниматели, как глава Tesla Илон Маск, потребовали заняться решением проблемы летального оружия. По мнению Маска, конкуренция за превосходство в области ИИ «может стать причиной начала третьей мировой войны». Политика тоже не обошла этот вопрос стороной.

«Самый большой риск нашей цивилизации». Глава Tesla Илон Маск об угрозах автономного оружия: «У меня есть доступ к самым передовым разработкам в области ИИ, и я считаю, что людей должно беспокоить развитие таких технологий»

Но возможно ли вообще запретить или ограничить использование автономного оружия? Вопрос чрезвычайно запутанный, начиная с самого определения машин. В настоящее время используется большое количество терминов — от «боевых роботов» до «интеллектуального оружия». В политике и ученой среде часто используется определение «автономные системы летального оружия» (Lethal autonomous weapon systems — LAWS), также известные как «роботы-убийцы». «Автономные» — потому что система самостоятельно, без вмешательства человека, способна выполнять свою задачу и даже в незнакомых условиях принимать логичные решения. То есть БПЛА, которые используются для прицельной атаки по нажатию кнопки, в текущей их версии не подходят под определение роботов-убийц.

Испытанный симбиоз человека и машины. Дистанционно управляемые автоматы и частично автономные роботы сокращают риски для саперов-людей

Ограничения на летальное оружие, имеющее разрешение убивать, вызывает жаркие споры, поскольку отсюда появляются новые проблемы. Когда в боевых условиях робот идентифицирует противника, с точки зрения этических норм, пожалуй, нет никакой разницы между тем, кто его устраняет — машина самостоятельно или управляющий машиной за тысячу километров оператор. Вопрос будет состоять в другом: сможет ли боец из плоти и крови, принимающий решения, иметь подробную информацию и достаточное количество времени, чтобы отменить предложение машины о каком-либо действии?

В связи с этим эксперты говорят о так называемом надлежащем контроле со стороны человека (meaningful human control). В США использование данного определения зашло слишком далеко. Министерство обороны даже в одной из директив определяет проект по автономным системам летального оружия, который разрешает надлежащий контроль со стороны человека. «Надлежащий» значит следующее: конечное решение может принимать человек, но «может» вовсе не означает, что он должен его принимать. Споры вокруг семантических тонкостей доказывают, что США и некоторые страны из остальных примерно 45, работающих над автономным летальным оружием, наверняка не хотят, чтобы их разработки попали в список запретов ООН.

Надлежащий контроль со стороны человека. Под расплывчатой формулировкой США оставляют за собой возможность решать, какая роль будет отводиться солдатам

Авторизуйтесь и читайте статьи из популярных журналов

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Первый взгляд Первый взгляд

Обзоры новой цифровой техники

CHIP, июнь'18
Отдых: скалодром на крыше Отдых: скалодром на крыше

Где покататься на лыжах в Копенгагене

National Geographic, май'19
Выйти из себя Выйти из себя

О настоящем, где каждый может выбрать себе идентичность по вкусу

Esquire, июнь'19
Intel против AMD: ПК на любой бюджет Intel против AMD: ПК на любой бюджет

На каком ЦП лучше собрать нужную именно вам систему

CHIP, декабрь'17
Статус: свободен Статус: свободен

Холостяк Тимур Батрутдинов рассказал Cosmo, почему он до сих пор не женился

Cosmopolitan, январь'18
Небо и земля Небо и земля

Поездка из Мальмё в Копенгаген по Эресуннскому мосту

Elle, январь'18
Стоит и стоять будет Стоит и стоять будет

Об очереди на «Щелкунчика» как природном феномене

GQ, январь'18
Том Браун Том Браун

Его фирменные серые пиджаки сидят идеально. Он — Том Браун

Numéro, декабрь'17
Зима не близко Зима не близко

Во что поиграть в ожидании 8-го сезона «Игры престолов»

Игромания, декабрь'17
Папа может Папа может

В декабре Джуду Лоу исполняется 45

Лиза, декабрь'17
Андрей Лукашевич Андрей Лукашевич

Управляющий директор Delivery Club Андрей Лукашевич

GQ, январь'18
Опять одна реклама! Опять одна реклама!

Реклама была такой интересной, что ей посвящали це­лые статьи в журналах

Maxim, январь'18
1'09''433 это рекорд! 1'09''433 это рекорд!

После трех лет властвования Porsche 918 Spyder отдает корону Lamborghini

Quattroruote, январь'18
V значит Вьялицына V значит Вьялицына

Нью-йоркская квартира модели Anne V

Tatler, январь'18
Кроссовер с государственной помощью Кроссовер с государственной помощью

Hyundai Creta, Nissan Qashqai, Renault Kaptur, Toyota RAV4, Volkswagen Tiguan

АвтоМир, декабрь'17
Как вырабатывать гормоны счастья? Как вырабатывать гормоны счастья?

Дофамин, эндорфин, окситоцин, серотонин... Можно ли стимулировать их выработку? Можно ли в результате стать счастливее? Ответы на эти вопросы мы нашли в книге заслуженного профессора Калифорнийского университета Лоретты Грациано Бройнинг «Гормоны счастья».

Psychologies, декабрь'17
Остров — чистый изумруд Остров — чистый изумруд

Рецепт – это тоже путешествие

Psychologies, январь'18
Экспресс-уборка Экспресс-уборка

Алгоритм быстрой уборки перед приездом гостей

Домашний Очаг, январь'18
10 дней каникул в Таиланде 10 дней каникул в Таиланде

Семейные каникулы в этой стране запомнятся надолго и детям, и взрослым

Домашний Очаг, январь'18
Показала характер Показала характер

Бизнес-леди Оксана Лаврентьева в объективе Эллен фон Унверт

Elle, январь'18
Крепкая любовь Крепкая любовь

Все о кофе

Добрые советы, январь'18
За душу взяло За душу взяло

Что такое психотерапия и зачем она нам

Men’s Health, январь'18
Скрижали новых скреп Скрижали новых скреп

Все ускоряющийся прогресс диктует новые нормы морали

Maxim, январь'18
»Работая в кино, нельзя быть хорошим парнем« »Работая в кино, нельзя быть хорошим парнем«

Прагматичный и мудрый Энтони Хопкинс – об актерстве, деньгах и медных трубах

Playboy, декабрь'17
Путь Джейн Путь Джейн

Джейн Гудолл прославилась, изучая шимпанзе

National Geographic, январь'18
Путеводные чувства Путеводные чувства

Как научиться планировать жизнь с соответствии со своими эмоциями

Yoga Journal, январь'18
Что говорит о вас домашняя одежда? Что говорит о вас домашняя одежда?

Мы серьезно подходим к выбору одежды для работы или торжественных событий, но дома иногда позволяем себе носить откровенно неопрятные вещи. Меж тем отношение к себе проявляется именно за закрытыми дверями. О чем свидетельствуют вещи, в которых мы ходим дома?

Psychologies, декабрь'17
Йога как танец Йога как танец

Мы занимаемся йогой так, как будто танцуем под любимую музыку

Yoga Journal, январь'18
Maserati Levante Maserati Levante

Дизель V6 наделяет «Трезубец» недюжинным темпераментом

Quattroruote, январь'18
Вам бы там побывать Вам бы там побывать

Места, которые мы рекомендуем посетить в наступающем году

GEO, январь'18