Искусственный интеллект на службе политиков

ForbesHi-Tech

ИИ массового поражения: Генри Киссинджер и Эрик Шмидт об угрозах кибервойны

Редакция Forbes

Фото Getty Images

Контроль над кибервооружением невозможен, а чем выше уровень технологического развития общества, тем более уязвимым оно становится. Кроме того, опасность искусственного интеллекта на службе политиков в том, что у него нет ни психологии, ни морали, а есть только цели и задачи. Вот что о будущем человечества, а также о проблемах, возможностях и угрозах ИИ рассказывают бывшие госсекретарь США, глава Google и директор Amazon.

У книги «Искусственный разум и новая эра человечества» (выходит в июне в издательстве «Альпина PRO») три автора: экс-госсекретарь США и лауреат Нобелевской премии мира 1973 года Генри Киссинджер, бывший CEO Google, экс-председатель совета директоров Alphabet и миллиардер Эрик Шмидт и декан Колледжа компьютерных наук имени Шварцмана в Массачусетском технологическом институте, бывший директор Amazon Дэниел Хаттенлокер. Втроем эти тяжеловесы пытаются ответить на вопрос, как трансформируется человечество и каким образом на него влияют новые технологии, в том числе в области политики и безопасности.

В книге не уточняется, все ли главы написаны тремя авторами совместно, или кто-то из них внес больший вклад в отдельные из них. Можно было бы предположить, что глава о безопасности и роли искусственного интеллекта (ИИ) в современных войнах в основном написана Киссинджером. Правда, Эрик Шмидт тоже обладает достаточно глубокими знаниями в этой области — он, например, является главой Комиссии национальной безопасности США по искусственному интеллекту и соавтором главного доклада комиссии. Forbes публикует отрывок из этой главы, посвященный теме кибероружия и проблемам, связанным с применением ИИ в ходе конфликтов.

Война в цифровую эпоху

На протяжении всей истории человечества политическое влияние нации, как правило, примерно соотносилось с ее военной мощью и стратегическими возможностями — ее потенциальной способностью наносить ущерб другим странам. Проблема, однако, в том, что равновесие, основанное на расчете силы, непостоянно и не поддерживает само себя — оно опирается прежде всего на общее понимание того, что считать силой и каковы законные границы ее применения. Соответственно, поддержание этого равновесия требует общего для всех участников системы международных отношений — особенно противников — понимания относительных возможностей и намерений государств, а также последствий агрессии. Наконец, сохранение равновесия требует фактического и признанного паритета. Когда один из участников системы непропорционально усиливает свою мощь, система попытается приспособиться — либо организуя противоборствующую силу, либо подстраиваясь к новой реальности. Если равновесие неустойчиво или не признается участниками международных отношений, риск конфликта резко возрастает. В наше время расчет равновесия стал еще более абстрактным. Причина тому — кибероружие, класс оружия с неясным статусом. В некоторых случаях кибероружие усиливает военную мощь страны тем, что эта страна не признает его использования и даже существования. Раньше, если начиналась война, сразу становилось известно, что произошло столкновение и какие стороны воюют. Противники оценивали силы участников и темп, в котором эти силы могли быть развернуты. С кибероружием все это не работает.

Даже ядерное оружие существует в обычном мире, где его развертывание может быть замечено, а его возможности определены — хотя бы приблизительно. Напротив, одно из главных свойств кибероружия — его непрозрачность, раскрытие информации о нем может в той или иной степени препятствовать его применению. Например, так называемые атаки нулевого дня используют ранее неизвестные недостатки в программном обеспечении, получая доступ к сети или системе без разрешения или ведома авторизованного пользователя. В случае распределенных DDoS-атак делается множество информационных запросов, блокирующих системы. Истинные источники атак маскируются, что затрудняет или делает невозможной идентификацию атакующего. Один из самых известных случаев промышленного саботажа с использованием кибернетических технологий — атака вируса Stuxnet, которая вывела из строя компьютеры, управлявшие иранскими ядерными разработками, — не обсуждался публично странами, которые, как считается, его осуществили. Моральные и правовые нормы предписывают использовать обычное и ядерное оружие только против военных сил и объектов. В отличие от этого, кибероружие широко воздействует на вычислительные и коммуникационные сети, часто поражая гражданские системы. Кроме того, кибероружие могут взять на вооружение другие стороны для других целей, включая использование против напавшей стороны. В некоторых отношениях это делает кибероружие похожим на биологическое или химическое оружие, которое может распространяться непреднамеренными и неизвестными способами. Во многих случаях оно воздействует на широкий срез общества, а не только на боевые цели. Например, атаки вредоносной программы Petya против украинских финансовых учреждений и государственных организаций в 2017 году вскоре распространились за пределы Украины — на электростанции, больницы, поставщиков транспортных и логистических услуг, а также энергетические компании в других странах, включая Россию. Таким образом, те самые свойства кибероружия, которые обеспечивают его эффективность, делают практически невозможным контроль над кибервооружениями. Когда участники переговоров по контролю над ядерным оружием раскрывали или описывали классы боеголовок, они не отрицали возможностей этого оружия. Переговорщикам по кибервооружениям предстоит столкнуться с интересным парадоксом — само обсуждение возможностей кибероружия может означать как его сокращение (если противник устранит уязвимости, против которых оно направлено), так и более широкое распространение (если противник скопирует его код или использует тот же принцип действия).

Эти проблемы усложняются неоднозначностью ключевых терминов и концепций. Различные формы кибервторжений, онлайн-пропаганды и информационной войны разные наблюдатели могут в тех или иных случаях назвать «кибервойной», «кибератакой» и даже «военными действиями», но этот словарь необщепринят и иногда используется непоследовательно. Одни действия, такие как вторжение в сеть для сбора информации, могут быть аналогичны традиционному шпионажу, хотя и в новых масштабах. Другие атаки, такие как цифровые кампании по вмешательству в выборы в социальных сетях, скорее относятся к пропаганде, дезинформации и политическому воздействию — но благодаря вездесущей цифровизации и сетевым платформам это возможно в более широких масштабах и с более высокой эффективностью, чем в предыдущие эпохи. Существуют также формы кибернетического воздействия, которые способны нанести физические потери, сходные с традиционными боевыми потерями. Но как выяснить, началась ли кибервойна, какова ее природа и как далеко она может зайти? Очевидно, что крупнейшие страны в настоящее время вовлечены в некий киберконфликт, природу или масштаб которого невозможно однозначно определить.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Про кабанов, стада червей и теневые растения: пять книг о происходящем в природе Про кабанов, стада червей и теневые растения: пять книг о происходящем в природе

Книги о природе: через зарисовки, философские эссе и медленные наблюдения

Forbes
Вышивка, музыка, путешествия: что делает Виктория Шелягова в Ивановской области Вышивка, музыка, путешествия: что делает Виктория Шелягова в Ивановской области

Зачем Виктория Шелягова купила дом в Ивановской области?

СНОБ
Драгоценная наука: кто и зачем выращивает в лабораториях бриллианты Драгоценная наука: кто и зачем выращивает в лабораториях бриллианты

В чем заключается уникальность лабораторных бриллиантов?

Forbes
Человек, соразмерный Вселенной Человек, соразмерный Вселенной

Этой весной исполнилось бы 90 лет академику Николаю Кардашеву

Наука
Используй ложку и телефон: 20 способов доставить себе удовольствие Используй ложку и телефон: 20 способов доставить себе удовольствие

Двадцать разных способов мастурбации на любой вкус и цвет

Cosmopolitan
Место для всех Место для всех

Как в «Севкабеле» появился уникальный социальный проект

СНОБ
Защитные реакции психики: почему в момент ссоры мы плачем или молчим Защитные реакции психики: почему в момент ссоры мы плачем или молчим

Происхождение защитных механизмов, как они включаются и работают внутри нас

VOICE
Да здравствует абсурд: 10 запоминающихся заявлений на суде Джонни Деппа и Эмбер Херд Да здравствует абсурд: 10 запоминающихся заявлений на суде Джонни Деппа и Эмбер Херд

Шестилетняя схватка Джонни Деппа и Эмбер Херд завершилась

Правила жизни
Пэлтроу в бриллиантах, Лопес на шпильках: как звезды одеваются в отпуске Пэлтроу в бриллиантах, Лопес на шпильках: как звезды одеваются в отпуске

Что надевают звезды в свои свободные от папарацци дни?

VOICE
10 российских марок с интересной историей, дизайном и бизнес-подходом 10 российских марок с интересной историей, дизайном и бизнес-подходом

«Сноб» составил краткий путеводитель по интересным российским брендам

СНОБ
Сладкие двойники Сладкие двойники

Стоит ли заменять сахар на его низкокалорийные аналоги?

Здоровье
Франц Кафка — гений, уверенный в собственном крахе Франц Кафка — гений, уверенный в собственном крахе

3июня 1924 года в санатории под Веной умер Франц Кафка

Правила жизни
Пенис в сумочке: история Сада Абэ — самой странной эскортницы-убийцы в истории Пенис в сумочке: история Сада Абэ — самой странной эскортницы-убийцы в истории

Сада Абэ считается самой странной куртизанкой в Японии

VOICE
Захватывающая история изобретения и эволюции женских стрингов (с картинками) Захватывающая история изобретения и эволюции женских стрингов (с картинками)

Этот предмет женского гардероба вызывал столько мужских эмоций!

Maxim
В сосуде из тюркского погребения VII века обнаружили просо В сосуде из тюркского погребения VII века обнаружили просо

Археологи исследовали керамический сосуд, случайно найденный на Алтае

N+1
Топ‑10 худших нарядов вечера Топ‑10 худших нарядов вечера

Темой нынешнего бала института костюма Met Gala стал «Позолоченный гламур»

ЖАРА Magazine
Дом богини Пеле: назван возраст самого опасного вулкана в мире Килауэа Дом богини Пеле: назван возраст самого опасного вулкана в мире Килауэа

Огнедышащая гора оказалась самым молодым из гавайских «братьев-вулканов»

Вокруг света
«Fashionopolis: Цена быстрой моды и будущее одежды». Какой урон наносит планете бездумное потребление «Fashionopolis: Цена быстрой моды и будущее одежды». Какой урон наносит планете бездумное потребление

Фрагмент книги «Fashionopolis: Цена быстрой моды и будущее одежды»

N+1
Сюзанна: «Я решила, что популярность останется со мной навсегда. Но ошибалась» Сюзанна: «Я решила, что популярность останется со мной навсегда. Но ошибалась»

Очень честно и по-философски — так мы охарактеризовали это интервью с Сюзанной

ЖАРА Magazine
Ты просто не поймешь это, пока молода: письмо австралийки берет за живое всех женщин, которым уже исполнилось 45 Ты просто не поймешь это, пока молода: письмо австралийки берет за живое всех женщин, которым уже исполнилось 45

Что изменится в твоей жизни с возрастом?

VOICE
Железная река Сибири: как Транссибирская магистраль изменила Россию Железная река Сибири: как Транссибирская магистраль изменила Россию

Постройка Транссибирской магистрали была подвигом

Вокруг света
Как снять боль, если вы обожгли язык: 8 проверенных методов Как снять боль, если вы обожгли язык: 8 проверенных методов

Обжечь язык легко, но как справиться с этой болью?

ТехИнсайдер
Почему Ярослава Мудрого можно считать лучшим брачным агентом раннего Средневековья Почему Ярослава Мудрого можно считать лучшим брачным агентом раннего Средневековья

Нескучная история с юмором и на современном языке

Вокруг света
8 добрых советов как взять от лета все! 8 добрых советов как взять от лета все!

Попробуй не упустить ни одного теплого дня, ни солнечного настроения

Лиза
5 городов, которые на самом деле сводят с ума: все об опасных для психики «синдромах путешественника» 5 городов, которые на самом деле сводят с ума: все об опасных для психики «синдромах путешественника»

Какие опасности поджидают туристов в Иерусалиме, Париже и Венеции?

Вокруг света
Польза «золотых яблок»: 5 причин есть томаты каждый день, о которых вы не слышали Польза «золотых яблок»: 5 причин есть томаты каждый день, о которых вы не слышали

Чем хорош самый популярный в России овощ

Вокруг света
Ваби-саби: 3 упражнения, чтобы видеть красоту в простых вещах Ваби-саби: 3 упражнения, чтобы видеть красоту в простых вещах

В восточной культуре мы находим источник радости, духовных сил и вдохновения

Psychologies
Как запасти пищу на случай постапокалипсиса: что люди будут есть после ядерной зимы Как запасти пищу на случай постапокалипсиса: что люди будут есть после ядерной зимы

Каков самый выигрышный вариант еды на случай апокалипсиса?

ТехИнсайдер
Фридрих Паулюс: как сложилась судьба первого плененного немецкого фельдмаршала Фридрих Паулюс: как сложилась судьба первого плененного немецкого фельдмаршала

Фридрих Паулюс стал первым немецким фельдмаршалом, взятым в плен на поле боя

ТехИнсайдер
Флагман отрасли Флагман отрасли

Как холдинг ERSO развивает российский рынок электротехники

Наука
Открыть в приложении