Искусственный интеллект на службе политиков

ForbesHi-Tech

ИИ массового поражения: Генри Киссинджер и Эрик Шмидт об угрозах кибервойны

Редакция Forbes

Фото Getty Images

Контроль над кибервооружением невозможен, а чем выше уровень технологического развития общества, тем более уязвимым оно становится. Кроме того, опасность искусственного интеллекта на службе политиков в том, что у него нет ни психологии, ни морали, а есть только цели и задачи. Вот что о будущем человечества, а также о проблемах, возможностях и угрозах ИИ рассказывают бывшие госсекретарь США, глава Google и директор Amazon.

У книги «Искусственный разум и новая эра человечества» (выходит в июне в издательстве «Альпина PRO») три автора: экс-госсекретарь США и лауреат Нобелевской премии мира 1973 года Генри Киссинджер, бывший CEO Google, экс-председатель совета директоров Alphabet и миллиардер Эрик Шмидт и декан Колледжа компьютерных наук имени Шварцмана в Массачусетском технологическом институте, бывший директор Amazon Дэниел Хаттенлокер. Втроем эти тяжеловесы пытаются ответить на вопрос, как трансформируется человечество и каким образом на него влияют новые технологии, в том числе в области политики и безопасности.

В книге не уточняется, все ли главы написаны тремя авторами совместно, или кто-то из них внес больший вклад в отдельные из них. Можно было бы предположить, что глава о безопасности и роли искусственного интеллекта (ИИ) в современных войнах в основном написана Киссинджером. Правда, Эрик Шмидт тоже обладает достаточно глубокими знаниями в этой области — он, например, является главой Комиссии национальной безопасности США по искусственному интеллекту и соавтором главного доклада комиссии. Forbes публикует отрывок из этой главы, посвященный теме кибероружия и проблемам, связанным с применением ИИ в ходе конфликтов.

Война в цифровую эпоху

На протяжении всей истории человечества политическое влияние нации, как правило, примерно соотносилось с ее военной мощью и стратегическими возможностями — ее потенциальной способностью наносить ущерб другим странам. Проблема, однако, в том, что равновесие, основанное на расчете силы, непостоянно и не поддерживает само себя — оно опирается прежде всего на общее понимание того, что считать силой и каковы законные границы ее применения. Соответственно, поддержание этого равновесия требует общего для всех участников системы международных отношений — особенно противников — понимания относительных возможностей и намерений государств, а также последствий агрессии. Наконец, сохранение равновесия требует фактического и признанного паритета. Когда один из участников системы непропорционально усиливает свою мощь, система попытается приспособиться — либо организуя противоборствующую силу, либо подстраиваясь к новой реальности. Если равновесие неустойчиво или не признается участниками международных отношений, риск конфликта резко возрастает. В наше время расчет равновесия стал еще более абстрактным. Причина тому — кибероружие, класс оружия с неясным статусом. В некоторых случаях кибероружие усиливает военную мощь страны тем, что эта страна не признает его использования и даже существования. Раньше, если начиналась война, сразу становилось известно, что произошло столкновение и какие стороны воюют. Противники оценивали силы участников и темп, в котором эти силы могли быть развернуты. С кибероружием все это не работает.

Даже ядерное оружие существует в обычном мире, где его развертывание может быть замечено, а его возможности определены — хотя бы приблизительно. Напротив, одно из главных свойств кибероружия — его непрозрачность, раскрытие информации о нем может в той или иной степени препятствовать его применению. Например, так называемые атаки нулевого дня используют ранее неизвестные недостатки в программном обеспечении, получая доступ к сети или системе без разрешения или ведома авторизованного пользователя. В случае распределенных DDoS-атак делается множество информационных запросов, блокирующих системы. Истинные источники атак маскируются, что затрудняет или делает невозможной идентификацию атакующего. Один из самых известных случаев промышленного саботажа с использованием кибернетических технологий — атака вируса Stuxnet, которая вывела из строя компьютеры, управлявшие иранскими ядерными разработками, — не обсуждался публично странами, которые, как считается, его осуществили. Моральные и правовые нормы предписывают использовать обычное и ядерное оружие только против военных сил и объектов. В отличие от этого, кибероружие широко воздействует на вычислительные и коммуникационные сети, часто поражая гражданские системы. Кроме того, кибероружие могут взять на вооружение другие стороны для других целей, включая использование против напавшей стороны. В некоторых отношениях это делает кибероружие похожим на биологическое или химическое оружие, которое может распространяться непреднамеренными и неизвестными способами. Во многих случаях оно воздействует на широкий срез общества, а не только на боевые цели. Например, атаки вредоносной программы Petya против украинских финансовых учреждений и государственных организаций в 2017 году вскоре распространились за пределы Украины — на электростанции, больницы, поставщиков транспортных и логистических услуг, а также энергетические компании в других странах, включая Россию. Таким образом, те самые свойства кибероружия, которые обеспечивают его эффективность, делают практически невозможным контроль над кибервооружениями. Когда участники переговоров по контролю над ядерным оружием раскрывали или описывали классы боеголовок, они не отрицали возможностей этого оружия. Переговорщикам по кибервооружениям предстоит столкнуться с интересным парадоксом — само обсуждение возможностей кибероружия может означать как его сокращение (если противник устранит уязвимости, против которых оно направлено), так и более широкое распространение (если противник скопирует его код или использует тот же принцип действия).

Эти проблемы усложняются неоднозначностью ключевых терминов и концепций. Различные формы кибервторжений, онлайн-пропаганды и информационной войны разные наблюдатели могут в тех или иных случаях назвать «кибервойной», «кибератакой» и даже «военными действиями», но этот словарь необщепринят и иногда используется непоследовательно. Одни действия, такие как вторжение в сеть для сбора информации, могут быть аналогичны традиционному шпионажу, хотя и в новых масштабах. Другие атаки, такие как цифровые кампании по вмешательству в выборы в социальных сетях, скорее относятся к пропаганде, дезинформации и политическому воздействию — но благодаря вездесущей цифровизации и сетевым платформам это возможно в более широких масштабах и с более высокой эффективностью, чем в предыдущие эпохи. Существуют также формы кибернетического воздействия, которые способны нанести физические потери, сходные с традиционными боевыми потерями. Но как выяснить, началась ли кибервойна, какова ее природа и как далеко она может зайти? Очевидно, что крупнейшие страны в настоящее время вовлечены в некий киберконфликт, природу или масштаб которого невозможно однозначно определить.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Вход в провал: какие гаджеты опередили свое время и потерпели неудачу Вход в провал: какие гаджеты опередили свое время и потерпели неудачу

Гаджеты, которые обещали перевернуть нашу жизнь, но в итоге потерпели крах

Forbes
Александра Ребенок: «Хотелось бросить самой себе вызов, сделать то, чего никогда не делала» Александра Ребенок: «Хотелось бросить самой себе вызов, сделать то, чего никогда не делала»

Долгое время моя нестандартность казалась мне главным недостатком

Караван историй
Дружелюбный инсайдер: как ИИ становится новым каналом утечек Дружелюбный инсайдер: как ИИ становится новым каналом утечек

ИИ против безопасности: почему компании теряют данные через ChatGPT

Forbes
Обиженная герцогиня: как Меган Маркл вытеснили с балкона Букингемского дворца Обиженная герцогиня: как Меган Маркл вытеснили с балкона Букингемского дворца

Меган Маркл не подпускали на первый план во время официальных мероприятий

VOICE
В космосе обнаружили разрушительное явление, которому нет равных по масштабу В космосе обнаружили разрушительное явление, которому нет равных по масштабу

В просторах Вселенной разворачиваются драмы поистине космического масштаба

Inc.
Разгон процессора: насколько это  эффективно и безопасно Разгон процессора: насколько это  эффективно и безопасно

Что скрывается за таким таинственным словом разгон процессора?

CHIP
Как найти себя в новой реальности: навыки 2022+ Как найти себя в новой реальности: навыки 2022+

Что поможет чувствовать себя увереннее сегодня и занять свое место в профессии

Psychologies
Съедобное из несъедобного: готовим вкусные блюда из сорняков Съедобное из несъедобного: готовим вкусные блюда из сорняков

Легким движением букет из полевых цветов превращается... в кулинарные изыски!

ТехИнсайдер
Не растениями едиными: как люди используют животных в медицине Не растениями едиными: как люди используют животных в медицине

Словосочетание «лекарственные животные» порой вызывает недоумение

Вокруг света
6 6

Никто из нас не ест арбузные косточки или "хвостики" клубники

ТехИнсайдер
7 неожиданных идей как использовать таблетки для посудомойки в быту 7 неожиданных идей как использовать таблетки для посудомойки в быту

Для чего еще нужны таблетки для посудомойки

Лиза
Виктор Франкл: в чем смысл нашей жизни и зачем в ней страдания Виктор Франкл: в чем смысл нашей жизни и зачем в ней страдания

В чем же смысл жизни?

Вокруг света
«Мама была ко мне равнодушна, и я говорю ей за это спасибо» «Мама была ко мне равнодушна, и я говорю ей за это спасибо»

Наша героиня благодарна тому, что ее мама занималась своей жизнью

Psychologies
Почему не нужно бояться неизвестности Почему не нужно бояться неизвестности

Как перестать бояться будущего и изменить отношение к жизни?

Psychologies
Искусственный цитоскелет смог собраться в объемах клетки Искусственный цитоскелет смог собраться в объемах клетки

Ученые создали синтетический цитоскелет в объеме реальных клеток

N+1
Учительница лучшая моя: фрагмент книги «Элизабет Финч» Джулиана Барнса Учительница лучшая моя: фрагмент книги «Элизабет Финч» Джулиана Барнса

Отрывок из нового романа-загадки Джулиана Барнса

Правила жизни
Современное китайское вооружение: качественные копии и впечатляющие оригиналы Современное китайское вооружение: качественные копии и впечатляющие оригиналы

Как обстоят дела с китайской военной техникой?

ТехИнсайдер
Как брендам выстраивать коммуникацию с клиентом: мнение эксперта Как брендам выстраивать коммуникацию с клиентом: мнение эксперта

Архетипы, нейромаркетинг и инновационные технологии в рекламе

РБК
Для охоты, общения и навигации: как рыбы научились использовать электричество Для охоты, общения и навигации: как рыбы научились использовать электричество

Человек не может обходиться без электричества. А рыбы освоили его гораздо раньше

Вокруг света
Виктор Забуга Виктор Забуга

Художник Виктор Забуга — адепт примитивизма и наивного искусства

Собака.ru
Меньше мяса? Это просто Меньше мяса? Это просто

Как безопасно для здоровья исключить мясо из рациона

Новый очаг
Друг Врубеля и кумир Дягилева: как собирал свою коллекцию меценат Михаил Морозов Друг Врубеля и кумир Дягилева: как собирал свою коллекцию меценат Михаил Морозов

Отрывок из монографии «Коллекции Ивана и Михаила Морозовых»

Forbes
Ботаники описали первое хищное растение с подземными ловчими кувшинчиками Ботаники описали первое хищное растение с подземными ловчими кувшинчиками

Непентес стыдливый — первое известное хищное растение с подземными кувшинчиками

N+1
Королева Виктория и царь зулусов: самый странный брак в истории Виндзоров Королева Виктория и царь зулусов: самый странный брак в истории Виндзоров

В XIX веке королева Великобритании Виктория стала женой африканского царя

VOICE
Облико морале: 6 громких судебных процессов с участием знаменитостей за последние 30 лет Облико морале: 6 громких судебных процессов с участием знаменитостей за последние 30 лет

Самые громкие дела с участием знаменитостей за последние 30 лет

Правила жизни
«Дело Финляндии — наше дело» «Дело Финляндии — наше дело»

В 1939–1940 годах театром военных действий снова стала Финляндия

Дилетант
Кубик в кубе Кубик в кубе

Даже если вы не видели Ольгу Кравцову и Руслана Габидуллина, вы любите их голоса

Собака.ru
Три корзины с недоношенными младенцами. Как начиналась неонатальная терапия Три корзины с недоношенными младенцами. Как начиналась неонатальная терапия

История инкубаторов для младенцев

ТехИнсайдер
Наталья Андреева. Кровные друзья Наталья Андреева. Кровные друзья

Наталья Андреева — о своем друге Валерии Гаркалине

Коллекция. Караван историй
Синдром спасателя: как стремление помочь всем и каждому приводит к саморазрушению Синдром спасателя: как стремление помочь всем и каждому приводит к саморазрушению

Почему быть спасателем не всегда хорошая идея

Forbes
Открыть в приложении