Искусственный интеллект на службе политиков

ForbesHi-Tech

ИИ массового поражения: Генри Киссинджер и Эрик Шмидт об угрозах кибервойны

Редакция Forbes

Фото Getty Images

Контроль над кибервооружением невозможен, а чем выше уровень технологического развития общества, тем более уязвимым оно становится. Кроме того, опасность искусственного интеллекта на службе политиков в том, что у него нет ни психологии, ни морали, а есть только цели и задачи. Вот что о будущем человечества, а также о проблемах, возможностях и угрозах ИИ рассказывают бывшие госсекретарь США, глава Google и директор Amazon.

У книги «Искусственный разум и новая эра человечества» (выходит в июне в издательстве «Альпина PRO») три автора: экс-госсекретарь США и лауреат Нобелевской премии мира 1973 года Генри Киссинджер, бывший CEO Google, экс-председатель совета директоров Alphabet и миллиардер Эрик Шмидт и декан Колледжа компьютерных наук имени Шварцмана в Массачусетском технологическом институте, бывший директор Amazon Дэниел Хаттенлокер. Втроем эти тяжеловесы пытаются ответить на вопрос, как трансформируется человечество и каким образом на него влияют новые технологии, в том числе в области политики и безопасности.

В книге не уточняется, все ли главы написаны тремя авторами совместно, или кто-то из них внес больший вклад в отдельные из них. Можно было бы предположить, что глава о безопасности и роли искусственного интеллекта (ИИ) в современных войнах в основном написана Киссинджером. Правда, Эрик Шмидт тоже обладает достаточно глубокими знаниями в этой области — он, например, является главой Комиссии национальной безопасности США по искусственному интеллекту и соавтором главного доклада комиссии. Forbes публикует отрывок из этой главы, посвященный теме кибероружия и проблемам, связанным с применением ИИ в ходе конфликтов.

Война в цифровую эпоху

На протяжении всей истории человечества политическое влияние нации, как правило, примерно соотносилось с ее военной мощью и стратегическими возможностями — ее потенциальной способностью наносить ущерб другим странам. Проблема, однако, в том, что равновесие, основанное на расчете силы, непостоянно и не поддерживает само себя — оно опирается прежде всего на общее понимание того, что считать силой и каковы законные границы ее применения. Соответственно, поддержание этого равновесия требует общего для всех участников системы международных отношений — особенно противников — понимания относительных возможностей и намерений государств, а также последствий агрессии. Наконец, сохранение равновесия требует фактического и признанного паритета. Когда один из участников системы непропорционально усиливает свою мощь, система попытается приспособиться — либо организуя противоборствующую силу, либо подстраиваясь к новой реальности. Если равновесие неустойчиво или не признается участниками международных отношений, риск конфликта резко возрастает. В наше время расчет равновесия стал еще более абстрактным. Причина тому — кибероружие, класс оружия с неясным статусом. В некоторых случаях кибероружие усиливает военную мощь страны тем, что эта страна не признает его использования и даже существования. Раньше, если начиналась война, сразу становилось известно, что произошло столкновение и какие стороны воюют. Противники оценивали силы участников и темп, в котором эти силы могли быть развернуты. С кибероружием все это не работает.

Даже ядерное оружие существует в обычном мире, где его развертывание может быть замечено, а его возможности определены — хотя бы приблизительно. Напротив, одно из главных свойств кибероружия — его непрозрачность, раскрытие информации о нем может в той или иной степени препятствовать его применению. Например, так называемые атаки нулевого дня используют ранее неизвестные недостатки в программном обеспечении, получая доступ к сети или системе без разрешения или ведома авторизованного пользователя. В случае распределенных DDoS-атак делается множество информационных запросов, блокирующих системы. Истинные источники атак маскируются, что затрудняет или делает невозможной идентификацию атакующего. Один из самых известных случаев промышленного саботажа с использованием кибернетических технологий — атака вируса Stuxnet, которая вывела из строя компьютеры, управлявшие иранскими ядерными разработками, — не обсуждался публично странами, которые, как считается, его осуществили. Моральные и правовые нормы предписывают использовать обычное и ядерное оружие только против военных сил и объектов. В отличие от этого, кибероружие широко воздействует на вычислительные и коммуникационные сети, часто поражая гражданские системы. Кроме того, кибероружие могут взять на вооружение другие стороны для других целей, включая использование против напавшей стороны. В некоторых отношениях это делает кибероружие похожим на биологическое или химическое оружие, которое может распространяться непреднамеренными и неизвестными способами. Во многих случаях оно воздействует на широкий срез общества, а не только на боевые цели. Например, атаки вредоносной программы Petya против украинских финансовых учреждений и государственных организаций в 2017 году вскоре распространились за пределы Украины — на электростанции, больницы, поставщиков транспортных и логистических услуг, а также энергетические компании в других странах, включая Россию. Таким образом, те самые свойства кибероружия, которые обеспечивают его эффективность, делают практически невозможным контроль над кибервооружениями. Когда участники переговоров по контролю над ядерным оружием раскрывали или описывали классы боеголовок, они не отрицали возможностей этого оружия. Переговорщикам по кибервооружениям предстоит столкнуться с интересным парадоксом — само обсуждение возможностей кибероружия может означать как его сокращение (если противник устранит уязвимости, против которых оно направлено), так и более широкое распространение (если противник скопирует его код или использует тот же принцип действия).

Эти проблемы усложняются неоднозначностью ключевых терминов и концепций. Различные формы кибервторжений, онлайн-пропаганды и информационной войны разные наблюдатели могут в тех или иных случаях назвать «кибервойной», «кибератакой» и даже «военными действиями», но этот словарь необщепринят и иногда используется непоследовательно. Одни действия, такие как вторжение в сеть для сбора информации, могут быть аналогичны традиционному шпионажу, хотя и в новых масштабах. Другие атаки, такие как цифровые кампании по вмешательству в выборы в социальных сетях, скорее относятся к пропаганде, дезинформации и политическому воздействию — но благодаря вездесущей цифровизации и сетевым платформам это возможно в более широких масштабах и с более высокой эффективностью, чем в предыдущие эпохи. Существуют также формы кибернетического воздействия, которые способны нанести физические потери, сходные с традиционными боевыми потерями. Но как выяснить, началась ли кибервойна, какова ее природа и как далеко она может зайти? Очевидно, что крупнейшие страны в настоящее время вовлечены в некий киберконфликт, природу или масштаб которого невозможно однозначно определить.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

От Копенгагена до Нормандии: пять мест, где выгодно быть экологичным туристом От Копенгагена до Нормандии: пять мест, где выгодно быть экологичным туристом

Места, где за экологичное поведение туристы могут получить бонус

Forbes
Как забыть прошлое и жить настоящим: советы психолога Как забыть прошлое и жить настоящим: советы психолога

Как отпустить прошлое и начать жить настоящим?

Psychologies
Как написать в Ватсап без добавления контакта Как написать в Ватсап без добавления контакта

Разберем, написать в Ватсап без добавления номера в телефонную книгу

CHIP
Интересные факты о молниях, которые повалят тебя с ног Интересные факты о молниях, которые повалят тебя с ног

Сколько можно пережить прямых попаданий молнии?

Maxim
Терапия бездельем: что такое бедроттинг и почему зумеры полюбили валяться в постели Терапия бездельем: что такое бедроттинг и почему зумеры полюбили валяться в постели

Bed rotting: обычная лень или способ восстановить силы?

Forbes
Краб-сафари и «охота» за китами: чем заняться в глэмпинге «Китовый берег» Краб-сафари и «охота» за китами: чем заняться в глэмпинге «Китовый берег»

Рассказываем, как устроен единственный в Заполярье круглогодичный глэмпинг

РБК
20 самых потешных указов Петра I 20 самых потешных указов Петра I

Прекрасные и мудрые распоряжения великого русского императора

Maxim
Как сформировать новые полезные привычки? Как сформировать новые полезные привычки?

Как формируются привычки и почему с возрастом нам все сложнее переучиваться?

СНОБ
Одна вокруг света: нефтяные протесты и поломка в пустыне Одна вокруг света: нефтяные протесты и поломка в пустыне

173-я серия о кругосветном путешествии москвички Ирины Сидоренко: Перу

Forbes
Как поменять работу после 40 лет Как поменять работу после 40 лет

Как преодолеть страх и безболезненно сменить род деятельности в зрелом возрасте

Maxim
Как выглядит самая уродливая собака в мире Как выглядит самая уродливая собака в мире

В Калифорнии выбрали живое воплощение понедельников

Maxim
Нам живыми быть не идет. О российском фильме «Межсезонье» Нам живыми быть не идет. О российском фильме «Межсезонье»

Новый фильм Александра Ханта «Межсезонье» — почему его стоит смотреть

СНОБ
«Считаю себя некрасивой»: нормально ли это? «Считаю себя некрасивой»: нормально ли это?

Как увидеть и открыть истинную красоту в себе?

Psychologies
История одной вещи: клеенчатая скатерть, которая накрывала каждый советский стол История одной вещи: клеенчатая скатерть, которая накрывала каждый советский стол

Откуда на столах появилась клеенчатая скатерть и почему она была так популярна

Правила жизни
Солнечный удар: как не допустить и избавиться от последствий Солнечный удар: как не допустить и избавиться от последствий

Учимся предотвращать солнечный удар и помогать себе и близким

РБК
Без макияжа и спеси: первые и трогательные снепы Хадид, Клосс, Шейк и других моделей Без макияжа и спеси: первые и трогательные снепы Хадид, Клосс, Шейк и других моделей

Как выглядели кумиры мира моды на самом старте их карьеры?

VOICE
«Живописец душ» Фальконеса: гимн Барселоне XX века и летопись человеческих страстей «Живописец душ» Фальконеса: гимн Барселоне XX века и летопись человеческих страстей

Отрывок из романа Ильдефонсо Фальконеса «Живописец душ»

Forbes
Гид под модным джинсам Кендалл Дженнер - принцессы стритстайла Гид под модным джинсам Кендалл Дженнер - принцессы стритстайла

В джинсах мисс Кендалл Дженнер точно знает толк

VOICE
Вопрос дня: что значит быть хорошим человеком? Вопрос дня: что значит быть хорошим человеком?

Каким же должен быть хороший человек в наши дни: мнения членов клуба

СНОБ
Ученые: люди на Марсе будут строить дома с помощью мочевины и пить комбучу Ученые: люди на Марсе будут строить дома с помощью мочевины и пить комбучу

Стали известны подробности жизни на Красной планете

Вокруг света
Сомнологи о трекерах сна: что можно измерить во время сна и стоит ли доверять умным гаджетам Сомнологи о трекерах сна: что можно измерить во время сна и стоит ли доверять умным гаджетам

Как работают трекеры сна и что думают по поводу трекинга специалисты-сомнологи?

ТехИнсайдер
Неслучайны связи Неслучайны связи

Мы поговорили с создателями трех тревел-проектов о том, как искать «своих»

Seasons of life
Кто такие зомби Кто такие зомби

Эволюция от послушных рабов к агрессивной нежити

Вокруг света
10 невероятных самодельных электробайков: инженерное чудо 10 невероятных самодельных электробайков: инженерное чудо

Серийные модели байков, которые превратили в очаровательные кастомы

ТехИнсайдер
«Глазами альбатроса»: Ученый отправляется в путешествие, чтобы понаблюдать за жизнью альбатросов «Глазами альбатроса»: Ученый отправляется в путешествие, чтобы понаблюдать за жизнью альбатросов

Атолл Мидуэй лежит в томном одиночестве в центре северной части Тихого океана

N+1
Обет молчания и другие явления, которых на самом деле нет, а ты уверен, что есть Обет молчания и другие явления, которых на самом деле нет, а ты уверен, что есть

Для несуществующих эти явления слишком уж крепко прижились в массовой культуре

Maxim
Физики достоверно увидели тетранейтрон Физики достоверно увидели тетранейтрон

Увиденный физиками тетранейтрон оказался резонансом

N+1
На вкус как Луна: зачем NASA кормило тараканов грунтом На вкус как Луна: зачем NASA кормило тараканов грунтом

Почему ученым пришло в голову кормить тараканов лунным грунтом?

N+1
«Менять надо не людей, а систему»: почему кризис может привести к росту бездомности «Менять надо не людей, а систему»: почему кризис может привести к росту бездомности

О помощи беженцам и безработным, об уходе крупных доноров с российского рынка

Forbes
Охотница на королей: как Диана де Пуатье завладела сердцем французского монарха Охотница на королей: как Диана де Пуатье завладела сердцем французского монарха

Диана де Пуатье почти тринадцать лет была некоронованной королевой Франции

Вокруг света
Открыть в приложении