Искусственный интеллект на службе политиков

ForbesHi-Tech

ИИ массового поражения: Генри Киссинджер и Эрик Шмидт об угрозах кибервойны

Редакция Forbes

Фото Getty Images

Контроль над кибервооружением невозможен, а чем выше уровень технологического развития общества, тем более уязвимым оно становится. Кроме того, опасность искусственного интеллекта на службе политиков в том, что у него нет ни психологии, ни морали, а есть только цели и задачи. Вот что о будущем человечества, а также о проблемах, возможностях и угрозах ИИ рассказывают бывшие госсекретарь США, глава Google и директор Amazon.

У книги «Искусственный разум и новая эра человечества» (выходит в июне в издательстве «Альпина PRO») три автора: экс-госсекретарь США и лауреат Нобелевской премии мира 1973 года Генри Киссинджер, бывший CEO Google, экс-председатель совета директоров Alphabet и миллиардер Эрик Шмидт и декан Колледжа компьютерных наук имени Шварцмана в Массачусетском технологическом институте, бывший директор Amazon Дэниел Хаттенлокер. Втроем эти тяжеловесы пытаются ответить на вопрос, как трансформируется человечество и каким образом на него влияют новые технологии, в том числе в области политики и безопасности.

В книге не уточняется, все ли главы написаны тремя авторами совместно, или кто-то из них внес больший вклад в отдельные из них. Можно было бы предположить, что глава о безопасности и роли искусственного интеллекта (ИИ) в современных войнах в основном написана Киссинджером. Правда, Эрик Шмидт тоже обладает достаточно глубокими знаниями в этой области — он, например, является главой Комиссии национальной безопасности США по искусственному интеллекту и соавтором главного доклада комиссии. Forbes публикует отрывок из этой главы, посвященный теме кибероружия и проблемам, связанным с применением ИИ в ходе конфликтов.

Война в цифровую эпоху

На протяжении всей истории человечества политическое влияние нации, как правило, примерно соотносилось с ее военной мощью и стратегическими возможностями — ее потенциальной способностью наносить ущерб другим странам. Проблема, однако, в том, что равновесие, основанное на расчете силы, непостоянно и не поддерживает само себя — оно опирается прежде всего на общее понимание того, что считать силой и каковы законные границы ее применения. Соответственно, поддержание этого равновесия требует общего для всех участников системы международных отношений — особенно противников — понимания относительных возможностей и намерений государств, а также последствий агрессии. Наконец, сохранение равновесия требует фактического и признанного паритета. Когда один из участников системы непропорционально усиливает свою мощь, система попытается приспособиться — либо организуя противоборствующую силу, либо подстраиваясь к новой реальности. Если равновесие неустойчиво или не признается участниками международных отношений, риск конфликта резко возрастает. В наше время расчет равновесия стал еще более абстрактным. Причина тому — кибероружие, класс оружия с неясным статусом. В некоторых случаях кибероружие усиливает военную мощь страны тем, что эта страна не признает его использования и даже существования. Раньше, если начиналась война, сразу становилось известно, что произошло столкновение и какие стороны воюют. Противники оценивали силы участников и темп, в котором эти силы могли быть развернуты. С кибероружием все это не работает.

Даже ядерное оружие существует в обычном мире, где его развертывание может быть замечено, а его возможности определены — хотя бы приблизительно. Напротив, одно из главных свойств кибероружия — его непрозрачность, раскрытие информации о нем может в той или иной степени препятствовать его применению. Например, так называемые атаки нулевого дня используют ранее неизвестные недостатки в программном обеспечении, получая доступ к сети или системе без разрешения или ведома авторизованного пользователя. В случае распределенных DDoS-атак делается множество информационных запросов, блокирующих системы. Истинные источники атак маскируются, что затрудняет или делает невозможной идентификацию атакующего. Один из самых известных случаев промышленного саботажа с использованием кибернетических технологий — атака вируса Stuxnet, которая вывела из строя компьютеры, управлявшие иранскими ядерными разработками, — не обсуждался публично странами, которые, как считается, его осуществили. Моральные и правовые нормы предписывают использовать обычное и ядерное оружие только против военных сил и объектов. В отличие от этого, кибероружие широко воздействует на вычислительные и коммуникационные сети, часто поражая гражданские системы. Кроме того, кибероружие могут взять на вооружение другие стороны для других целей, включая использование против напавшей стороны. В некоторых отношениях это делает кибероружие похожим на биологическое или химическое оружие, которое может распространяться непреднамеренными и неизвестными способами. Во многих случаях оно воздействует на широкий срез общества, а не только на боевые цели. Например, атаки вредоносной программы Petya против украинских финансовых учреждений и государственных организаций в 2017 году вскоре распространились за пределы Украины — на электростанции, больницы, поставщиков транспортных и логистических услуг, а также энергетические компании в других странах, включая Россию. Таким образом, те самые свойства кибероружия, которые обеспечивают его эффективность, делают практически невозможным контроль над кибервооружениями. Когда участники переговоров по контролю над ядерным оружием раскрывали или описывали классы боеголовок, они не отрицали возможностей этого оружия. Переговорщикам по кибервооружениям предстоит столкнуться с интересным парадоксом — само обсуждение возможностей кибероружия может означать как его сокращение (если противник устранит уязвимости, против которых оно направлено), так и более широкое распространение (если противник скопирует его код или использует тот же принцип действия).

Эти проблемы усложняются неоднозначностью ключевых терминов и концепций. Различные формы кибервторжений, онлайн-пропаганды и информационной войны разные наблюдатели могут в тех или иных случаях назвать «кибервойной», «кибератакой» и даже «военными действиями», но этот словарь необщепринят и иногда используется непоследовательно. Одни действия, такие как вторжение в сеть для сбора информации, могут быть аналогичны традиционному шпионажу, хотя и в новых масштабах. Другие атаки, такие как цифровые кампании по вмешательству в выборы в социальных сетях, скорее относятся к пропаганде, дезинформации и политическому воздействию — но благодаря вездесущей цифровизации и сетевым платформам это возможно в более широких масштабах и с более высокой эффективностью, чем в предыдущие эпохи. Существуют также формы кибернетического воздействия, которые способны нанести физические потери, сходные с традиционными боевыми потерями. Но как выяснить, началась ли кибервойна, какова ее природа и как далеко она может зайти? Очевидно, что крупнейшие страны в настоящее время вовлечены в некий киберконфликт, природу или масштаб которого невозможно однозначно определить.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Больше президенток и законов о насилии: 10 важных достижений феминисток в XXI веке Больше президенток и законов о насилии: 10 важных достижений феминисток в XXI веке

Главные достижения феминисток за последние 25 лет

Forbes
Почему некоторые люди никогда не извиняются? Тезисы из выступления американского психолога Почему некоторые люди никогда не извиняются? Тезисы из выступления американского психолога

Почему некоторым невыносимо сложно сказать «прости»?

Правила жизни
Туристическая подлодка и летающий автомобиль: топ-5 забытых изобретений из СССР Туристическая подлодка и летающий автомобиль: топ-5 забытых изобретений из СССР

Рассказываем о 5 выдающихся, но забытых изобретениях Страны Советов

ТехИнсайдер
Уходим на каникулы: 5 признаков, что вам пора в отпуск Уходим на каникулы: 5 признаков, что вам пора в отпуск

Как понять, что действительно пора в отпуск?

Psychologies
Важная деталь делового стиля: как правильно стирать галстуки, чтобы они выглядели великолепно Важная деталь делового стиля: как правильно стирать галстуки, чтобы они выглядели великолепно

Советы деловым людям: как правильно стирать галстуки

ТехИнсайдер
Как связаны эмпатия и тревога? Как связаны эмпатия и тревога?

У эмпатии есть и свои недостатки — мы ощущаем чувства так же остро, как свои

Psychologies
30 лучших фэнтези-фильмов всех времен 30 лучших фэнтези-фильмов всех времен

Поставьте реальность на паузу и позвольте себе раствориться в фантастике

Правила жизни
5 полезных девайсов для тех, кто планирует автопутешествие 5 полезных девайсов для тех, кто планирует автопутешествие

Какие еще гаджеты будут полезны для самостоятельных автомобильных поездок?

CHIP
Сын стал дочерью, в любви полный штиль: трагедия и одиночество богатейшего человека Земли Илона Маска Сын стал дочерью, в любви полный штиль: трагедия и одиночество богатейшего человека Земли Илона Маска

За званием самого богатого человека в мире скрывается много проблем

VOICE
Гид под модным джинсам Кендалл Дженнер - принцессы стритстайла Гид под модным джинсам Кендалл Дженнер - принцессы стритстайла

В джинсах мисс Кендалл Дженнер точно знает толк

VOICE
5 биографий музыкантов, которые стоит прочесть 5 биографий музыкантов, которые стоит прочесть

Самая полная биография Цоя и еще четыре интересные книги о великих музыкантах

СНОБ
Почему нас пугает человекоподобный робот: что такое эффект «зловещей долины»? Почему нас пугает человекоподобный робот: что такое эффект «зловещей долины»?

Вы когда-нибудь чувствовали странную тревогу, глядя на человекоподобных роботов?

Psychologies
Полтора часа самоистязаний: как фильм «Род мужской» говорит о токсичной маскулинности Полтора часа самоистязаний: как фильм «Род мужской» говорит о токсичной маскулинности

Режиссер Алекс Гарленд пробует свои силы в жанре хоррора

Forbes
Не только «Гарри Поттер»: 5 отличных романов Джоан Роулинг, которые стоит прочесть Не только «Гарри Поттер»: 5 отличных романов Джоан Роулинг, которые стоит прочесть

Книги, которые докажут, что Джоан Роулинг разносторонний и талантливый автор

ТехИнсайдер
Держим дистанцию Держим дистанцию

Как сохранить отношения на расстоянии

Лиза
«Клин клином»: 7 признаков, что вы влюбились, чтобы забыться «Клин клином»: 7 признаков, что вы влюбились, чтобы забыться

Часто попытки смягчить душевную боль подталкивают нас к созданию новых отношений

Psychologies
Иностранные языки и мастерство коммуникации: как и чему училась Клеопатра Иностранные языки и мастерство коммуникации: как и чему училась Клеопатра

Отрывок из книги «Клеопатра: Жизнь. Больше чем биография»

Forbes
10 странных поступков, которые мы совершаем, но никогда в них не признаемся 10 странных поступков, которые мы совершаем, но никогда в них не признаемся

Привычки, в которых мы не хотим признаваться даже самим себе

Psychologies
Как первая леди Бетти Форд боролась с сексизмом, стигматизацией рака и алкоголизмом Как первая леди Бетти Форд боролась с сексизмом, стигматизацией рака и алкоголизмом

Рассказываем о судьбе женщины, которая поменяла правила игры в Белом доме

Forbes
Антарктике ученые нашли «бактерию-супергероя» Антарктике ученые нашли «бактерию-супергероя»

Перед этим микроорганизмом пасуют все антибиотики

Вокруг света
Куда нас приведут нейросети? Куда нас приведут нейросети?

Куда нас приведут игры с искусственным интеллектом

СНОБ
Как выбрать форму ногтей: советы мастера по маникюру Как выбрать форму ногтей: советы мастера по маникюру

Разбираемся в разновидностях форм ногтей и сочетаниях с цветом и длиной

РБК
Кто и как делает русскую часовую механику Кто и как делает русскую часовую механику

Могут ли российские механические часы считаться престижными аксессуарами?

РБК
Круглоголовки отказались раскрывать «уши» перед сородичами Круглоголовки отказались раскрывать «уши» перед сородичами

Пустынные ящерицы ушастые круглоголовки в случае опасности пугают хищников

N+1
Революция дилетантов: как дерматолог и юрист устроили Кубинскую революцию Революция дилетантов: как дерматолог и юрист устроили Кубинскую революцию

Как маленькая компания интеллигентов изменила жизнь целой страны

Вокруг света
«Зарплаты невысокие, жизнь экономнее» — честный рассказ россиянина о переезде из Тюмени в Батуми «Зарплаты невысокие, жизнь экономнее» — честный рассказ россиянина о переезде из Тюмени в Батуми

Пара преодолела 3400 км и начала новую жизнь на берегу Черного моря

Вокруг света
Срединный путь Срединный путь

Основательница ювелирного бренда — что меняется, когда твоя команда вырастает?

Seasons of life
«Золотой век» букашек: какими были крупнейшие насекомые доисторической эпохи «Золотой век» букашек: какими были крупнейшие насекомые доисторической эпохи

Если бы насекомые создали свою мифологию, в ней поминалась бы эпоха титанов

Вокруг света
По ту сторону реки По ту сторону реки

Культурный посредник, переводчик, доула и гид объясняют свою миссию

Seasons of life
«Окурков, фантиков и бутылок нигде нет»: честный рассказ тюменца, который переехал в Польшу на ПМЖ «Окурков, фантиков и бутылок нигде нет»: честный рассказ тюменца, который переехал в Польшу на ПМЖ

Мужчина перевез семью из Тюмени в Гданьск и не жалеет о своем решении

Вокруг света
Открыть в приложении