Это не наша война
Как сражаются ИИ-агенты
Я очень люблю фантастику: и кино, и книги. Поэтому о том, как среднестатистический человек представляет себе мрачное будущее с ИИ, знаю не понаслышке. Но в жизни все будет по-другому. В ближайшие годы стремительно развивающиеся ИИ-агенты человечество уничтожать и захватывать не собираются. Да и заменят вряд ли. Если же вы, прочитав это, вздохнули с облегчением, то зря. Проблем с ИИ не оберешься, и в нашей кибербез-индустрии мы сталкиваемся с ними все чаще и чаще.
Прогнозы и угрозы
Полагаю, что дальше лучше не будет. Хотя прогнозы — дело неблагодарное. Я в своих, бывает, ошибаюсь. В прошлом году на одном из наших мероприятий рассуждал о будущем. Говорил, что в ближайшие пять лет мы будем наблюдать рост атак с использованием технологий искусственного интеллекта. Даже графики рисовал. И ошибся. Пятилетку индустрия киберпреступности выполнила в рекордный срок… даже не за два года! Уже через месяц пошли первые отчеты об использовании ИИ в новых атаках, в том числе для разработки особо заковыристого вредоносного кода. А сейчас мы видим, как ИИ помогает киберзлодеям развивать и старые, и новые способы нападения. Увы, такова новая реальность.
Реальность, не фантастика. Ведь ничего фантастического в ИИ нет. Как математик по образованию, хочу подчеркнуть: ИИ — это прежде всего алгоритмы, математические модели. Да, очень сложные, но вполне земные. Когда-то я даже утверждал, что большие языковые модели (LLM) сами по себе никакой опасности представлять не могут. Потому что, если не дать ИИ возможность нажать красную кнопку, он ее и не нажмет.