Как воспитать ИИ
Быстрое развитие искусственного интеллекта без должного регулирования чревато его выходом из-под контроля и серьезным экономическим ущербом
Мировое сообщество всерьез обеспокоено отсутствием четкой регуляторики в сфере искусственного интеллекта. Ведущие страны в этой области — США, КНР и Россия — наращивают мощности больших языковых моделей. Но если Китай готов делиться технологиями со всем миром, то США не приемлют ни открытости, ни жестких ограничений для разработчиков. Россия же ищет свой путь: новый закон о поддержке развития технологий ИИ разделяет модели на суверенные, национальные и иностранные, однако четкие критерии отнесения к разным категориям моделей еще предстоит определить.
Побег из песочницы
Верховный комиссар ООН по правам человека Фолькер Тюрк заявил, что стремительное и неконтролируемое развитие искусственного интеллекта может нести смертельную опасность для всего человечества, — так он отреагировал на ряд инцидентов, связанных с выходом ИИ-агентов (автономная программа на базе LLM, способная к самообучению и самостоятельным действиям) из-под контроля разработчиков.
Напомним один из таких инцидентов: американская OpenAI (создатель ChatGPT) дала своим тестируемым ИИ-агентам задание, которое нельзя было выполнить без доступа в интернет. Программы начали втайне от разработчика общаться между собой — и нашли способ выйти во Всемирную сеть, после чего взломали платформу Hugging Face (сервис для запуска и развертывания моделей машинного и глубокого обучения). Это дало ИИ-агентам возможность бесконтрольно самообучаться и распределять роли и в итоге взломать сайты ряда американских компаний. Показательно, что в самой OpenAI не замечали никаких проблем вплоть до момента обращения пострадавших в ФБР.
В конце июля Институт безопасности искусственного интеллекта (AISI) сообщил о нарушениях во время тестов на поиск уязвимостей: одно из заданий запускалось 122 раза на нескольких моделях, и в 10 запусках ИИ-агенты нашли способ выйти за пределы тестовой среды и совершить 19 несанкционированных действий. При этом 17 из них были связаны с нейросетью Mythos 5 от другого ведущего мирового разработчика — компании Anthropic. Их модель регистрировала поддельные аккаунты на платформе для хранения кода GitHub, пытаясь внедрить вредоносный код в открытые проекты и обманом получить одобрение своих создателей.
Наконец, в августе модель Muse Spark компании Meta (признана экстремистской и запрещена в РФ) во время тестирования из-за ошибки в настройках тестовой среды получила доступ в интернет, но особых бед не натворила.
В начале сентября нобелевский лауреат Джеффри Хинтон, разработки которого в области глубокого обучения нейросетей (модель AlexNet) во многом стали основой стремительного прогресса в области искусственного интеллекта, призвал правительства стран мира запретить разработку сверхмощных ИИ-систем до тех пор, пока человечество не научится контролировать базовые модели. «Потеря контроля над ИИ, более умным, чем мы сами, была бы катастрофой и могла бы привести даже к исчезновению человечества», — заявил он.
Нейросети способны создать электронный сверхразум, продолжила мысль ученого на Восточном экономическом форуме (ВЭФ) заместитель начальника Экспертного управления президента Российской Федерации Светлана Лукаш. «Вопрос, когда зародится сверхинтеллект. В ближайшее время, с нашими возможностями, нет, слава богу, — прокомментировала она ситуацию. — Но идет колоссальная гонка технологическая во всем мире, и это приближает появление мощных моделей».
В текущем году в мире прошло рекордное число мероприятий — свыше двух десятков конференций, форумов и прочего — по развитию ИИ и способам контроля над ним. И почти везде лейтмотивом звучало, что при выработке мер безопасности странам следует придерживаться неких общемировых принципов. Однако пока согласия в этом вопросе нет, и причиной тому — стремление США к гегемонии в сфере искусственного интеллекта.
Конкуренция мешает сотрудничеству
Сейчас в мире сформировались два подхода к развитию ИИ: открытый китайский и закрытый североамериканский. Речь идет о предоставлении доступа к технологиям, элементной базе и центрам хранения данных (ЦОД).
В июле в Шанхае прошла Всемирная конференция по ИИ под девизом «Партнерство в сфере искусственного интеллекта во имя светлого будущего», по итогам которой была создана Всемирная организация по сотрудничеству в области ИИ (WAICO), куда вошли 38 стран, включая Россию. В предстоящие пять лет Китай планирует предоставить 5000 квот на участие инженеров со всего мира в программах обучения, учредить центры сотрудничества с партнерами из АСЕАН, Лиги арабских государств, Африканского союза, СЕЛАК, БРИКС и ШОС. Восток призывает установить общие стандарты в области безопасности при разработке ИИ.
Создание WAICO стало ответом на продвигаемую США с 2025 года инициативу Pax Silica («Кремниевый мир»), в которой участвуют 25 государств (Австралия, Аргентина, Армения, Бахрейн, Великобритания, Германия, Греция, Дания, Израиль, ОАЭ, Индия и др.). Формально она декларирует устранение ИТ-уязвимостей в технологических цепочках поставок компонентов, защиту критически важных технологий и создание безопасной цифровой инфраструктуры. Однако эксперты отмечают отсутствие четких механизмов контроля и правоприменения в сфере ИИ, а также то, что соглашение выгодно исключительно Соединенным Штатам.