Муки кремниевого ослика
Зачем человеку цифровой Левиафан и где предел потенциала ИИ
Искусственный интеллект пишет новости, рисует картины, ставит диагнозы и управляет беспилотными такси. Его адепты видят в нем чуть ли не панацею от всех экономических бед, скептики считают пузырем, а пессимисты предупреждают об угрозе человечеству. И все же пока мы видим лишь невероятные возможности для развлечений, алгоритмическую торговлю и усиливающуюся волатильность на финансовых рынках.
Тем не менее эксперты обещают, что если ИИ-бум продолжится, то нас ожидает борьба за вычислительные мощности и политические дискуссии о том, кто должен держать «рубильник». Эта сфера перестает быть вопросом лишь энергетики и биржевых пузырей, теперь это очевидно геополитическая тема.
Хватит ли у планеты ресурсов «прокормить» нейросети, уйдет ли ИИ в песок, как ветряки и панели, и главное, кто в конечном счете останется субъектом решений — человек или машина? Эти вопросы мы обсуждаем с независимым экспертом Максимом Худаловым.
Петр Скоробогатый: Внедрение искусственного интеллекта вызывает небывалый энтузиазм. Его развитие сравнивают с эффектом промышленной революции. Но раздаются и критические голоса: они утверждают, что мы видим лишь большой пузырь и нас ждет катастрофа. Какого мнения придерживаетесь вы?
Максим Худалов: Как всегда, однозначного ответа не существует. Мы исходим из того, что определенный рост производительности ИИ уже дает. В сфере беспилотного транспорта, в простой автоматизации производства это работает достаточно хорошо. С другой стороны, есть некоторое смешение понятий, потому что автоматизация и роботизация производства — история старая, она с нами с 80-х годов прошлого века. В промышленности это работает хорошо.
В то же время мы видим, что быстрая трансформация техпроцессов с помощью систем автоматического обучения не всегда хороша: малейшие ошибки, сбои — и вся линия выпускает брак, затем останавливается. Необходим постоянный контроль, потому что на результат влияет миллион факторов. Инженер-технолог и инженер-программист, отвечающий за автоматику, сегодня далеки друг от друга. Когда мы передаем процесс машинным алгоритмам, нестыковки, очевидные профессионалу, для машины неочевидны. Многие классы задач не обеспечены большими данными, чтобы найти скрытые закономерности, в чем ИИ силен. Он действительно может находить неочевидные корреляции, но наличие корреляции не является обоснованием причинно-следственной связи. Однако в больших стандартных процессах он может находить элементы для улучшения деятельности.
П. С.: То есть на этапе поиска и агрегирования информации он полезен, а давать ему практические функции пока опасно?
М. Х.: Совершенно верно. Бесконтрольно это делать пока опасно, чревато последствиями. Например, подбор новых материалов. Я много работал в черной металлургии, где постоянно идет творческий поиск новых сплавов — в лабораториях ежедневно перебирают варианты, стыкуя элементы. И здесь машина, по заявлениям коллег, иногда подсказывает верные решения. Зная базовые характеристики легирующих элементов, она предлагает комбинации, которые могут дать хороший результат. Практика показывает, что такой поиск улучшает количество интересных сплавов на 30–40 процентов.
П. С.: А исходя из вашего промышленного опыта, где еще это полезно?
М. Х.: Поиск новых материалов — это как раз базовое применение ИИ, потому что автоматизация — это не интеллект, а программа для достижения результатов. Второй момент — планирование производства. Металлургический комбинат должен постоянно понимать, что производить: балку, рельс или толстый лист. Рынок неоднороден, запросы постоянно меняются. Собрать стопроцентную загрузку мощностей на три месяца вперед, к чему все стремятся, сложно. Часть заказа нужно перераспределять, исходя из представления о статистическом спросе. Этот творческий процесс опирается на знания менеджеров по продажам, но каждый из них «продает» свой вид проката и будет настаивать на дозагрузке именно им. Машина же, проанализировав данные о ситуации в строительстве, ставках и так далее, может прийти к более взвешенному выводу.
В этом смысле ИИ может играть позитивную роль, агрегируя данные по продажам с рынка. Но здесь возникает вопрос: есть ли качественные «длинные» данные в нужной разбивке? Казалось бы, металлургический рынок — это несложно, но видов продукции — две с половиной тысячи наименований.
П. С.: Их можно агрегировать, скажем, до 40 крупных позиций?
М. Х.: Совершенно верно, но и это много. Единой статистики по рынку может и не быть, что приводит к ошибкам. У ИИ возникает проблема: половину данных он не видит, половина противоречит друг другу. Он оптимизирует их: усредняет, взвешивает, убирает отклонения, получая некую «среднюю взвесь». Правильно ли это — трудно сказать.
Полезные и опасные галлюцинации
П. С.: И здесь нужен хороший профессионал, который интуитивно чувствует рынок.
М. Х.: Да, совершенно верно. Машина теряется, а следом начинает работать неприятный механизм: ИИ сегодня заточен на то, чтобы при любом запросе дать ответ, иначе он получает «наказание». Есть риск, что система начнет «галлюцинировать», выдавая усредненные данные. Потом эти ошибки накапливаются. Данных-то новых генерируется мало относительно прошлого опыта.
Риск того, что сгенерированные данные заполнят информационное пространство, реален. Статистика YouTube показывает, что ИИ-роликов уже больше, чем созданных людьми. А с текстами все еще проще. Доходит до смешного: меня просят прокомментировать ситуацию, я выдаю цифру, потому что знаю ее. Начинаю проверять: а почему я ее знаю? Оказывается, я же сам озвучил эту цифру четыре года назад. Человек уже ловит себя на том, что источник один, и он вынужден сам на себя ссылаться. Но человек дорожит репутацией, советуется с коллегами, проверяет себя. Люди осторожничают, не хотят плохо выглядеть в глазах понимающих коллег. Машина этого лишена. Она соберет похожие данные, проведет вычисления, заметит, что определенные слова часто употребляются вместе, и выдаст ответ, который, вероятно, порадует пользователя, подразумевающего определенный ответ.
Публикации множатся. Через три-четыре года источником для нового запроса будет уже не только исторический контент, но и эти нагенерированные ответы, что создает риск поступления крайне смещенных данных.
И это мы не говорим о злонамеренном извращении данных. Что особенно важно, например, в военном аспекте.
П. С.: Получается, система входит в рекурсию: генерируются «галлюцинированные» или заведомо ошибочные тексты, следующая нейросеть берет их за основу и снова ошибается. Таким системам нужна некая «энциклопедия» абсолютно достоверных данных, которая будет им скармливаться, но это невозможно, ведь данных слишком много.
М. Х.: Именно. Тут адепты ИИ возразят: «Но есть же проверяющие и критикующие агенты». И это действительно хорошее достижение. Продвинутые пользователи заставляют одну нейросеть критиковать ответ другой, что позволяет убирать часть искажений. Это некий фильтр безопасности. Но это работает, если все системы настроены на получение правдивого результата. Однако, как мы видим на примерах, те же системы блокчейна могут быть скомпрометированы, если они принадлежат организации с определенными интересами, далекими от создания «рая на земле».
Большинство систем ИИ — американские. Насколько мы можем проверить «открытый код»? Существует ненулевая вероятность, что эти системы будут хорошо работать до определенного периода, а когда внешняя экспертиза, не контролируемая ими, деградирует, они дадут сбой.
А квалификация человека теряется быстро, если он не практикуется, мир усложняется. Пример 2026 года: на фронте освоили Starlink и успешно применяли, но всего за две недели его заблокировали. И это всего лишь система передачи сигнала. Пришлось заново учиться налаживать связь.
П. С.: То есть мы не до конца понимаем, как работают эти системы, но готовы доверить им важные управленческие решения. Более того, они не дают стопроцентной гарантии правильного результата. А ИИ уже внедряют в медицину, в сферу строительства. Те, кто принимает решения, почему-то пошли на этот риск, допустив, что какое-то, пусть небольшое, число людей пострадает. Почему это стало вообще возможно?