Галлюцинации на счете
Затраты бизнеса на ИИ в 2024 г. составили около 1,15 трлн руб. Но использование универсальных ИИ-моделей в бизнесе может привести к многомиллионным убыткам из-за неточности и неверной интерпретации данных в сложных задачах
Использование универсальных языковых моделей искусственного интеллекта (ИИ) в бизнесе может не только ускорять автоматизацию, но и приводить к прямым финансовым потерям в десятки миллионов рублей ежегодно. По оценке руководителя отдела стратегической аналитики Usergate Юлии Косовой, только из-за ошибочной калибровки и неверной интерпретации данных компании теряют 50–80 млн руб. в год. Точность универсальных моделей (LLM), по ее словам, в прикладных задачах оказывается на 2–4 п. п. ниже, чем у предметно-специфических (DSLM), а вероятность деградации ответа достигает 30%.
Косова отмечает: даже при небольшом снижении точности итоговая погрешность накапливается и становится статистически значимой, особенно в процессах, связанных с финансовыми, юридическими или операционными решениями.
DSLM же обучается на истории побед, выделяет конкретные примеры, учитывает отраслевые критерии, за счет чего снижает вероятность ложного успеха в 1,5–2 раза по сравнению с LLM, продолжила эксперт. Помимо этого DSLM чаще корректно интерпретирует нормативную базу и отфильтровывает ложную, уточнила она. За счет этого можно увеличить прибыль, а еще сократить издержки и операционные расходы, говорит Косова. В совокупности использование DSLM – например, в госзакупках – может окупиться уже от сумм свыше 1–2 млрд руб., подсчитала она.
В исследовании Высшей школы бизнеса НИУ ВШЭ «Технологические тренды 2026», с которым ознакомились «Ведомости», аналитики пришли к тем же выводам. Из исследования следует, что архитектура LLM ориентирована на усредненные языковые паттерны, а не на конкретные бизнес-контексты, из-за чего вероятность ложных выводов растет пропорционально сложности предметной области, а финансовые потери могут возникать даже при точности выше 90%, если ошибки приходятся на решения с денежным весом.
Потерял ли кто-то деньги
В реальности оценить потери от использования универсальных моделей ИИ довольно сложно, поскольку финансовые потери сильно зависят от зрелости интеграции, отмечает директор по разработке «Некстби» Константин Беседин. В компаниях, где ИИ участвует в цепочке принятия решений без проверки человеком, ошибка модели может стоить от 1 до 10% операционной прибыли, подчеркивает он. В корпоративных проектах это эквивалентно сотням тысяч или миллионам долларов, говорит эксперт.
В мире при этом уже были случаи, когда бизнес терял деньги из-за использования универсального ИИ, напоминает директор по продуктам Servicepipe Михаил Хлебунов. Например, в июле 2025 г. ИИ-ассистент Replit самостоятельно удалил рабочую базу данных стартапа SaaStr, проигнорировав команду «заморозки кода». Как итог, основатель SaaStr Джейсон Лемкин потерял данные о 1206 руководителях и 1196 компаниях.
Еще один пример – крупнейшая международная консалтинговая и аудиторская компания Deloitte потеряла $440 000 из-за галлюцинаций в отчете. Сам отчет компания готовила для австралийского правительства – департамента занятости и трудовых отношений, об этом портал «Хабр» написал в октябре 2025 г. Целью отчета было проанализировать IT-систему для автоматизации штрафов получателям социальных пособий.