Прецедент или галлюцинация
Как нейросети используют в судебных процессах и какие ошибки допускают
Сумма штрафов, наложенных судами по всему миру за ссылки на несуществующие решения, акты и искаженные цитаты, порожденные массовым и неумелым использованием технологий искусственного интеллекта (ИИ), уже исчисляется миллионами долларов. Галлюцинации нейросетей встречаются в документах не только обычных граждан, но также адвокатов, прокуроров и даже самих судей. Не обошла проблема стороной и Россию. Юристы утверждают, что суды завалены низкокачественными процессуальными документами, сгенерированными ИИ, тогда как этических стандартов работы с нейросетями пока нет. „Ъ“ разбирался, в чем главные ошибки использования ИИ в судебных спорах.
Галлюцинации пошли по миру
Крупнейшая база ИИ-галлюцинаций в судебных процессах собрана аналитиком и исследователем из Высшей коммерческой школы Парижа Дамьеном Шарлотеном. По состоянию на 5 июля она включала 1725 дел, в которых участники тяжб из Австралии, Бразилии, Великобритании, США, Франции, России и других стран допустили 5169 некорректных ссылок из‑за использования ИИ. В частности, это были выдуманные кейсы и нормы права, искаженные или сочиненные цитаты из судебной практики. Иногда стороны обосновывали свою позицию через научную литературу, которой никогда не существовало. Проблема в том, что пользователи зачастую не перепроверяют результаты генерации ИИ-сервисов, и поэтому суды теперь вынуждены тщательнее исследовать аргументы.
Число судебных дел с галлюцинациями ИИ растет год за годом. Если в 2023 году в базе было лишь 16 дел, то в 2024‑м — уже 59, а в 2025‑м их количество возросло до 827 дел. И похоже, что 2026‑й покажет новый рекорд: только за первое полугодие накопилось уже 814 дел. Аналитика показывает, что чаще всего ошибаются обычные граждане, которые представляют себя в суде без помощи профессионалов (1014 инцидентов). Но и юристы, защищающие интересы сторон, не слишком от них отстают — 673 случая с галлюцинациями ИИ. Приводят ссылки на выдуманную информацию и сами судьи (около 20 дел), уличены в некорректных упоминаниях судебные эксперты и прокуроры.
Не обходится без наказаний. В базе ученого насчитывается 298 денежных взысканий за ссылки на ИИ-галлюцинации.
По подсчетам „Ъ“, общая сумма штрафов с указанием валюты превышает $1,6 млн в долларовом эквиваленте. При этом из статистики следует, что суды благосклоннее относятся к обычным гражданам, активнее штрафуя профессиональных участников процесса. В разговоре с „Ъ“ Дамьен Шарлотен объяснил, что подходы государств различаются: «Израильские судьи, как правило, склонны назначать штрафы в силу сложившегося правила, однако суммы при этом невелики. В США штрафы встречаются реже, но могут включать в себя судебные издержки, а потому достигать весьма значительных сумм». Но в целом «большинство санкций — это просто предупреждения, по крайней мере на данный момент», уточнил он.
В большинстве кейсов сгаллюцинировавшая ИИ-модель не раскрывается. Среди дел, где нейросеть названа, лидером является ChatGPT (115 случаев). Гораздо реже упоминаются Claude, Grok, Perplexity, Microsoft Copilot и специализированные решения для юристов вроде Westlaw CoCounsel. Впрочем, это не говорит напрямую о том, что одни алгоритмы хуже или лучше других, ведь популярность у всех сервисов разная.
От теории к практике
В комментарии для „Ъ“ французский исследователь обратил внимание на два наиболее примечательных кейса из базы галлюцинаций. В первом из них 13 марта 2026 года Апелляционный суд шестого округа США оштрафовал двух адвокатов, на $15 тыс. каждого, за упоминание в жалобе несуществующих прецедентов. В решении говорилось, что юрист обязан проверять каждую ссылку в своем документе, независимо от того, использовал он ИИ или нет.
Попытка убедить суд в правильности своей позиции через фальшивые мнения является злоупотреблением, а цитирование ложных выводов с упоминанием имени настоящих судей вредит репутации судебной системы, отмечалось в документе. Ссылки на несуществующие дела, по мнению судьи, создают дополнительное бремя для суда и, как следствие, налогоплательщиков, поэтому виновных адвокатов необходимо штрафовать в счет возмещения затраченного времени на перепроверку всех упомянутых актов. Дополнительно в решении подчеркивалось, что «судебная система работает лишь тогда, когда и адвокаты, и суды могут полагаться на заявления друг друга».
В другом деле, рассмотренном в феврале, снова фигурировали два профессиональных представителя из США. Одна из них, адвокат Мэри Скотт, пыталась защититься от штрафа, заявляя, что не знала о рисках галлюцинаций. Но Федеральный окружной суд Южного округа Огайо этот аргумент отклонил. По мнению судьи, каждый практикующий юрист должен знать, что использование нейросетей может привести к подаче документа, содержащего ИИ-галлюцинации. Если адвокат не перепроверяет ссылки, то и суду, и противной стороне по спору приходится тратить время и деньги на разоблачение обмана, в итоге «это способствует росту цинизма по отношению к юридической профессии и судебной системе», резюмируется в решении.
Российские нейрореалии
Россия тоже не остается в стороне, но пока что публично известно об одном случае наказания за ссылки на фейковые дела и судебные акты. В мае Арбитражный суд Западно-Сибирского округа оштрафовал ООО ЦСС на 50 тыс. руб. Приведенная компанией в жалобе судебная практика либо не существовала и цитаты из решений были выдуманы, либо указанные дела касались совершенно других вопросов. Представитель ЦСС признал ошибку, пояснив, что юристы при подготовке жалобы использовали ИИ, который и сделал ссылки на фейковые документы. Но это не спасло от штрафа. Судья увидел в таком поведении «прямой обман» и «грубейшее проявление неуважения к правосудию», которое «не может иметь никаких оправданий».