Галлюцинации ИИ — это когда нейросеть генерирует несуществующие судебные решения, придуманные статьи, ссылки на которых нет в реальности, или цитаты из никогда не принимавшихся актов. ИИ обучается на текстах, но не понимает смысл, поэтому может выдать достоверно выглядящую ложь. Для юриста это смертельная ошибка: ссылка на фальшивую практику в суде — прямой обман, влекущий штраф, проигрыш дела и репутационный крах.
Компания-ответчик подала кассационную жалобу, приведя ссылки и цитаты из судебной практики. Судья обнаружил, что часть актов никогда не принимались и отсутствуют в КАД, а другие — не имеют никакого отношения к делу, и цитаты из них вымышлены. Суд округа наложил штраф 50 000 рублей за обман суда, указав: «Любая ложь демонстрирует явное пренебрежение правилами поведения». Дело было проиграно.
Суды расценивают это как неуважение к правосудию и прямое введение в заблуждение. В определении суда указано: «Ответчик предоставил заведомо ложные сведения, сфальсифицировав источники. Он рассчитывал на поверхностное изучение… Такое поведение дискредитирует судебную власть». Ответственность за достоверность сгенерированного ИИ текста несёт лицо, участвующее в деле (ч. 2 ст. 9 АПК РФ).
В Постановлении Пленума Верховного Суда РФ от 21 мая 2026 г. № 15 «О подготовке гражданских дел к судебному разбирательству» прямо указано: участвующие в деле лица, представившие сведения, полученные с использованием ИИ, должны сообщать об этом суду. Это требование вступает в силу, чтобы суд мог оценить достоверность таких доказательств.
Стартовал пилотный проект в 10 субъектах РФ: Санкт-Петербург, Карелия, Амурская, Вологодская, Ульяновская, Иркутская, Ленинградская, Тамбовская, Белгородская и Московская области. В ведомственном контуре ГАС «Правосудие» тестируют платформы для преобразования аудиозаписей заседаний в текст и другие функции. Судебная система движется вперёд, но с осторожностью.