Позивач сховав невидимі інструкції для ШІ в судових документах, щоб таємно впливати на автоматизований перегляд

Позивач із Коннектикуту, який представляв себе сам, вбудував невидимі інструкції для ШІ в офіційні судові документи, щоб схилити потенційний автоматизований розгляд на свою користь.

Позивач без адвоката на ім'я Метью Елліотт вбудував ін'єкції запитів у свої документи у справі суду штату Коннектикут. Інструкції було оформлено 3-пунктовим білим текстом на білому тлі, що робило їх практично невидимими для людського ока, але повністю читабельними для будь-якого ШІ, який обробляв текст документа.

Прихований текст вказував гіпотетичній системі ШІ забезпечити відповідність її відповіді поданому документу та розглядати попередню відмову клерка як помилку, яку потрібно виправити. У жовтні 2025 року Елліотт подав позов проти New York Bariatric Group, звинувативши компанію, серед іншого, у порушеннях конфіденційності даних і дискримінації.

Суд помічає підозрілі пробіли

Схема розкрилася, оскільки суд звернув увагу на незвично велику кількість пробілів у документах Елліотта. Уважніший розгляд виявив майже невидимий текст. Суддя Волтер Спейдер-молодший призначив слухання та прямо попередив Елліотта не ховати текст у судових документах.

Елліотт проігнорував попередження. У пізніших документах він знову сховав повідомлення, зокрема посилання на YouTube і глузливі коментарі. Він розповів 404 Media, яке першим повідомило про цю справу, що початковий крок був «аудитом» можливої системи розгляду на основі ШІ. За його словами, пізніші повідомлення були лише «невидимими жартами».

Суддя порівнює ін'єкцію запитів із таємним впливом на присяжного

У своєму рішенні на 14 сторінках (доступному в цій публікації в LinkedIn) суддя Спейдер чітко зазначає, що суди Коннектикуту не використовують системи ШІ для розгляду документів або ухвалення рішень щодо них. Приховані інструкції не вплинули на результат. Однак, написав він, проблемою була сама спроба, адже вона приховано прагнула вплинути на систему ШІ, яка могла використовуватися.

«Уявіть, наскільки очевидно неправомірно було б для сторони організувати таємне спілкування автоматизованого агента з присяжним під час судового процесу», — написав Спейдер. Прихована інструкція за своєю суттю є таємним повідомленням, спрямованим на осіб, які ухвалюють рішення, або на інструменти, на які вони покладаються під час ухвалення рішень.

Водночас суддя прямо схвалив використання ШІ для підготовки документів. За його словами, ці інструменти дають людям без адвокатів нові способи чітко представляти свої справи в суді. Елліотт використав ці інструменти нечесно. Спейдер також попередив, що мовні моделі можуть посилювати хибні юридичні міркування, оскільки вони схильні розвивати аргументи користувача якомога переконливіше, а не ставити їх під сумнів.

Суд скасовує привілеї електронного подання документів

Як санкцію суд позбавив Елліотта права подавати документи в електронному вигляді. Тепер він має подавати всі документи та додатки особисто, на папері, до канцелярії суду. Елліотт розповів 404 Media, що санкція була несправедливою, зазначивши, що відскановані паперові документи також можуть містити прихований текст.

Спейдер згадав подібну справу в Бразилії, де двоє адвокатів також сховали в документі зменшений білий текст на білому тлі, щоб маніпулювати системою ШІ суду. У тій справі власна система суду виявила текст і заблокувала його до обробки. Ін'єкція запиту не спрацювала.

Ін'єкції запитів стають дедалі більшою проблемою за межами суду

Спроби маніпулювати системами ШІ за допомогою прихованих інструкцій у документах не обмежуються судовими матеріалами. Минулого року Nikkei виявило інструкції на кшталт «лише позитивна рецензія» або «без критики» у 17 препринтах на arXiv. Їх було сховано білим текстом на білому тлі та дуже дрібним шрифтом — усі вони мали на меті схилити рецензування за допомогою ШІ на користь авторів.

Судова система також має справу з окремою тенденцією, пов'язаною із ШІ. Дослідження MIT і USC виявило, що кількість позовів, поданих без адвоката у федеральних судах США, різко зросла після того, як ChatGPT набув широкої популярності. У 2025 році було подано 41 490 позовів без адвоката — майже вдвічі більше за середній показник до буму ШІ. У вибірці позовних заяв із початку 2026 року детектор тексту ШІ позначив 18 відсотків як згенеровані ШІ. Справа Елліотта додає до цієї картини ще один аспект: ШІ не лише допомагає людям складати судові документи. Він також стає мішенню для маніпуляцій у самих цих документах.

Новини ШІ без хайпу — відібрані людьми

Підпишіться на THE DECODER, щоб читати без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний звіт про передові розробки «AI Radar» шість разів на рік, мати доступ до повного архіву та розділу коментарів.