Ищец скри невидими инструкции за ИИ в съдебни документи, за да влияе тайно върху автоматизиран преглед

Ищец в Кънектикът, който се представлява сам, вмъкнал невидими инструкции за изкуствен интелект в официални съдебни документи, за да повлияе в своя полза на потенциален автоматизиран преглед.

Ищецът Матю Елиът, който се представлявал сам, вмъкнал инжекции в заявките в документите си по съдебно дело в Кънектикът. Инструкциите били форматирани с бял текст с размер 3 пункта на бял фон, което ги правело практически невидими за човешкото око, но напълно четими от всеки изкуствен интелект, обработващ текста на документа.

Скритият текст указвал на хипотетична система с изкуствен интелект да гарантира, че резултатът ѝ съответства на подадения документ, и да приеме предишния отказ на съдебния секретар за грешка, която трябва да бъде поправена. Елиът завел дело срещу New York Bariatric Group през октомври 2025 г., като твърдял, наред с други неща, че са нарушени правата му за защита на личните данни и че е бил дискриминиран.

Съдът забелязва подозрителни празни пространства

Схемата била разкрита, защото съдът забелязал необичайно голямо количество празни пространства в документите на Елиът. При по-внимателен оглед се появил почти невидимият текст. Съдията Уолтър Спейдър-младши насрочил изслушване и изрично предупредил Елиът да не крие текст в съдебни документи.

Елиът пренебрегнал предупреждението. В по-късни документи той отново скрил съобщения, включително връзка към YouTube и подигравателни коментари. Той заявил пред 404 Media, която първа съобщила за случая, че първоначалният му ход бил „одит“ на възможна система за преглед с изкуствен интелект. По думите му по-късните съобщения били просто „невидими шеги“.

Съдия сравнява инжекцията със скрито влияние върху съдебен заседател

В решението си от 14 страници (достъпно в тази публикация в LinkedIn) съдия Спейдър ясно посочва, че съдилищата в Кънектикът не използват системи с изкуствен интелект за преглед или произнасяне по документи. Скритите инструкции не са повлияли на изхода от делото. Но самият опит бил проблем, пише той, защото тайно целял да повлияе на система с изкуствен интелект, която можело да се използва.

„Представете си колко очевидно неправомерно би било дадена страна да уреди автоматизиран агент да общува тайно със съдебен заседател по време на процес“, пише Спейдър. По същество скритата инструкция представлява тайна комуникация, насочена към лицата, вземащи решения, или към инструментите, на които те разчитат при вземането им.

Същевременно съдията изрично приветствал използването на изкуствен интелект за подготовка на документи. Тези инструменти дават на хората без адвокати нови начини да представят ясно делата си пред съда, пише той. Елиът обаче използвал тези инструменти нечестно. Спейдър също предупредил, че езиковите модели могат да затвърдят погрешни правни аргументи, тъй като обикновено развиват тезите на потребителя по възможно най-убедителния начин, вместо да ги оспорват.

Съдът отнема правото за електронно подаване

Като санкция съдът отнел на Елиът правото да подава документи по електронен път. Сега той трябва да предава всички документи и приложения лично, на хартия, в канцеларията на съда. Елиът заявил пред 404 Media, че санкцията е несправедлива, като посочил, че сканираните хартиени документи също могат да съдържат скрит текст.

Спейдър се позовал на сходен случай в Бразилия, където двама адвокати също били скрили смален бял текст на бял фон в документ, за да манипулират системата с изкуствен интелект на съда. В този случай собствената система на съда открила и блокирала текста, преди той да бъде обработен. Инжекцията се провалила.

Инжекциите се превръщат във все по-голям проблем и извън съдебната зала

Опитите за манипулиране на системи с изкуствен интелект чрез скрити инструкции в документи не се ограничават до съдебните документи. Миналата година Nikkei откри инструкции като „само положителна рецензия“ или „без критика“ в 17 препринта в arXiv. Те били скрити с бял текст на бял фон и с миниатюрен шрифт, като целта била да повлияят на рецензирането с помощта на изкуствен интелект в полза на авторите.

Правосъдната система се сблъсква и с отделна тенденция, свързана с изкуствения интелект. Проучване на MIT и USC установило, че броят на делата, заведени без адвокат във федералните съдилища на САЩ, рязко се е увеличил, откакто ChatGPT придобил масова популярност. През 2025 г. били заведени 41 490 дела от ищци, представляващи се сами — почти двойно повече от средното ниво преди бума на изкуствения интелект. В извадка от искови молби от началото на 2026 г. детектор за AI текст маркирал 18 процента като генерирани от изкуствен интелект. Случаят „Елиът“ добавя още един аспект към тази картина: изкуственият интелект не просто помага на хората да съставят съдебни документи. Той също така се превръща в мишена за манипулация в самите тези документи.

Новини за изкуствения интелект без сензации – подбрани от хора

Абонирайте се за THE DECODER, за да четете без реклами, да получавате седмичен бюлетин за изкуствения интелект, нашия ексклузивен водещ доклад „AI Radar“ шест пъти годишно, пълен достъп до архива и достъп до секцията за коментари.