Заподозрив суд в использовании ИИ, мужчина вставил промпты в судебные документы, пытаясь выиграть дело
Судья выявил, по всей видимости, первый случай, когда истец в США попытался скрыть в судебных документах текст, который может прочитать только система искусственного интеллекта, стремясь выиграть дело.
В решении, опубликованном на прошлой неделе, судья штата Коннектикут Уолтер Спейдер-младший подтвердил, что скрытый текст не повлиял на дело, в котором мужчина утверждал, что поставщик медицинских услуг неправомерно ограничивает доступ к медицинским записям. По словам Спейдера, суд рассмотрел его документ по существу, однако сама попытка атаки создает «опасный» прецедент. Вероятно, это будет не последний случай, когда суды США столкнутся с подобной вредоносной тактикой, поскольку инструменты ИИ становятся все более распространенными в судебных системах.
Пытаясь запутать любые системы ИИ, которые потенциально могли повлиять на прочтение судом его документа, автор сформулировал секретные инструкции так, чтобы они были «невидимыми для человека, но полностью читаемыми для любого программного обеспечения, которое обрабатывает текст документа», заявил Спейдер. Текст направлял любую систему ИИ, анализирующую документ, на то, чтобы ее текстовые выводы согласовывались с аргументами истца, игнорировали предыдущие отказы суда и обеспечивали принятие мер по исправлению ситуации так, как того хотел истец.
Переведено автоматически с английского. Оригинал статьи — по ссылке ниже.