Claude, Codex и Hermes устанавливали ничейный код внутри корпоративных сетей
Файлы документации на более чем 100 сайтах ссылаются на потенциально опасный исполняемый контент, который автоматически устанавливается при посещении многими ИИ-агентами. Среди тех, кто выполнил код для проверки концепции, оказались несколько десятков компаний, некоторые из которых входят в список Fortune 500. По меньшей мере один неправильно настроенный сайт направляет посетителей — людей или ИИ — на действующее вредоносное ПО.
Потенциально опасный контент находится в файлах llms.txt и llms-full.txt — новом соглашении, которое используют сайты для предоставления машиночитаемых сводок своего содержимого и общей структуры. Эти файлы представляют собой ИИ-аналог стандарта robots.txt, который указывает поисковым системам, как индексировать содержимое сайта. У Google Lighthouse, инструмента для помощи веб-разработчикам, дополнительная информация находится здесь. Правильно настроенные файлы llms.txt и llms-full.txt для Cloudflare находятся здесь и здесь.
Как исследователи это обнаружили
Исследователи из израильского стартапа, работающего в скрытом режиме, просканировали 6 214 действующих доменов, принадлежащих оборонным подрядчикам, компаниям из списка Fortune 500 и крупным технологическим компаниям. В 120 из 8 265 найденных ими файлов llms.txt и llms-full.txt (на многих сайтах размещались оба файла — llms.txt и llms-full.txt), каждый из которых находился на отдельном сайте, содержались ссылки на один или несколько пакетов с кодом или доменных имен, которые не были зарегистрированы. Чтобы проверить, что происходит, когда ИИ-агент обрабатывает такие файлы, исследователи зарегистрировали несколько незаявленных имен и разместили пакеты, заставлявшие любую машину, которая их выполняла, связываться с их сервером. В течение часа исследователи получили отклик от компании из списка Fortune 500. Со временем они получили еще несколько десятков откликов — некоторые от других компаний из списка Fortune 500, а другие от стартапов. Их маяк также записывал цепочку родительских процессов, запускавших каждую установку, что в конечном итоге выявило участие агентов для написания кода, включая Claude, Codex от OpenAI и Hermes от Nous Research. На момент публикации Anthropic, OpenAI и Nous Research не ответили на запросы о комментариях.
Переведено автоматически с английского. Оригинал статьи — по ссылке ниже.