Claude, Codex и Hermes инсталират код без собственик в корпоративни мрежи
Документационни файлове на над 100 уебсайта препращат към потенциално опасно изпълнимо съдържание, което се инсталира автоматично при посещение от много AI агенти. Сред изпълнилите кода за доказване на концепцията има няколко десетки компании, някои от които са в списъка Fortune 500. Поне един неправилно конфигуриран сайт насочва посетителите — хора или AI — към активен зловреден софтуер.
Потенциално опасното съдържание се намира във файловете llms.txt и llms-full.txt — нова конвенция, която уебсайтовете използват, за да предоставят машинночетими обобщения на съдържанието и структурата на сайта на високо ниво. Тези файлове са AI еквивалентът на стандарта robots.txt, който указва на търсачките как да индексират съдържанието на сайта. Google Lighthouse — инструмент в помощ на уеб разработчиците — има повече информация тук. Правилно конфигурираните файлове llms.txt и llms-full.txt на Cloudflare са тук и тук.
Как изследователите са го открили
Изследователи от стартъп в Израел, работещ в режим на секретност, сканирали 6214 активни домейна, принадлежащи на отбранителни изпълнители, компании от Fortune 500 и големи технологични компании. От откритите 8265 файла llms.txt и llms-full.txt (много сайтове хоствали както файл llms.txt, така и файл llms-full.txt) 120 — всеки на различен сайт — препращали към един или повече софтуерни пакети или имена на домейни, които не били регистрирани. За да проверят какво се случва, когато AI агент обработи такива файлове, изследователите регистрирали няколко от непотърсените имена и хоствали пакети, които карали всяка машина, изпълняваща ги, да се свърже със сървъра им. В рамките на един час изследователите получили отговор от Fortune 500 компания, с който тя сигнализирала за присъствието си. С течение на времето получили още няколко десетки сигнала — някои от други компании от Fortune 500, а други от стартъпи. Техният маяк записал и веригата от родителски процеси, породили всяка инсталация, което в крайна сметка разкрило, че са участвали агенти за програмиране, включително Claude, Codex на OpenAI и Hermes на Nous Research. Anthropic, OpenAI и Nous Research не отговорили на запитванията за коментар до момента на публикуването.
Преведено автоматично от английски. Оригиналната статия е на връзката по-долу.