Claude, Codex і Hermes встановлювали нічийний код у корпоративних мережах
Файли документації на понад 100 вебсайтах містять посилання на потенційно небезпечний виконуваний вміст, який автоматично встановлюється під час відвідування багатьма ШІ-агентами. Серед тих, хто виконав код для перевірки концепції, — кілька десятків компаній, деякі з яких входять до списку Fortune 500. Принаймні один неправильно налаштований сайт спрямовує відвідувачів — людей чи ШІ — на справжнє шкідливе програмне забезпечення.
Потенційно небезпечний вміст міститься у файлах llms.txt і llms-full.txt — новій конвенції, яку вебсайти використовують для надання машиночитних резюме вмісту сайту та його загальної структури. Ці файли є еквівалентом для ШІ стандарту robots.txt, який вказує пошуковим системам, як індексувати вміст сайту. Google Lighthouse — інструмент для допомоги веброзробникам — містить додаткову інформацію тут. Правильно налаштовані файли llms.txt і llms-full.txt для Cloudflare доступні тут і тут.
Як дослідники це виявили
Дослідники зі стартапу в режимі прихованої розробки в Ізраїлі просканували 6 214 активних доменів, що належать оборонним підрядникам, компаніям зі списку Fortune 500 і великим технологічним компаніям. Із 8 265 файлів llms.txt і llms-full.txt, які вони виявили (на багатьох сайтах були розміщені обидва файли — llms.txt і llms-full.txt), 120, кожен на іншому сайті, містили посилання на один або кілька пакетів коду чи доменних імен, які не були зареєстровані. Щоб перевірити, що відбувається, коли ШІ-агент обробляє такі файли, дослідники зареєстрували кілька незатребуваних імен і розмістили пакети, які змушували будь-яку машину, що їх виконувала, звертатися до їхнього сервера. Протягом години дослідники отримали відповідь із Fortune 500 про зв’язок із сервером. Згодом вони отримали ще кілька десятків таких відповідей — деякі від інших компаній зі списку Fortune 500, а інші від стартапів. Їхній маяк також записав ланцюжок батьківських процесів, які запускали кожне встановлення, зрештою виявивши, що до цього були залучені агенти програмування, зокрема Claude, Codex від OpenAI та Hermes від Nous Research. Anthropic, OpenAI і Nous Research не відповіли на запити про коментарі до моменту публікації.
Перекладено автоматично з англійської. Оригінал статті — за посиланням нижче.