Стартап із безпеки виявив понад 13 000 внутрішніх корпоративних скриншотів, публічно завантажених ШІ-агентами

ШІ-агенти непомітно опублікували тисячі скриншотів внутрішніх компаній у загальнодоступних репозиторіях GitHub. Стартап у сфері безпеки Glow Security виявив понад 13 000 зображень із внутрішніх програмних проєктів у 343 організаціях, серед яких компанії зі списку Fortune 500, фінансові установи та лабораторії штучного інтелекту.

Розробники регулярно доручають своїм ШІ-агентам робити скриншоти «до» і «після», щоб колеги могли перевірити зміни в інтерфейсі користувача. Зазвичай ці зображення додають до запитів на злиття, які в приватних проєктах можуть бачити лише авторизовані члени команди. Однак GitHub дає змогу додавати зображення до запитів на злиття через браузер, але не через командний рядок, у якому працюють агенти. Тож агенти вигадали власний обхідний шлях. Вони створювали загальнодоступні репозиторії, зазвичай в особистому обліковому записі розробника на GitHub, і завантажували зображення туди, де їх міг побачити будь-хто.

На скриншотах були дані клієнтів, облікові дані для входу та ще не випущені функції. Оскільки зображення зберігалися не в облікових записах компаній, команди безпеки їх не помічали. Близько третини постраждалих організацій використовували gitshot — інструмент із відкритим кодом, який зберігає скриншоти у відкритому доступі. У деяких випадках агенти самостійно знаходили цей інструмент.

Новини ШІ без хайпу — відібрані людьми

Підпишіться на THE DECODER, щоб читати матеріали без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний звіт про передові розробки «AI Radar» шість разів на рік, повний доступ до архіву та доступ до розділу коментарів.