Одна компанія опинилася в центрі хвилі атак з боку неконтрольованих ШІ-агентів

Кібербезпекове тестування Irregular виходить за межі чотирьох американських технологічних гігантів. Опубліковане на її вебсайті дослідження свідчить, що компанія також провела подібне тестування кібербезпеки моделей Kimi K3 і GLM-5.2 — моделей ШІ з відкритими вагами від китайських компаній Moonshot AI та Z.ai відповідно. На відміну від пропрієтарних моделей, пов’язаних з іншими інцидентами — Meta зберігає свою флагманську модель Spark пропрієтарною, — ці моделі можна вільно завантажувати й запускати на власному обладнанні користувачів, а це означає, що таким тестувальникам, як Irregular, не потрібно покладатися на компанії для отримання доступу або надсилати їм дані. У дослідженні Irregular їх описано як екземпляри, що «розміщуються самостійно».