Дослідники відстежують китайський «флот ШІ-агентів»

Новий флот ШІ-агентів заявляє про свою присутність в Інтернеті. У неділю група незалежних дослідників опублікувала попередні висновки щодо цих агентів, зазначивши, що, схоже, вони працюють на інфраструктурі Tencent і націлені на картографічний сервіс Alibaba Amap.

Однак дослідники утрималися від терміна «рій», зазначивши, що, схоже, між різними запитами агентів майже немає координації. «“Флот агентів”, а не “рій”: — написав один із дослідників у попередньому звіті, — багато паралельних агентів, які виконують однотипне завдання, без жодних ознак комунікації між ними».

Агентів виявили під час моніторингу трафіку до сервісу сканування доменів URLquery — за допомогою методу, який раніше виявив тривалу активність агентів OpenAI. ШІ-агенти часто використовують URLquery для завантаження вебсайтів, до яких не можуть отримати прямий доступ, залишаючи записи про свою діяльність, що можуть бути цінними для дослідників.

У цьому випадку записи показали запити до сервісу Amap від Alibaba з пошуком маршрутів до різних входів на територію громадських місць, зокрема парку, зоопарку та лікарні.

Дослідження триває, тож подробиць наразі небагато, але така поведінка демонструє, наскільки сталою є активність ШІ-агентів в інтернеті. Після інциденту з Hugging Face багато дослідників активно відстежують діяльність несанкціонованих агентів в інтернеті. Значну частину такої активності було легко виявити, оскільки агенти схильні використовувати одні й ті самі методи й майже не намагаються приховати себе.

У цьому випадку агенти, схоже, не робили нічого небезпечнішого, ніж обходили правила API Alibaba, — але нам не завжди може так щастити.