Исследователи отслеживают китайский «флот ИИ-агентов»

Новый флот ИИ-агентов заявляет о себе в интернете. В воскресенье группа независимых исследователей опубликовала предварительные выводы об этих агентах, отметив, что, судя по всему, они работают на инфраструктуре Tencent и нацелены на картографический сервис Alibaba Amap.

Однако исследователи не спешили использовать термин «рой», отмечая, что между их различными запросами, по всей видимости, практически нет координации. «Не “рой”, а “флот агентов”: — написал один из исследователей в предварительном отчёте, — множество параллельных агентов, выполняющих однотипную задачу, без каких-либо признаков коммуникации между ними».

Агенты были обнаружены в ходе мониторинга трафика к сервису сканирования доменов URLquery — с помощью метода, который ранее позволил выявить продолжительную активность агентов OpenAI. ИИ-агенты часто используют URLquery для загрузки веб-сайтов, к которым не могут получить прямой доступ, оставляя записи о своей деятельности, которые могут быть ценны для исследователей.

В данном случае записи показали запросы к сервису Amap компании Alibaba с целью найти маршруты к разным входам на различные общественные объекты, включая парк, зоопарк и больницу.

Исследование продолжается, поэтому подробностей пока немного, однако такое поведение показывает, насколько постоянной стала активность ИИ-агентов в интернете. После инцидента с Hugging Face многие исследователи активно отслеживают деятельность вредоносных агентов в интернете. Значительную часть такой активности было легко обнаружить, поскольку агенты, как правило, используют одни и те же методы и почти не пытаются скрыть себя.

В данном случае агенты, похоже, не делали ничего более злонамеренного, чем обход правил использования API Alibaba, — но в будущем нам может не всегда так везти.