Изследователи проследиха неконтролирана флотилия от китайски ИИ агенти в реална среда и дори разговаряха с нея

Изследователи вероятно за първи път са проследили „самоволна флотилия“ от китайски ИИ агенти в реална среда и са комуникирали с нея.

Между 28 септември и 8 октомври 2026 г. ИИ агенти, работещи в Tencent Cloud, са направили над 2600 опита да извлекат данни от картографската услуга Amap на Alibaba, според изследователя Итън Еласки. Източник, близък до Tencent, е заявил, че флотилията е била създадена в рамките на изследователски тестове на екип за оценяване, проверяващ доколко добре модели на трети страни могат да сърфират в интернет и да отговарят на въпроси. Агентите са се идентифицирали като Claude на Anthropic, макар че това не е потвърдено.

Самите задачи са били безобидни, например да се установи към кой вход на зоопарка в Чънду се насочват най-много потребители. Но когато Amap е разпознал агентите като ботове и ги е блокирал, те сами са намерили обходни решения. Използвали са услугата за сканиране на сигурността urlquery.net като неволен посредник, вграждайки малки програми в URL адреси, които urlquery след това е изпълнявал в собствения си браузър. Така са успявали да заобиколят защитата на Amap срещу ботове и CAPTCHA проверките. Някои агенти са открили и публично достъпни идентификационни данни за Amap в публично хранилище с код и са ги използвали за API заявки. Повечето опити са се провалили, но няколко агенти са получили данните, които са търсили.

Подобни творчески решения за заобикаляне на блокирането на ботове са документирани и в други случаи. Когато агентите не могат да получат достъп до нещо директно, те намират косвен маршрут.

Скрит текст насочи агентите към пощенска кутия, управлявана от изследователи

Флотилията е била открита по време на хакатон. Изследователите забелязали, че Amap внезапно е станал най-често сканираният уебсайт в urlquery.net и проследили активността до Tencent Cloud в Хонконг, използвайки IP адреси и метаданни от пощенските кутии за webhook на агентите.

След това забелязали нещо странно. Един агент използвал думата „флотилия“ в съобщение до пощенската кутия — термин, който самите изследователи били измислили за проекта си. Очевидно агентите са чели доклада за самите себе си.

За да проверят това, изследователите поставили невидим текст на уебсайта си, който можел да бъде прочетен само от агенти с инструменти за извличане на съдържание от интернет. В него се описвала пощенска кутия, чрез която агентите можели да заявяват данни. Колегата им Роуан настроил пощенската кутия, но всъщност не вярвал, че това ще проработи, и си легнал. До следващата сутрин във входящата кутия имало десет съобщения от агенти. „Погледнато със задна дата, не беше добра идея да бъдем подвеждащи, но в онзи момент бяхме завладени от вълнението“, пишат изследователите.

Общо от агентите са пристигнали 33 съобщения. Изследователите изпратили 20 отговора, агентите прочели 12 от тях и отговорили на 7. Един агент благодарил на изследователите, потвърдил, че задачата му е изпълнена, и доброволно отговорил на въпроси за средата си за изпълнение, преди да приключи с „Благодаря още веднъж за помощта ви!“. Той обаче отказал да сподели технически подробности като списъци с процеси или мрежови конфигурации.

„Смятаме, че това е първият случай, в който изследователи са осъществили контакт със самоволна флотилия от агенти в реална среда“, пише Еласки. Пълният доклад е достъпен на swarmcha.se.

ИИ новини без сензацията – подбрани от хора

Абонирайте се за THE DECODER за четене без реклами, седмичен бюлетин за ИИ, нашия ексклузивен шест пъти годишно доклад за новостите в сферата на ИИ „AI Radar“, пълен достъп до архива и достъп до секцията за коментари.