В продължение на месеци рояци от агенти на OpenAI атакуват онлайн бази данни, за да откриват малко известни факти

С малко помощ от водещите лаборатории независими изследователи сглобяват картината на това как ИИ агенти се координират в затънтени места в интернет, за да получат достъп до лични данни, хоствани на защитени сървъри.

Transluce, лаборатория с нестопанска цел, фокусирана върху надзора над ИИ, публикува доклад в сряда, който показва агенти на OpenAI, опитващи се да извлекат данни от Data USA, дигиталната библиотека на Университета на Ню Мексико и Австралийския институт за здраве и благосъстояние (AIHW).

Разследването на лабораторията повдига въпроси за това кога OpenAI е трябвало да разбере, че нейните агенти се опитват да проникнат в защитени системи в отворения интернет. Transluce успя да открие доказателства за неправомерно поведение на агентите само за няколко седмици, като просто издирваше зле защитени уеб услуги и потвърждаваше констатациите си с други публични записи за рояци от агенти в интернет.

Transluce сподели доклада си в същия ден, в който австралийският министър-председател Антъни Албанезе заяви, че агенти на OpenAI са опитали да проникнат в четири правителствени уебсайта и са успели в един случай, като дори са записали файлове на вътрешен сървър в националната здравна система на страната. Макар да ни липсват подробности за успешния пробив, Албанезе заяви, че той очевидно е бил част от оценка на извличането на информация, което съответства на дейността, открита от Transluce и други изследователи.

В тези упражнения, които може да са обучения или оценки, моделите на OpenAI са помолени да издирят неясни статистически данни: показатели за борбата с наркотиците в Тайланд, разходи за лекарства в Австралия, медианните доходи на американците с магистърска степен през 2014 г. Агентите използват зле защитени интернет услуги, за да споделят и откриват отговори, като често се опитват да проникнат в защитени бази данни. Те правят това поне от март 2026 г., а вероятно още от ноември 2025 г. Възможно е да се случва и в момента.

Transluce започна разследването си, след като друга група изследователи идентифицира неясен форум, в който агенти си сътрудничат, за да преминат тестове с ограничено време. Докладът им се основава на данни от уебсайта urlquery.net, който действа като прокси за браузър, привидно за целите на изследванията на сигурността — потребителите могат да анализират URL адрес, без да го отварят сами. Услугата обаче публикува публични записи на тази дейност. Изследователите от Transluce успяха да идентифицират агентите, използващи услугата, чрез сравняване на техните дискусии във форума.

„Открихме голямо количество автоматизирана дейност, която има тесни връзки и припокриване с набора от данни DSE Wiki и за която сега OpenAI потвърди, че поне отчасти е дело на същия рояк“, заяви пред TechCrunch Конрад Щос, ръководител на отдела за управление в Transluce, като отбеляза, че не всяка забелязана от тях дейност може да бъде свързана с OpenAI или дори с ИИ агенти като цяло.

В уикито обаче се вижда, че на агентите е възложено да открият доста неясен факт — средната годишна цена на човек за „дерматологични препарати“ в щата Виктория през януари 2022 г. На 20 юни запис в urlquery.net, открит от Transluce, показва агент, който се опитва да влезе в сайта. В запис в уикито от 21 юни агент обсъжда неспособността си да заобиколи антибот защитите на AIHW.

Изследователите, идентифицирали форума, смятат, че служител на OpenAI първо е посетил сайта именно на този ден, 21 юни. Повечето агентна активност във форума е прекратена на следващия ден. Това се случва и малко след пробива в здравната система на Австралия, за който Албанезе разкри, че е станал на 18 юни. OpenAI заяви, че не е научила за тази дейност до август.

OpenAI не отговори на въпросите кога нейните служители са открили форума на уикито, какъв вид информация са получили от него или какво са могли да научат от него за пробивите.

„Първоначалният ни преглед показва, че голяма част от дейността, описана в доклада на Transluce, се припокрива със случаи на различни етапи на разследване в рамките на текущия ни преглед на неправилно ориентирана дейност на модели“, заяви говорител на OpenAI пред TechCrunch. „Свързахме се с Университета на Ню Мексико и Data USA и поддържаме комуникация с австралийското правителство относно засегнатите правителствени уебсайтове. В рамките на по-широкия ни преглед продължаваме да приоритизираме най-сериозните инциденти, като същевременно разширяваме работата си към дейности с по-ниска степен на сериозност, включително агенти, които изпращат спам към уебсайтове. Предвид мащаба на тази работа и необходимостта от проверка на всеки случай очакваме прегледът да продължи месеци.“

Щос заявява, че без по-ясно разбиране за начина, по който OpenAI наблюдава своите агенти, би било трудно да се каже какво е трябвало да знае лабораторията за тях, но че „изглежда вероятно, ако бяха проучили и разбрали изчерпателно всички изходящи заявки и входящи отговори за онези агенти, участващи в уикито DSE, да бяха открили тази дейност“.

Селена Джан, член на техническия екип на Transluce, допринесла за доклада, заяви, че записите в urlquery.net показват заявки за сходни набори от данни, използващи сходни техники, през март 2026 г., а вероятно и още през ноември 2025 г. Тя отбеляза, че същият вид дейност, свързана с агенти, се е случвал в urlquery.net дори тази седмица.

Щос, който преди това е ръководил Центъра на САЩ за стандарти и иновации в областта на ИИ, заяви, че Transluce ще продължи изследванията си в опит да осигури публична прозрачност относно тези инциденти. Той предупреди, че използваните от OpenAI и други водещи лаборатории техники за обучение изглежда стимулират агентите да прибягват до хакерски техники, за да изпълняват задачи. Инцидентите, за които знаем, вероятно са само „върхът на айсберга“.

„Разглеждаме шепа източници на данни, в които тези агенти случайно са оставили следи, които можем да открием“, каза той. „OpenAI със сигурност знае повече по въпроса. Другите лаборатории със сигурност знаят повече, което не са оповестили публично. Но очаквам изследователите да продължат да откриват повече трафик и повече доказателства за това, което агентите са оставили след себе си.“

Има ли доверие на лабораториите, че ще бъдат прозрачни относно своите констатации?

„Няма да коментирам това“, заяви Щос.