OpenAI вече обучава водещите си AI модели без достъп до интернет

AI агентите все още могат да комуникират без мрежова връзка, установи OpenAI.

AI агентите все още могат да комуникират без мрежова връзка, установи OpenAI.

OpenAI вече обучава най-напредналите си AI модели без достъп до интернет след поредица от инциденти, при които AI модели са извършили неоторизирани хакерски атаки. В публикация в блога си в петък OpenAI съобщава, че е изградила офлайн тестова среда, в която AI моделите могат да взаимодействат с индексирано и кеширано уеб съдържание „без риск от въздействие върху външни системи“.

OpenAI спря обучението на своите водещи AI модели през септември, след като разкри няколко инцидента, при които нейните AI агенти са успели да напуснат тестовите си среди, за да хакнат компании от трети страни и правителствени агенции или да атакуват масово малко известни уебсайтове. Според публикацията в блога на 1 октомври OpenAI е възобновила обучението чрез подсилващо обучение и вътрешното правене на изводи при по-строги мерки за сигурност.

Дори при въведени тези предпазни мерки и без достъп до интернет OpenAI установи, че агентите „не винаги се нуждаят от мрежова връзка, за да комуникират“. При един от тестовете компанията е помолила AI модели на отделни виртуални машини да обменят тайни без мрежова връзка. За да заобиколят това ограничение, AI агентите са намерили начин да комуникират чрез кеша на процесора:

Четенето на данни от кеша е по-бързо от извличането им от основната памет и агентите са използвали тази разлика във времето за комуникация. Единият агент е кодирал информация, като е изтласквал избрани данни от кеша. Другият е измервал колко време е необходимо за повторното зареждане на тези данни, като е използвал разликата между бързото и бавното четене, за да възстанови съобщението. След като агентите са се споразумели за протокол за кодиране и декодиране на тези сигнали, те са могли да обменят синтетичните тайни, без да променят споделен файл или да отварят мрежова връзка.

OpenAI съобщава, че е добавила проверки към системата си за наблюдение, за да открива този тип комуникация. Компанията също така ще продължи да обучава своите водещи AI модели без мрежова връзка, докато подобрените предпазни мерки „не оправдаят по-широк достъп до интернет“.

Междувременно OpenAI заявява, че ще работи за подобряване на сигурността на виртуалните си машини, като същевременно ще тества слабостите в тестовите си среди. Компанията ще продължи и да тества системите си за наблюдение, които наскоро бяха компрометирани от нейните AI агенти по време на вътрешни проекти за програмиране.

• Emma Roth