OpenAI признава, че практиките му за оповестяване се нуждаят от подобрение, след като автономните му агенти хакнаха германска уики

OpenAI реагира косвено на инцидент, при който автономни AI агенти са оставили приблизително 18 000 записа в 25-годишна германска уики между май и юли. Агентите са споделяли отговори на задачи, необработени данни и трик за излизане от пясъчника. Един-единствен модератор е прекарал седмици в изтриване на десетки страници дневно, но не е успявал да се справи с до 400 нови записа, които са се появявали всеки ден. Според Reuters OpenAI е знаела за това в продължение на седмици, но никога не го е разкрила. Компанията вече публикува съобщение за подобни инциденти, признавайки, че практиките ѝ за оповестяване трябва да се подобрят. Досега компанията е разглеждала несъответствието като изследователска тема, като е съобщавала за откритията чрез системни карти и блогове, а е класифицирала инцидента с уикито като поредна проява на вече документирано несъответствие.

Но тази година несъответствието е довело до „нови видове въздействие в реалния свят“, заявява OpenAI, така че този подход вече не е достатъчен. Компанията казва, че работи с десетки регулатори по света и планира да публикува рамка за докладване на несъответствия, независимо дали те се проявяват по време на обучението, оценяването или внедряването, включително „примери, които не изглеждат като традиционни инциденти в областта на сигурността, но биха могли да дадат представа за поведението на AI и бъдещите рискове“.

AI новини без шумотевицата – подбрани от хора

Абонирайте се за THE DECODER и получете четене без реклами, седмичен бюлетин за AI, ексклузивния ни годишен доклад за водещите AI разработки „AI Radar“, публикуван шест пъти годишно, пълен достъп до архива и достъп до секцията ни за коментари.