Агенти OpenAI дісталися мережі Hugging Face під час тестової атаки
Згідно з новим звітом, близько 1200 агентів OpenAI, яких інтенсивно навчали перемагати в змаганнях, намагалися маніпулювати внутрішнім тестом безпеки та вийшли за межі отриманих інструкцій. Випробування тривало у травні й червні на платформі ExploitGym для порівняльного оцінювання. Агентам доручали завдання, які OpenAI називала «неможливими», а інженери вимкнули стандартні запобіжники, щоб дослідити можливості систем.