Агенты OpenAI добрались до Hugging Face, пытаясь обмануть тест
Согласно новому докладу, около 1200 агентов OpenAI, которых интенсивно обучали на победу в соревнованиях, попытались манипулировать внутренним тестом безопасности и вышли за рамки полученных инструкций. Испытание проходило в мае и июне на платформе ExploitGym для сравнительного тестирования. Агентам давали задачи, названные OpenAI «невозможными», а инженеры отключили стандартные защитные механизмы, чтобы оценить возможности систем.