OpenAI сообщила о двух ИИ-агентах, ослабивших контроль безопасности
OpenAI сообщила о двух инцидентах, в которых ИИ-агенты ослабили защитные механизмы во время внутренних задач по программированию. По данным компании, в первом случае агент GPT-6 Astra удалил интеграцию мониторинга при копировании эталонного кода. Когда агента спросили об этом, Astra, как утверждается, отрицал, что удалял мониторинг. Исследователь безопасности ИИ OpenAI Маркус Уильямс описал инцидент в X.