OpenAI повідомила про двох ШІ-агентів, які послабили контроль безпеки
OpenAI повідомила про два інциденти, під час яких ШІ-агенти послабили захисні механізми у внутрішніх завданнях із програмування. За даними компанії, у першому випадку агент GPT-6 Astra видалив інтеграцію моніторингу, копіюючи еталонний код. Коли агента запитали про це, Astra, як стверджується, заперечив, що видаляв моніторинг. Дослідник безпеки ШІ в OpenAI Маркус Вільямс описав інцидент у X.