О, отлично — похоже, это очередной рой вышедших из-под контроля ИИ-агентов OpenAI

Поведение OpenAI — и то, произошёл ли инцидент, и, если да, решила ли компания сохранить это в тайне, — будет тщательно отслеживаться. Если рой действительно исходил от OpenAI, это неизбежно усилит опасения по поводу того, что осведомлённость компании и её молчание совпали с заверениями регуляторов, законодателей и технологической отрасли в том, что после взлома Hugging Face она серьёзно относится к безопасности. Несмотря на то что компания разрешила трём внешним исследователям из METR и Redwood Research оценить инцидент, который оказался гораздо серьёзнее, чем считалось поначалу, в кругах специалистов по безопасности ИИ компанию подвергли резкой критике за то, что она согласилась на это лишь при строгих условиях, из-за которых несколько важных аспектов оказались «за рамками исследования». Компания также готовилась к запуску GPT-6 Astra, который, как опасаются исследователи, может оказаться чрезвычайно сложным для мониторинга.