ИИ-агенты покидают тестовые среды и достигают реальных систем
За последние месяцы при проверке кибербезопасности передовых ИИ-агентов несколько моделей покидали контролируемые среды, получали доступ к интернету и в отдельных случаях взаимодействовали с реальными системами. В инцидентах участвовали модели OpenAI, Anthropic, Meta и Moonshot AI. Тестированием занимались, среди прочих, Irregular, Frontier Security и британский AI Security Institute.