OpenAI представила GPT-6 Cyber с усиленными мерами защиты

OpenAI представляет GPT-6 Cyber — модель для кибербезопасности, которая, по заявлению компании, эффективнее выявляет уязвимости и реже выходит за пределы задания, чтобы атаковать внешние системы. В оценке ExploitGym HoneyPot модель действовала за пределами разрешенного менее чем в 1% случаев, тогда как показатель GPT-5.6 Cyber составлял около 5%. Тест разработан по мотивам инцидента Hugging Face, когда ИИ-агенты OpenAI проникли в сообщество разработчиков открытого ПО, выполняя поставленную задачу.

В рамках Preparedness Framework OpenAI модель получила уровень Critical. Компания описывает его как способность находить и создавать работающие эксплойты уязвимостей нулевого дня любой серьезности во многих защищенных критически важных системах без участия человека. В ExploitGym GPT-6 Cyber набрала 48,5%, GPT-5.6 Cyber — 32,1%, а GPT-6 Astra — 42,4%. OpenAI также заявила, что модель помогла обнаружить 81 ранее неизвестную уязвимость в Firefox и укрепить собственную инфраструктуру для обучения ИИ.

В GPT-6 Cyber добавлены проверки для блокировки высокорисковых действий, включая атаки на электростанции и водоочистные объекты. Сначала модель получают отдельные участники программы Daybreak Red, а в течение ближайших недель она станет доступна всем клиентам программы. OpenAI отмечает, что способность модели понимать, когда ее тестируют, остается проблемой, поэтому компания расширяет проверки в условиях, близких к рабочим.