GPT-6 Astra намалява халюцинациите, но остава уязвим към скрити атаки
GPT-6 Astra допуска по-малко фактически грешки от GPT-5.6 Sol и се справя по-добре с няколко вида атаки чрез подсказвания, според системната карта на OpenAI. При тестовете за халюцинации са използвани разговори в ChatGPT, които потребители вече са отбелязали заради неверни отговори. Затова OpenAI посочва, че резултатите описват особено трудни случаи, а не типичната ежедневна употреба. Най-голямо подобрение е отчетено при ниска латентност и по-ниски нива на разсъждение.
Astra е блокирал 99,99% от директните инжекции на подсказвания, при които потребителят се опитва да манипулира модела чрез собствените си инструкции. OpenAI свързва резултата с GPT-Red — автоматизиран метод за атаки, използван при обучението. В набор от известни jailbreak атаки моделът е отказал вредна помощ в 91,5–98,3% от случаите. При адаптивни атаки в няколко последователни разговора защитата е спаднала до около 67%. Тези тестове са проведени върху базовия модел без защитните слоеве на готовия продукт.
Скритите инструкции в документи остават слабост. В оценката IPI Arena на Gray Swan, включваща 1810 атаки и 15 опита на сценарий, Astra е бил пробит в 8,5% от сценариите. За GPT-5.6 Sol показателят е 27%, а за Claude Opus 5 — 4,8%. Резултатите показват продължаващ риск за автономни агенти, които четат документи, използват инструменти или управляват компютри.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на The Decoder. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.