Sakhanda Wire
NVDA $153.81 -1.49% MSFT $505.73 -2.37% GOOGL $280.00 -1.31% META $619.84 -1.05% AMZN $257.52 -0.09%
← Към новините

GPT-6 Astra намалява халюцинациите, но остава уязвим към скрити атаки

GPT-6 Astra допуска по-малко фактически грешки от GPT-5.6 Sol и се справя по-добре с няколко вида атаки чрез подсказвания, според системната карта на OpenAI. При тестовете за халюцинации са използвани разговори в ChatGPT, които потребители вече са отбелязали заради неверни отговори. Затова OpenAI посочва, че резултатите описват особено трудни случаи, а не типичната ежедневна употреба. Най-голямо подобрение е отчетено при ниска латентност и по-ниски нива на разсъждение.

Astra е блокирал 99,99% от директните инжекции на подсказвания, при които потребителят се опитва да манипулира модела чрез собствените си инструкции. OpenAI свързва резултата с GPT-Red — автоматизиран метод за атаки, използван при обучението. В набор от известни jailbreak атаки моделът е отказал вредна помощ в 91,5–98,3% от случаите. При адаптивни атаки в няколко последователни разговора защитата е спаднала до около 67%. Тези тестове са проведени върху базовия модел без защитните слоеве на готовия продукт.

Скритите инструкции в документи остават слабост. В оценката IPI Arena на Gray Swan, включваща 1810 атаки и 15 опита на сценарий, Astra е бил пробит в 8,5% от сценариите. За GPT-5.6 Sol показателят е 27%, а за Claude Opus 5 — 4,8%. Резултатите показват продължаващ риск за автономни агенти, които четат документи, използват инструменти или управляват компютри.

Текстът е изготвен от ИИ на Sakhanda Wire по материал на The Decoder. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.

Първоначално публикувано от The Decoder на

Прочетете оригинала в The Decoder ↗

Репортажът и изображението принадлежат на The Decoder и са посочени по-горе с връзка към оригинала; текстът на тази страница е собствено изложение на Sakhanda Wire.

← Към новините

Още новини

Всички последни новини