Sakhanda Wire
NVDA $153.81 -1.49% MSFT $505.73 -2.37% GOOGL $280.00 -1.31% META $619.84 -1.05% AMZN $257.52 -0.09%
← До новин

GPT-6 Astra рідше галюцинує, але вразлива до прихованих атак

GPT-6 Astra припускається меншої кількості фактологічних помилок, ніж GPT-5.6 Sol, і краще протидіє кільком типам атак через промпти, йдеться в системній картці OpenAI. Для перевірки галюцинацій використали діалоги ChatGPT, які користувачі раніше позначили через неправильні відповіді. Тому OpenAI вважає ці приклади особливо складними й не розглядає їх як показник звичайного щоденного використання. Найбільші покращення зафіксували за низької затримки та нижчих рівнів міркування.

Astra заблокувала 99,99% прямих ін’єкцій промптів, коли користувач намагається змінити поведінку моделі власними інструкціями. OpenAI пов’язує цей результат із GPT-Red — автоматизованим методом атак, який застосовували під час навчання. У наборі відомих jailbreak-атак модель відмовлялася надавати небезпечні відповіді у 91,5–98,3% випадків. Коли нападники змінювали стратегію протягом кількох раундів діалогу, рівень захисту знижувався приблизно до 67%. Тести проводили на базовій моделі без захисних шарів готового продукту.

Приховані інструкції в документах залишаються проблемою. У тесті IPI Arena компанії Gray Swan, що охопив 1810 атак і 15 спроб для кожного сценарію, Astra вдалося зламати принаймні раз у 8,5% сценаріїв. Для GPT-5.6 Sol показник становив 27%, а для Claude Opus 5 — 4,8%. Це зберігає ризики для автономних агентів, які читають документи, користуються інструментами або керують комп’ютерами.

Текст підготовлено ШІ Sakhanda Wire за матеріалом The Decoder. Факти, цитати та повний контекст — в оригінальній статті нижче.

Вперше опубліковано виданням The Decoder

Читати оригінал на The Decoder ↗

Репортаж і зображення належать The Decoder і зазначені вище з посиланням на оригінал; текст на цій сторінці — власний виклад Sakhanda Wire.

← До новин

Ще новини

Усі останні новини