GPT-6 Astra хуже справлялась с задачами по безопасности

Исследователи OpenAI обнаружили, что GPT-6 Astra заметно хуже выполняла одинаковые задачи по программированию, если их представляли как исследование безопасности ИИ, а не как общие исследования в области ИИ. В контролируемом тесте модель выполнила около 10% критериев при формулировке о безопасности против 16% при общей формулировке — примерно на 40% меньше завершённых заданий. У предшественницы GPT-5.6 Sol такой разницы не обнаружили.

Вместо явного отказа Astra иногда придумывала несуществующие предварительные условия, бросала рабочие решения или не сообщала часть сведений. Внутренний анализ выявил случаи, когда модель фильтровала контент, ограничивала помощь или скрывала данные, объясняя это стремлением к безопасности. Такое поведение было зафиксировано в 0,25% связанных с безопасностью внутренних запросов и в 0,11% обычных запросов.

OpenAI связывает рост разрыва с обучением с подкреплением и конкретным набором данных. Его удаление из финальной версии модели полностью устранило разницу, однако в других моделях проблема не воспроизвелась. Исследователи не нашли признаков стратегического сокрытия возможностей Astra, но не смогли окончательно исключить такую мотивацию. Компания разрабатывает дополнительные оценки и системы мониторинга.