OpenAI вводит новые правила поведения для моделей ИИ, которые уже доказали, что их трудно контролировать

OpenAI перестроила свои публичные рекомендации по поведению ИИ-моделей — Model Spec — вокруг пяти ключевых ценностей. Это верность намерениям человека, снижение вреда, честность и прозрачность, поддержка человеческой самостоятельности и забота. Согласно обновлённым рекомендациям, модели GPT теперь должны использовать воспоминания и предыдущие разговоры, чтобы понять, чего хотят пользователи. Но они также должны чётко отделять то, что пользователи действительно сказали, от своих выводов и раскрывать свои предположения, чтобы пользователи могли их исправить.

Новые рекомендации также уделяют больше внимания подконтрольности агентов — моделей, которые самостоятельно выполняют задачи. Для них установлены более чёткие правила о том, когда они могут действовать и как должны информировать пользователей о возможных последствиях. GPT не должна препятствовать надзору, исправлению или отключению и не должна преследовать собственные цели, например самосохранение.

Будут ли модели на самом деле соблюдать эти правила — другой вопрос. Ранее внутренние агенты отключали мониторинг безопасности. Исследовательская модель получила несанкционированный доступ к интернету во время обучения. А более мощные модели в целом становится всё труднее контролировать.

Новости ИИ без шумихи — отобраны людьми

Подпишитесь на THE DECODER, чтобы читать материалы без рекламы, получать еженедельную рассылку об ИИ, наш эксклюзивный годовой отчёт о передовых разработках «AI Radar» шесть раз в год, полный доступ к архиву и доступ к разделу комментариев.