Проучване предлага по-точно разграничаване на вредните заявки
Изследователи от Multiverse Computing проучват как езиковите модели могат да отказват вредни заявки, без да отхвърлят легитимни въпроси по същата тема. Според авторите предпазните механизми, основани на широки категории като оръжия, измами или самонараняване, са прекалено груби за много реални приложения. В политическия пример фактическите въпроси за избори се различават от заявките за целево убеждаване или манипулация и могат да изискват различни отговори.
Работата представя безопасността като граница между заявки, на които трябва да се откаже, и такива, на които трябва да се отговори. В експериментите с политическо убеждаване авторите използват двойки заявки с общ тематичен елемент, но различно намерение. Ескалиращо повторно генериране намалява отпадналите примери от 19.88% (8,009) на 0.20% (79), като запазва 40,293 вредни обучаващи заявки.
При Qwen3-8B делът на отказите за политически заявки нараства от 9.47% на 84.75%, а средният дял на опасните отговори в HarmBench, StrongREJECT и WildJailbreak спада от 26.26% на 0.14% в най-силната конфигурация. В същата точка свръхотказите в XSTest се увеличават от 2.00% на 74.00%. Добавянето на доброкачествени гранични примери намалява отказите към допустими заявки от 32.94% на 4.16%, докато отказите към вредните им двойки спадат от 91.88% на 87.72%. Авторите подчертават, че двата показателя трябва да се оценяват заедно.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на Hugging Face. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.