Дообучаване намали пропагандата в Qwen3.8-27B до 0,9 процента

Nous Research съобщи, че е дообучила модела Qwen3.8-27B на Alibaba, за да намали отговорите, отразяващи китайска държавна пропаганда. Полученият модел Arete-27B е обучен с контролирано дообучаване върху около 53 милиона токена в два цикъла. Екипът не е използвал обучение с подсилване или оптимизация по предпочитания и е премахнал съвпаденията между тестовите и обучаващите въпроси.

В тест с 803 въпроса за свободата на словото, държавната идеология, образованието, неприкосновеността на личния живот и наблюдението, демокрацията и околната среда базовият модел е дал пропагандни отговори в 22 процента от случаите. При Arete-27B делът е спаднал до 0,9 процента, а оценката за фактическа точност се е повишила от 2,32 до 2,98 от пет. В категорията за свободата на словото пропагандните отговори са намалели от 60 процента до един процент.

Според Nous общите способности почти не са се променили. Arete е получил 65,60 процента на вътрешния тест Hermes Bench спрямо 65,77 процента за Qwen3.8-27B. На Terminal-Bench 2.1 резултатът е 70 спрямо 67 процента, но компанията не смята разликата за показателна заради различните тестови конфигурации. Моделът, тестовият набор и данните за обучение са публикувани под лиценз Apache 2.0 в Hugging Face.