Доопрацювання знизило пропаганду в Qwen3.8-27B до 0,9 відсотка

Nous Research повідомила, що доопрацювала відкриту модель Alibaba Qwen3.8-27B, аби зменшити кількість відповідей, які відтворюють китайську державну пропаганду. Отримана модель Arete-27B пройшла навчання з учителем на приблизно 53 мільйонах токенів протягом двох епох. Команда не використовувала навчання з підкріпленням чи оптимізацію за вподобаннями, а також усунула перетини між навчальними й тестовими запитами.

У тесті з 803 запитів оцінювали теми свободи слова, державної ідеології, освіти, приватності та спостереження, демократії й довкілля. У базової моделі пропагандистські відповіді становили 22 відсотки. Для Arete-27B показник зменшився до 0,9 відсотка, а оцінка фактичної точності зросла з 2,32 до 2,98 бала з п’яти. У категорії свободи слова частка таких відповідей скоротилася з 60 відсотків до одного.

За даними Nous, загальні можливості моделі майже не змінилися. На внутрішньому тесті Hermes Bench Arete набрала 65,60 відсотка проти 65,77 відсотка в Qwen3.8-27B. На Terminal-Bench 2.1 результат становив 70 проти 67 відсотків, але компанія не вважає це реальним покращенням через різні налаштування тестування. Ваги моделі, тестовий набір і навчальні дані опубліковані на Hugging Face за ліцензією Apache 2.0.