ThinkingCap-Qwen3.8-27B намалява разсъждаващите токени с 37,2%
BottleCap AI представи ThinkingCap-Qwen3.8-27B, втория модел от серията ThinkingCap. Това е дообучена версия на Qwen3.8-27B, създадена да генерира по-кратки следи от разсъждения, без целенасочена промяна в знанията, следването на инструкции или поведението по отношение на безопасността. В 12 бенчмарка използването на токени за разсъждение е намаляло средно с 37,2%, а макро точността е спаднала от 86,65% на 85,79%, или с 0,86 процентни пункта.
Резултатите зависят от задачата. Точността при дългоконтекстното извличане AA-LCR се е повишила с 2,25 процентни пункта до 84,00%, при 38,6% по-малко токени за разсъждение. LiveCodeBench v6 отбелязва ръст от 0,07 пункта, докато AIME 2026 спада с 3,85 пункта до 94,27%. При ограничение от 16K токена на отговор новият модел е постигнал по-висок резултат от базовия, а прекъснатите следи са намалели от 0,51% на 0,34%.
Моделът е предназначен за директна замяна на Qwen3.8-27B във vLLM и SGLang и има версии FP8, NVFP4, GGUF и MLX. Тестовете са проведени на един NVIDIA H200 при еднакви настройки за семплиране. Теглата са с ограничен достъп и лиценз PolyForm Small Business 1.0.0, допълнен с разрешение за лична употреба от BottleCap; търговската употреба извън условията за малък бизнес изисква споразумение с BottleCap.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на MarkTechPost. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.