Nanbeige пусна Nanbeige4.3-33B — 33B отворен агентен модел за програмиране

Лабораторията за LLM Nanbeige пусна Nanbeige4.3-33B в Hugging Face под лиценза Apache 2.0. Nanbeige4.3-33B е плътен езиков модел с 33B параметъра, създаден за агентно програмиране и офисни задачи тип „cowork“. Лабораторията е част от платформата за подбор на персонал BOSS Zhipin. Тя публикува и Nanbeige4.3-33B-Base за персонализирано допълнително обучение. Моделът поддържа контекстен прозорец от 524 288 токена. В собствената таблица на лабораторията той води в 17 от 20 бенчмарка спрямо 3 отворени модела с около 30B параметъра.

Накратко

Размер: 33B параметъра, плътен модел (без MoE), контекст от 524 288 токена (512K), тегла BF16.
Работи на: Многографични сървъри. Рецептите за SGLang и vLLM в картата използват 4-посочен тензорен паралелизъм. Теглата BF16 изискват около 66 GB (по наши изчисления). Посочена е 1 общностна квантизация.
Производителност: Води в 17 от 20 реда в собственото сравнение на Nanbeige с Qwen3.8-27B, Muse-Glimmer-30B и Gemma4-31B.
Най-добър резултат: 80.9 на Terminal-Bench 2.1 спрямо 73.0 за Qwen3.8-27B.
Най-слаб резултат: 23.8 на Terminal-Bench 4.0 (най-ниският му резултат). Той също изостава от Qwen3.8-27B на SWE-Bench Pro — 60.3 спрямо 61.7.

Какво представлява Nanbeige4.3-33B?

Nanbeige4.3-33B е водещият „учителски“ модел от серията Nanbeige4.3. Обявената стратегия на лабораторията е първо да създаде силен учителски модел. След това тя планира да дистилира агентни умения в по-малки модели, започвайки с Nanbeige4.3-3B.

Как е създаден Nanbeige4.3-33B?

config.json декларира стандартна архитектура LlamaForCausalLM. Няма маршрутизиране към експерти, така че всичките 33B параметъра се изпълняват за всеки токен.

52 слоя, размер на скрития слой 7 168
56 глави за заявки и 8 глави за ключове и стойности (групирано-заявково внимание), размерност на главата 128
Междинен размер на FFN 22 016, речник от 166 912 токена
RoPE theta от 120 000 000 и максимум 524 288 позиции

Шаблонът за чат предоставя 3 контроли. enable_thinking включва разсъжденията и е активиран по подразбиране. preserve_thinking запазва разсъжденията от предишни ходове. Nanbeige го препоръчва за използване на инструменти в многоходови разговори и за кодови агенти. Подаването на tools активира извикването на инструменти, като се препоръчва XML формат за извикванията.

Как се представя Nanbeige4.3-33B на бенчмарковете?

Nanbeige сравнява модела с Qwen3.8-27B, Muse-Glimmer-30B и Gemma4-31B. Всеки модел е работил с максималното си ниво на усилие за разсъждение, при общи хиперпараметри и тестови среди. Всички резултати в този раздел са съобщени от самата компания.

Агентно програмиране: Моделът постига 80.9 на Terminal-Bench 2.1 спрямо 73.0 за Qwen3.8-27B. DeepSWE показва най-голямата разлика: 65.5 спрямо 42.5. На Terminal-Bench 4.0 той постига 23.8, докато Gemma4-31B постига 0.0.
Агентна офисна работа: Той постига 54.2 на Automation Bench спрямо 38.3 и 44.8 на JobBench спрямо 34.5. На YC-bench симулираните приходи достигат 1 025 437 долара спрямо 641 290 долара.
Разсъждения: Съобщава се резултат 95.2 на AIME 2026 и 84.0 на AA-LCR.

Той губи в 3 от 20 реда. Qwen3.8-27B води на SWE-Bench Pro (61.7 спрямо 60.3) и GDPval (86.4 спрямо 84.8). Gemma4-31B води на GPQA Diamond в таблицата на Nanbeige — 91.3 спрямо 89.5.

Базовият модел превъзхожда Gemma4-31B-Base във всичките 8 отчетени задачи. Примерите включват MMLU-Pro (66.9 спрямо 59.3) и GPQA (62.0 спрямо 41.5).

Назад</button><button class="btn" id="nbgNext">Следваща стъпка

</button><button class="btn ghost" id="nbgPlay">Автоматично възпроизвеждане</button></div> <div class="spec"> <div><b>52</b><span>слоя</span></div> <div><b>56 / 8</b><span>глави за заявки / KV (GQA)</span></div> <div><b>7 168</b><span>размер на скрития слой</span></div> <div><b>524 288</b><span>максимален брой позиции</span></div> </div> </div> <div class="pane" id="p2"> <div class="seg" id="nbgSeg"> <button class="on" data-c="coding">Агентно програмиране</button> <button data-c="cowork">Агентна офисна работа</button> <button data-c="reason">Разсъждения</button> <button data-c="base">Базов модел</button> </div> <div class="legend" id="nbgLegend"></div> <div id="nbgBars"></div> <p class="note">Всички резултати са съобщени от Nanbeige в картите на моделите в Hugging Face, при максималното ниво на усилие за разсъждение на всеки модел и общи тестови среди. Не са независимо проверени.</p> </div> <div class="pane" id="p3"> <div class="calc"> <div> <div class="field"><label>Дължина на контекста <b id="nbgCtxL">131 072 токена</b></label><input type="range" id="nbgCtx" min="0" max="6" step="1" value="4"></div> <div class="field"><label>Паралелни последователности <b id="nbgSeqL">1</b></label><input type="range" id="nbgSeq" min="1" max="8" step="1" value="1"></div> <div class="seg" id="nbgW"><button class="on" data-w="2">Тегла BF16</button><button data-w="1">8-битови тегла</button></div> <div class="seg" id="nbgK"><button class="on" data-k="2">KV кеш BF16</button><button data-k="1">KV кеш FP8</button></div> <p class="note">Изчисления от config.json: 52 слоя × 8 KV глави × 128 измерения × 2 (K и V) × байтове за стойност. Това са 212 992 байта (около 208 KiB) на токен в BF16. За теглата се използват 33B параметъра. Не са включени активациите и разходите на рамката.</p> </div> <div class="stack"> <div class="kv"><span>Изчислена памет на графичния процесор</span></div> <div class="total" id="nbgTot">0 GB</div> <div class="stackbar"><i id="nbgBw" style="background:#5fd3bd"></i><i id="nbgBk" style="background:#7c8cf8"></i></div> <div class="kv"><span><i style="display:inline-block;width:9px;height:9px;background:#5fd3bd;border-radius:2px"></i> Тегла</span><b id="nbgWv"></b></div> <div class="kv"><span><i style="display:inline-block;width:9px;height:9px;background:#7c8cf8;border-radius:2px"></i> KV кеш</span><b id="nbgKv"></b></div> <div class="kv"><span>На 80 GB графичен процесор (идеално разпределение)</span><b id="nbgGpu"></b></div> <p class="note">Рецептите за SGLang и vLLM в картата на модела използват 4-посочен тензорен паралелизъм.</p> </div> </div> </div> <div class="pane" id="p4"> <table> <tr><th>Ред в таблицата на Nanbeige</th><th>Посочено от Nanbeige</th><th>Официална карта</th><th></th></tr> <tr><td>Muse-Glimmer-30B, SWE-Bench Pro</td><td class="bad">36.9</td><td>51.2 (Meta)</td><td><span class="flag">изглежда разменено</span></td></tr> <tr><td>Gemma4-31B, SWE-Bench Pro</td><td class="bad">51.2</td><td>36.9 (съобщено от Meta)</td><td><span class="flag">изглежда разменено</span></td></tr> <tr><td>Gemma4-31B, GPQA Diamond</td><td class="bad">91.3</td><td>84.3 (Google)</td><td><span class="flag">несъответствие</span></td></tr> <tr><td>Muse-Glimmer-30B, Terminal-Bench 2.1</td><td class="bad">61.8</td><td>51.7 (Meta)</td><td><span class="flag">тестова среда?</span></td></tr> <tr><td>Qwen3.8-27B, GPQA Diamond</td><td>89.2</td><td>89.2 (Qwen)</td><td>съвпадение</td></tr> <tr><td>Muse-Glimmer-30B, AIME 2026</td><td>94.7</td><td>94.7 (Meta)</td><td>съвпадение</td></tr> </table> <p class="note">Nanbeige е изпълнила отново всеки модел със собствена тестова среда, което обяснява някои от разликите. Други ограничения: вход само под формата на текст, плътно изчисление за всеки токен и Nanbeige4.3-3B все още не е пуснат.</p> </div> <div class="ft"><span>Източници: <a href="https://huggingface.co/Nanbeige/Nanbeige4.3-33B" target="_blank" rel="noopener">карта на модела Nanbeige</a> · <a href="https://huggingface.co/Nanbeige/Nanbeige4.3-33B-Base" target="_blank" rel="noopener">карта на базовия модел</a> · карти на конкурентни модели в HF</span><span class="brand">© Marktechpost</span></div> </div> <script> (function(){ var R=document.getElementById('mtp-nbg43'); function resize(){try{parent.postMessage({type:'mtp-nbg43-resize',height:R.offsetHeight+40},'*')}catch(e){}} // раздели R.querySelectorAll('.tab').forEach(function(t){t.addEventListener('click',function(){ R.querySelectorAll('.tab').forEach(function(x){x.classList.remove('on')});t.classList.add('on'); R.querySelectorAll('.pane').forEach(function(p){p.classList.remove('on')}); document.getElementById(t.dataset.p).classList.add('on'); if(t.dataset.p==='p2')drawBars(cur); setTimeout(resize,50);setTimeout(resize,400); })}); // поток var steps=[ '<b>Базов модел.</b> Nanbeige4.3-33B-Base е плътен контролен модел LlamaForCausalLM. Nanbeige съобщава, че той превъзхожда Gemma4-31B-Base във всичките 8 посочени задачи, например MMLU-Pro 66.9 спрямо 59.3.', '<b>Агент-учител.</b> Моделът с допълнително обучение разсъждава по подразбиране (<code>enable_thinking</code>). <code>preserve_thinking</code> запазва предишните разсъждения за използване на инструменти в многоходови разговори. Nanbeige препоръчва XML формата за извикване на инструменти.', '<b>Агентна тестова среда.</b> Nanbeige го е оценила в Terminus 2, mini-swe-agent v2.4.6 и тестовата среда Claude Code. Препоръчителни настройки за семплиране на агента: temperature 1.0, top_p 0.95, максимум 65 536 нови токена.', '<b>Дистилация.</b> Моделът 33B е учителят за серията Nanbeige4.3. Първият планиран ученик е Nanbeige4.3-3B. Не е посочена дата на пускане.' ]; var s=0,timer=null; function setStep(i){s=(i+4)%4;R.querySelectorAll('.node').forEach(function(n,k){n.classList.toggle('on',k<=s)}); document.getElementById('nbgRail').style.width=((s+1)*25)+'%';document.getElementById('nbgDetail').innerHTML=steps[s];resize()} R.querySelectorAll('.node').forEach(function(n){n.addEventListener('click',function(){stop();setStep(+n.dataset.s)})}); function stop(){if(timer){clearInterval(timer);timer=null;document.getElementById('nbgPlay').textContent='Автоматично възпроизвеждане'}} document.getElementById('nbgNext').onclick=function(){stop();setStep(s+1)}; document.getElementById('nbgPrev').onclick=function(){stop();setStep(s-1)}; document.getElementById('nbgPlay').onclick=function(){if(timer){stop();return}this.textContent='Пауза';timer=setInterval(function(){setStep(s+1)},2200)}; setStep(0); // ленти var M={n:['Nanbeige4.3-33B','#5fd3bd'],q:['Qwen3.8-27B','#7c8cf8'],m:['Muse-Glimmer-30B','#f0a35e'],g:['Gemma4-31B','#6aa9f4']}; var D={ coding:[['Terminal-Bench 2.1',80.9,73.0,61.8,47.2],['DeepSWE',65.5,42.5,4.4,2.7],['SWE-Bench Pro',60.3,61.7,36.9,51.2],['SkillsBench',61.1,56.4,39.7,28.9],['Terminal-Bench 4.0',23.8,6.3,1.6,0.0]], cowork:[['Automation Bench',54.2,38.3,15.2,9.7],['JobBench',44.8,34.5,16.6,9.0],['GDPval',84.8,86.4,75.8,71.4],['Toolathlon-Verified',70.4,68.5,47.2,27.8],['DeepPlanning',63.3,49.2,21.4,19.4]], reason:[['AIME 2026',95.2,94.5,94.7,89.2],['GPQA Diamond',89.5,89.2,83.5,91.3],['AA-LCR',84.0,82.0,83.3,72.0]], base:[['MMLU-Pro',66.9,null,null,59.3],['GPQA',62.0,null,null,41.5],['GSM8K',92.9,null,null,88.9],['Math',57.3,null,null,43.6],['CMMLU',86.8,null,null,76.9]] }; var cur='coding'; function drawBars(c){cur=c;var keys=c==='base'?['n','g']:['n','q','m','g']; var names=c==='base'?{n:'Nanbeige4.3-33B-Base',g:'Gemma4-31B-Base'}:{}; document.getElementById('nbgLegend').innerHTML=keys.map(function(k){return '<span><i style="background:'+M[k][1]+'"></i>'+(names[k]||M[k][0])+'</span>'}).join(''); var idx={n:1,q:2,m:3,g:4},h=''; D[c].forEach(function(r){h+='<div class="bench"><div class="bn">'+r[0]+'</div>'; keys.forEach(function(k){var v=r[idx[k]];h+='<div class="brow'+(k==='n'?' me':'')+'"><span class="lb">'+(names[k]||M[k][0])+'</span><div class="track"><div class="fill" data-w="'+v+'" style="background:'+M[k][1]+'"></div></div><span class="v">'+v.toFixed(1)+'</span></div>'}); h+='</div>'}); var box=document.getElementById('nbgBars');box.innerHTML=h; requestAnimationFrame(function(){requestAnimationFrame(function(){box.querySelectorAll('.fill').forEach(function(f){f.style.width=f.dataset.w+'%'})})}); resize();setTimeout(resize,300)} R.querySelectorAll('#nbgSeg button').forEach(function(b){b.onclick=function(){R.querySelectorAll('#nbgSeg button').forEach(function(x){x.classList.remove('on')});b.classList.add('on');drawBars(b.dataset.c)}}); drawBars('coding'); // изчисление var CT=[8192,16384,32768,65536,131072,262144,524288],wb=2,kb=2; function fmt(n){return n.toLocaleString('en-US')} function calc(){var ctx=CT[+document.getElementById('nbgCtx').value],seq=+document.getElementById('nbgSeq').value; document.getElementById('nbgCtxL').textContent=fmt(ctx)+' токена';document.getElementById('nbgSeqL').textContent=seq; var w=33e9*wb/1e9,kv=52*8*128*2*kb*ctx*seq/1e9,t=w+kv; document.getElementById('nbgTot').textContent=t.toFixed(1)+' GB'; document.getElementById('nbgWv').textContent=w.toFixed(1)+' GB';document.getElementById('nbgKv').textContent=kv.toFixed(1)+' GB'; document.getElementById('nbgGpu').textContent=Math.ceil(t/80)+' × 80 GB'; document.getElementById('nbgBw').style.width=(w/t*100)+'%';document.getElementById('nbgBk').style.width=(kv/t*100)+'%'} ['nbgCtx','nbgSeq'].forEach(function(id){document.getElementById(id).addEventListener('input',calc)}); R.querySelectorAll('#nbgW button').forEach(function(b){b.onclick=function(){R.querySelectorAll('#nbgW button').forEach(function(x){x.classList.remove('on')});b.classList.add('on');wb=+b.dataset.w;calc()}}); R.querySelectorAll('#nbgK button').forEach(function(b){b.onclick=function(){R.querySelectorAll('#nbgK button').forEach(function(x){x.classList.remove('on')});b.classList.add('on');kb=+b.dataset.k;calc()}}); calc(); window.addEventListener('load',resize);window.addEventListener('resize',resize);setTimeout(resize,200); })(); </script> </body></html> " style="width:100%!important;height:600px;border:0!important;background:transparent!important;display:block;" loading="lazy">

Как се сравнява със собствените карти на конкурентните модели?

Спецификация	Nanbeige4.3-33B	Qwen3.8-27B	Muse-Glimmer-30B	Gemma 4 31B
Разработчик	Nanbeige LLM Lab (BOSS Zhipin)	Qwen (Alibaba)	Meta Superintelligence Lab	Google DeepMind
Параметри	33B плътен	27B плътен LM плюс зрителен енкодер	~29.6B плътен, включително ~1.8B зрителен енкодер	30.7B плътен
Контекст	524 288	262 144 нативно, до 1M	131 072+	256K
Модалност на входа	Текст	Текст, изображение, видео	Текст, изображение	Текст, изображение
Лиценз	Apache 2.0	Apache 2.0	Apache 2.0	Apache 2.0
Terminal-Bench 2.1	80.9*	73.0	51.7	Не е оповестено
SWE-Bench Pro	60.3*	61.7	51.2	Не е оповестено
GPQA Diamond	89.5*	89.2	83.5 (AA)	84.3
AIME 2026	95.2*	Не е оповестено	94.7	89.2
Насоки за локален хардуер	Рецепта за тензорен паралелизъм с 4 графични процесора	Не е оповестено	24 GB или 32 GB VRAM при ~4-битова квантизация	Потребителски графични процесори и работни станции

*Съобщено от Nanbeige. Стойностите за конкурентите идват от собствените карти на моделите на всяка лаборатория.

Някои данни за конкурентите в таблицата на Nanbeige се различават от публикуваното от съответните лаборатории:

Meta съобщава, че Muse-Glimmer-30B има 51.2 на SWE-Bench Pro, а Gemma4-31B — 36.9. Nanbeige посочва обратното.
Google посочва 84.3 за Gemma 4 31B на GPQA Diamond. В таблицата на Nanbeige е показано 91.3.
Meta съобщава 51.7 за Muse-Glimmer-30B на Terminal-Bench 2.1. Nanbeige е измерила 61.8.

Различните тестови среди обясняват някои от разликите. Двата резултата на SWE-Bench Pro изглеждат разменени. Тези редове трябва да се приемат като предварителни, докато не се появят независими изпълнения.

Как се внедрява Nanbeige4.3-33B?

Картата на модела предоставя рецепти за Transformers, SGLang и vLLM. Примерите за сървър използват 4-посочен тензорен паралелизъм с анализатори за разсъжденията и извикванията на инструменти на Qwen3. Препоръчителните настройки за агенти са temperature 1.0, top_p 0.95 и максимум 65 536 нови токена. За разсъждения и чат се използват temperature 0.6 и максимум 262 144 нови токена.

Според изчисленията от config.json теглата BF16 изискват около 66 GB. KV кешът добавя около 208 KiB на токен в BF16. Следователно пълна последователност от 524 288 токена изисква приблизително 112 GB KV кеш. Към момента на публикуване нито един доставчик на Inference Provider в Hugging Face не хоства модела.

Основни изводи

33B плътен модел, Apache 2.0, контекст 512K, само текст.
Самосъобщен резултат 80.9 на Terminal-Bench 2.1 и 65.5 на DeepSWE.
Води в 17 от 20 реда в собствената таблица на Nanbeige.
Няколко данни за конкурентите противоречат на официалните карти.
Създаден е като учителски модел за предстоящия Nanbeige4.3-3B.

Разгледайте теглата на модела, базовия модел и публикацията за старта в X. Също така можете да ни последвате в Twitter и не забравяйте да се присъедините към нашия ML SubReddit с над 150 хиляди членове и да се абонирате за нашия бюлетин. Чакайте! В Telegram ли сте? Вече можете да се присъедините към нас и в Telegram.

Имате нужда от партньор за популяризирането на вашето GitHub хранилище, страница в Hugging Face, продуктова новост, уебинар и др.? Свържете се с нас

Преведено автоматично от английски. Оригиналната статия е на връзката по-долу.