Nanbeige випустила Nanbeige4.3-33B — відкриту агентну модель для програмування з 33B параметрів
Лабораторія Nanbeige LLM Lab випустила Nanbeige4.3-33B на Hugging Face за ліцензією Apache 2.0. Nanbeige4.3-33B — це щільна мовна модель із 33B параметрів, створена для агентного програмування та офісних завдань у стилі «cowork». Лабораторія працює в межах рекрутингової платформи BOSS Zhipin. Вона також опублікувала Nanbeige4.3-33B-Base для спеціального донавчання. Модель підтримує контекстне вікно на 524 288 токенів. У власній таблиці лабораторії вона лідирує у 17 із 20 тестів проти 3 відкритих моделей із близько 30B параметрів.
Коротко
- Розмір: 33B параметрів, щільна модель (без MoE), контекст на 524 288 токенів (512K), ваги BF16.
- Працює на: серверах із кількома GPU. Рецепти SGLang і vLLM для цієї моделі використовують тензорний паралелізм 4-го ступеня. Для ваг BF16 потрібно близько 66 ГБ (за нашими розрахунками). У списку є 1 квантизована версія від спільноти.
- Продуктивність: лідирує у 17 із 20 рядків у власному порівнянні Nanbeige з Qwen3.8-27B, Muse-Glimmer-30B і Gemma4-31B.
- Найкращий результат: 80.9 у Terminal-Bench 2.1 проти 73.0 у Qwen3.8-27B.
- Найгірший результат: 23.8 у Terminal-Bench 4.0 (її найнижчий бал). Вона також поступається Qwen3.8-27B у SWE-Bench Pro: 60.3 проти 61.7.
Що таке Nanbeige4.3-33B?
Nanbeige4.3-33B — флагманська модель-«учитель» серії Nanbeige4.3. Заявлена стратегія лабораторії полягає в тому, щоб спочатку створити сильну модель-учителя. Потім вона планує дистилювати агентні навички у менші моделі, починаючи з Nanbeige4.3-3B.
Як створено Nanbeige4.3-33B?
У файлі config.json заявлено стандартну архітектуру LlamaForCausalLM. Маршрутизації між експертами немає, тому всі 33B параметрів задіюються для кожного токена.
- 52 шари, розмір прихованого представлення 7 168
- 56 голів запитів і 8 голів ключів-значень (згрупована увага до запитів), розмір голови 128
- Проміжний розмір FFN 22 016, словник на 166 912 токенів
- RoPE theta 120 000 000 і 524 288 максимальних позицій
Шаблон чату має 3 елементи керування. enable_thinking перемикає міркування та за замовчуванням увімкнений. preserve_thinking зберігає міркування з попередніх ходів. Nanbeige рекомендує його для багатоходової роботи з інструментами та кодовими агентами. Передавання tools вмикає виклик інструментів, причому рекомендується формат викликів XML.
Як Nanbeige4.3-33B показує себе в тестах?
Nanbeige порівняла модель із Qwen3.8-27B, Muse-Glimmer-30B і Gemma4-31B. Кожна модель працювала з максимальним рівнем міркування, спільними гіперпараметрами та тестовими оболонками. Усі результати в цьому розділі надані самою компанією.
- Агентне програмування: результат у Terminal-Bench 2.1 становить 80.9 проти 73.0 у Qwen3.8-27B. Найбільший розрив демонструє DeepSWE: 65.5 проти 42.5. У Terminal-Bench 4.0 модель набирає 23.8, тоді як Gemma4-31B — 0.0.
- Агентна офісна робота: 54.2 в Automation Bench проти 38.3 і 44.8 у JobBench проти 34.5. У YC-bench змодельований прибуток сягає $1,025,437 проти $641,290.
- Міркування: заявлено 95.2 в AIME 2026 і 84.0 в AA-LCR.
Модель програє у 3 із 20 рядків. Qwen3.8-27B лідирує в SWE-Bench Pro (61.7 проти 60.3) і GDPval (86.4 проти 84.8). Gemma4-31B лідирує в GPQA Diamond у таблиці Nanbeige: 91.3 проти 89.5.
Базова модель перевершує Gemma4-31B-Base у всіх 8 наведених завданнях. Серед прикладів — MMLU-Pro (66.9 проти 59.3) і GPQA (62.0 проти 41.5).
</button><button class="btn ghost" id="nbgPlay">Автовідтворення</button></div>
<div class="spec">
<div><b>52</b><span>шари</span></div>
<div><b>56 / 8</b><span>голови запитів / KV (GQA)</span></div>
<div><b>7 168</b><span>розмір прихованого представлення</span></div>
<div><b>524 288</b><span>макс. позицій</span></div>
</div>
</div>
<div class="pane" id="p2">
<div class="seg" id="nbgSeg">
<button class="on" data-c="coding">Агентне програмування</button>
<button data-c="cowork">Агентна офісна робота</button>
<button data-c="reason">Міркування</button>
<button data-c="base">Базова модель</button>
</div>
<div class="legend" id="nbgLegend"></div>
<div id="nbgBars"></div>
<p class="note">Усі результати надані Nanbeige у картках її моделей на Hugging Face для кожної моделі з максимальним рівнем міркування та спільними тестовими оболонками. Незалежна перевірка не проводилася.</p>
</div>
<div class="pane" id="p3">
<div class="calc">
<div>
<div class="field"><label>Довжина контексту <b id="nbgCtxL">131 072 токени</b></label><input type="range" id="nbgCtx" min="0" max="6" step="1" value="4"></div>
<div class="field"><label>Паралельні послідовності <b id="nbgSeqL">1</b></label><input type="range" id="nbgSeq" min="1" max="8" step="1" value="1"></div>
<div class="seg" id="nbgW"><button class="on" data-w="2">Ваги BF16</button><button data-w="1">Ваги 8-bit</button></div>
<div class="seg" id="nbgK"><button class="on" data-k="2">KV-кеш BF16</button><button data-k="1">KV-кеш FP8</button></div>
<p class="note">Розрахунок із config.json: 52 шари × 8 голів KV × 128 вимірів × 2 (K і V) × байти на значення. Це 212 992 байти (близько 208 КіБ) на токен у BF16. Для ваг використано 33B параметрів. Активації та накладні витрати фреймворку не враховано.</p>
</div>
<div class="stack">
<div class="kv"><span>Орієнтовна пам’ять GPU</span></div>
<div class="total" id="nbgTot">0 ГБ</div>
<div class="stackbar"><i id="nbgBw" style="background:#5fd3bd"></i><i id="nbgBk" style="background:#7c8cf8"></i></div>
<div class="kv"><span><i style="display:inline-block;width:9px;height:9px;background:#5fd3bd;border-radius:2px"></i> Ваги</span><b id="nbgWv"></b></div>
<div class="kv"><span><i style="display:inline-block;width:9px;height:9px;background:#7c8cf8;border-radius:2px"></i> KV-кеш</span><b id="nbgKv"></b></div>
<div class="kv"><span>На GPU 80 ГБ (ідеальне розміщення)</span><b id="nbgGpu"></b></div>
<p class="note">Рецепти SGLang і vLLM у картці моделі використовують тензорний паралелізм 4-го ступеня.</p>
</div>
</div>
</div>
<div class="pane" id="p4">
<table>
<tr><th>Рядок у таблиці Nanbeige</th><th>Вказано Nanbeige</th><th>Офіційна картка</th><th></th></tr>
<tr><td>Muse-Glimmer-30B, SWE-Bench Pro</td><td class="bad">36.9</td><td>51.2 (Meta)</td><td><span class="flag">схоже, переплутано</span></td></tr>
<tr><td>Gemma4-31B, SWE-Bench Pro</td><td class="bad">51.2</td><td>36.9 (за даними Meta)</td><td><span class="flag">схоже, переплутано</span></td></tr>
<tr><td>Gemma4-31B, GPQA Diamond</td><td class="bad">91.3</td><td>84.3 (Google)</td><td><span class="flag">розбіжність</span></td></tr>
<tr><td>Muse-Glimmer-30B, Terminal-Bench 2.1</td><td class="bad">61.8</td><td>51.7 (Meta)</td><td><span class="flag">тестова оболонка?</span></td></tr>
<tr><td>Qwen3.8-27B, GPQA Diamond</td><td>89.2</td><td>89.2 (Qwen)</td><td>збігається</td></tr>
<tr><td>Muse-Glimmer-30B, AIME 2026</td><td>94.7</td><td>94.7 (Meta)</td><td>збігається</td></tr>
</table>
<p class="note">Nanbeige повторно протестувала кожну модель за допомогою власної тестової оболонки, що пояснює деякі розбіжності. Інші обмеження: лише текстовий ввід, щільні обчислення для кожного токена, а Nanbeige4.3-3B ще не випущена.</p>
</div>
<div class="ft"><span>Джерела: <a href="https://huggingface.co/Nanbeige/Nanbeige4.3-33B" target="_blank" rel="noopener">картка моделі Nanbeige</a> · <a href="https://huggingface.co/Nanbeige/Nanbeige4.3-33B-Base" target="_blank" rel="noopener">картка базової моделі</a> · картки конкурентних моделей на HF</span><span class="brand">© Marktechpost</span></div>
</div>
<script>
(function(){
var R=document.getElementById('mtp-nbg43');
function resize(){try{parent.postMessage({type:'mtp-nbg43-resize',height:R.offsetHeight+40},'*')}catch(e){}}
// вкладки
R.querySelectorAll('.tab').forEach(function(t){t.addEventListener('click',function(){
R.querySelectorAll('.tab').forEach(function(x){x.classList.remove('on')});t.classList.add('on');
R.querySelectorAll('.pane').forEach(function(p){p.classList.remove('on')});
document.getElementById(t.dataset.p).classList.add('on');
if(t.dataset.p==='p2')drawBars(cur);
setTimeout(resize,50);setTimeout(resize,400);
})});
// процес
var steps=[
'<b>Базова модель.</b> Nanbeige4.3-33B-Base — це щільний контрольний чекпойнт LlamaForCausalLM. Nanbeige повідомляє, що він перевершує Gemma4-31B-Base у всіх 8 наведених завданнях, наприклад у MMLU-Pro: 66.9 проти 59.3.',
'<b>Агент-учитель.</b> Донавчена модель за замовчуванням міркує (<code>enable_thinking</code>). <code>preserve_thinking</code> зберігає попередні міркування для багатоходової роботи з інструментами. Nanbeige рекомендує формат викликів інструментів XML.',
'<b>Агентна оболонка.</b> Nanbeige оцінила її в Terminus 2, mini-swe-agent v2.4.6 і тестовій оболонці Claude Code. Рекомендовані параметри вибірки агента: temperature 1.0, top_p 0.95, максимум 65 536 нових токенів.',
'<b>Дистиляція.</b> Модель 33B є учителем для серії Nanbeige4.3. Першою запланованою учнівською моделлю є Nanbeige4.3-3B. Дату випуску не вказано.'
];
var s=0,timer=null;
function setStep(i){s=(i+4)%4;R.querySelectorAll('.node').forEach(function(n,k){n.classList.toggle('on',k<=s)});
document.getElementById('nbgRail').style.width=((s+1)*25)+'%';document.getElementById('nbgDetail').innerHTML=steps[s];resize()}
R.querySelectorAll('.node').forEach(function(n){n.addEventListener('click',function(){stop();setStep(+n.dataset.s)})});
function stop(){if(timer){clearInterval(timer);timer=null;document.getElementById('nbgPlay').textContent='Автовідтворення'}}
document.getElementById('nbgNext').onclick=function(){stop();setStep(s+1)};
document.getElementById('nbgPrev').onclick=function(){stop();setStep(s-1)};
document.getElementById('nbgPlay').onclick=function(){if(timer){stop();return}this.textContent='Пауза';timer=setInterval(function(){setStep(s+1)},2200)};
setStep(0);
// стовпчики
var M={n:['Nanbeige4.3-33B','#5fd3bd'],q:['Qwen3.8-27B','#7c8cf8'],m:['Muse-Glimmer-30B','#f0a35e'],g:['Gemma4-31B','#6aa9f4']};
var D={
coding:[['Terminal-Bench 2.1',80.9,73.0,61.8,47.2],['DeepSWE',65.5,42.5,4.4,2.7],['SWE-Bench Pro',60.3,61.7,36.9,51.2],['SkillsBench',61.1,56.4,39.7,28.9],['Terminal-Bench 4.0',23.8,6.3,1.6,0.0]],
cowork:[['Automation Bench',54.2,38.3,15.2,9.7],['JobBench',44.8,34.5,16.6,9.0],['GDPval',84.8,86.4,75.8,71.4],['Toolathlon-Verified',70.4,68.5,47.2,27.8],['DeepPlanning',63.3,49.2,21.4,19.4]],
reason:[['AIME 2026',95.2,94.5,94.7,89.2],['GPQA Diamond',89.5,89.2,83.5,91.3],['AA-LCR',84.0,82.0,83.3,72.0]],
base:[['MMLU-Pro',66.9,null,null,59.3],['GPQA',62.0,null,null,41.5],['GSM8K',92.9,null,null,88.9],['Math',57.3,null,null,43.6],['CMMLU',86.8,null,null,76.9]]
};
var cur='coding';
function drawBars(c){cur=c;var keys=c==='base'?['n','g']:['n','q','m','g'];
var names=c==='base'?{n:'Nanbeige4.3-33B-Base',g:'Gemma4-31B-Base'}:{};
document.getElementById('nbgLegend').innerHTML=keys.map(function(k){return '<span><i style="background:'+M[k][1]+'"></i>'+(names[k]||M[k][0])+'</span>'}).join('');
var idx={n:1,q:2,m:3,g:4},h='';
D[c].forEach(function(r){h+='<div class="bench"><div class="bn">'+r[0]+'</div>';
keys.forEach(function(k){var v=r[idx[k]];h+='<div class="brow'+(k==='n'?' me':'')+'"><span class="lb">'+(names[k]||M[k][0])+'</span><div class="track"><div class="fill" data-w="'+v+'" style="background:'+M[k][1]+'"></div></div><span class="v">'+v.toFixed(1)+'</span></div>'});
h+='</div>'});
var box=document.getElementById('nbgBars');box.innerHTML=h;
requestAnimationFrame(function(){requestAnimationFrame(function(){box.querySelectorAll('.fill').forEach(function(f){f.style.width=f.dataset.w+'%'})})});
resize();setTimeout(resize,300)}
R.querySelectorAll('#nbgSeg button').forEach(function(b){b.onclick=function(){R.querySelectorAll('#nbgSeg button').forEach(function(x){x.classList.remove('on')});b.classList.add('on');drawBars(b.dataset.c)}});
drawBars('coding');
// калькулятор
var CT=[8192,16384,32768,65536,131072,262144,524288],wb=2,kb=2;
function fmt(n){return n.toLocaleString('en-US')}
function calc(){var ctx=CT[+document.getElementById('nbgCtx').value],seq=+document.getElementById('nbgSeq').value;
document.getElementById('nbgCtxL').textContent=fmt(ctx)+' токенів';document.getElementById('nbgSeqL').textContent=seq;
var w=33e9*wb/1e9,kv=52*8*128*2*kb*ctx*seq/1e9,t=w+kv;
document.getElementById('nbgTot').textContent=t.toFixed(1)+' ГБ';
document.getElementById('nbgWv').textContent=w.toFixed(1)+' ГБ';document.getElementById('nbgKv').textContent=kv.toFixed(1)+' ГБ';
document.getElementById('nbgGpu').textContent=Math.ceil(t/80)+' × 80 ГБ';
document.getElementById('nbgBw').style.width=(w/t*100)+'%';document.getElementById('nbgBk').style.width=(kv/t*100)+'%'}
['nbgCtx','nbgSeq'].forEach(function(id){document.getElementById(id).addEventListener('input',calc)});
R.querySelectorAll('#nbgW button').forEach(function(b){b.onclick=function(){R.querySelectorAll('#nbgW button').forEach(function(x){x.classList.remove('on')});b.classList.add('on');wb=+b.dataset.w;calc()}});
R.querySelectorAll('#nbgK button').forEach(function(b){b.onclick=function(){R.querySelectorAll('#nbgK button').forEach(function(x){x.classList.remove('on')});b.classList.add('on');kb=+b.dataset.k;calc()}});
calc();
window.addEventListener('load',resize);window.addEventListener('resize',resize);setTimeout(resize,200);
})();
</script>
</body></html>
" style="width:100%!important;height:600px;border:0!important;background:transparent!important;display:block;" loading="lazy">
Як це порівнюється з власними картками моделей конкурентів?
| Характеристика | Nanbeige4.3-33B | Qwen3.8-27B | Muse-Glimmer-30B | Gemma 4 31B |
|---|---|---|---|---|
| Розробник | Nanbeige LLM Lab (BOSS Zhipin) | Qwen (Alibaba) | Meta Superintelligence Lab | Google DeepMind |
| Параметри | 33B, щільна | 27B, щільна LM плюс візуальний енкодер | ~29.6B, щільна, зокрема ~1.8B візуального енкодера | 30.7B, щільна |
| Контекст | 524 288 | 262 144 нативно, до 1M | 131 072+ | 256K |
| Модальність вводу | Текст | Текст, зображення, відео | Текст, зображення | Текст, зображення |
| Ліцензія | Apache 2.0 | Apache 2.0 | Apache 2.0 | Apache 2.0 |
| Terminal-Bench 2.1 | 80.9* | 73.0 | 51.7 | Не розкрито |
| SWE-Bench Pro | 60.3* | 61.7 | 51.2 | Не розкрито |
| GPQA Diamond | 89.5* | 89.2 | 83.5 (AA) | 84.3 |
| AIME 2026 | 95.2* | Не розкрито | 94.7 | 89.2 |
| Рекомендації щодо локального обладнання | Рецепт тензорного паралелізму на 4 GPU | Не розкрито | 24 ГБ або 32 ГБ VRAM у режимі ~4-bit | Споживчі GPU та робочі станції |
*Надано самою Nanbeige. Значення конкурентів узято з власних карток моделей кожної лабораторії на Hugging Face.
Деякі показники конкурентів у таблиці Nanbeige відрізняються від опублікованих цими лабораторіями:
- Meta вказує для Muse-Glimmer-30B результат 51.2 у SWE-Bench Pro, а для Gemma4-31B — 36.9. Nanbeige наводить значення у зворотному порядку.
- Google вказує для Gemma 4 31B результат 84.3 у GPQA Diamond. У таблиці Nanbeige зазначено 91.3.
- Meta вказує для Muse-Glimmer-30B результат 51.7 у Terminal-Bench 2.1. Nanbeige виміряла 61.8.
Різні тестові оболонки пояснюють деякі розбіжності. Пара результатів SWE-Bench Pro, схоже, переплутана. Вважайте ці рядки попередніми, доки не з’являться незалежні запуски.
Як розгорнути Nanbeige4.3-33B?
Картка моделі містить рецепти для Transformers, SGLang і vLLM. У прикладах серверів використовується тензорний паралелізм 4-го ступеня з парсерами міркувань Qwen3 і викликів інструментів. Рекомендовані налаштування агента: temperature 1.0, top_p 0.95 і максимум 65 536 нових токенів. Для міркувань і чату використовуються temperature 0.6 і максимум 262 144 нових токенів.
Згідно з розрахунками на основі config.json, для ваг BF16 потрібно близько 66 ГБ. KV-кеш додає приблизно 208 КіБ на токен у BF16. Для повної послідовності на 524 288 токенів потрібно близько 112 ГБ KV-кешу. На момент публікації жоден провайдер Hugging Face Inference не розміщує цю модель.
Головні висновки
- Щільна модель із 33B параметрів, Apache 2.0, контекст 512K, лише текст.
- Заявлений самою компанією результат 80.9 у Terminal-Bench 2.1 і 65.5 у DeepSWE.
- Лідирує у 17 із 20 рядків у власній таблиці Nanbeige.
- Кілька показників конкурентів суперечать офіційним карткам.
- Створена як модель-учитель для майбутньої Nanbeige4.3-3B.
Перегляньте ваги моделі, базову модель та публікацію про запуск у X. Також підписуйтеся на нас у Twitter і не забудьте приєднатися до нашого 150k+ ML SubReddit та підписатися на нашу розсилку. Стривайте! Ви є в Telegram? тепер ви також можете приєднатися до нас у Telegram.
Потрібне партнерство з нами для просування вашого репозиторію GitHub, сторінки Hugging Face, релізу продукту, вебінару тощо? Зв’яжіться з нами
Перекладено автоматично з англійської. Оригінал статті — за посиланням нижче.