Sakhanda Wire
NVDA $210.96 -0.59% MSFT $524.51 +0.66% GOOGL $320.21 -1.24% META $642.62 -0.96% AMZN $248.00 -0.95%
← До новин

Nanbeige випустила Nanbeige4.3-33B — відкриту агентну модель для програмування з 33B параметрів

Лабораторія Nanbeige LLM Lab випустила Nanbeige4.3-33B на Hugging Face за ліцензією Apache 2.0. Nanbeige4.3-33B — це щільна мовна модель із 33B параметрів, створена для агентного програмування та офісних завдань у стилі «cowork». Лабораторія працює в межах рекрутингової платформи BOSS Zhipin. Вона також опублікувала Nanbeige4.3-33B-Base для спеціального донавчання. Модель підтримує контекстне вікно на 524 288 токенів. У власній таблиці лабораторії вона лідирує у 17 із 20 тестів проти 3 відкритих моделей із близько 30B параметрів.

Коротко

  • Розмір: 33B параметрів, щільна модель (без MoE), контекст на 524 288 токенів (512K), ваги BF16.
  • Працює на: серверах із кількома GPU. Рецепти SGLang і vLLM для цієї моделі використовують тензорний паралелізм 4-го ступеня. Для ваг BF16 потрібно близько 66 ГБ (за нашими розрахунками). У списку є 1 квантизована версія від спільноти.
  • Продуктивність: лідирує у 17 із 20 рядків у власному порівнянні Nanbeige з Qwen3.8-27B, Muse-Glimmer-30B і Gemma4-31B.
  • Найкращий результат: 80.9 у Terminal-Bench 2.1 проти 73.0 у Qwen3.8-27B.
  • Найгірший результат: 23.8 у Terminal-Bench 4.0 (її найнижчий бал). Вона також поступається Qwen3.8-27B у SWE-Bench Pro: 60.3 проти 61.7.

Що таке Nanbeige4.3-33B?

Nanbeige4.3-33B — флагманська модель-«учитель» серії Nanbeige4.3. Заявлена стратегія лабораторії полягає в тому, щоб спочатку створити сильну модель-учителя. Потім вона планує дистилювати агентні навички у менші моделі, починаючи з Nanbeige4.3-3B.

Як створено Nanbeige4.3-33B?

У файлі config.json заявлено стандартну архітектуру LlamaForCausalLM. Маршрутизації між експертами немає, тому всі 33B параметрів задіюються для кожного токена.

  • 52 шари, розмір прихованого представлення 7 168
  • 56 голів запитів і 8 голів ключів-значень (згрупована увага до запитів), розмір голови 128
  • Проміжний розмір FFN 22 016, словник на 166 912 токенів
  • RoPE theta 120 000 000 і 524 288 максимальних позицій

Шаблон чату має 3 елементи керування. enable_thinking перемикає міркування та за замовчуванням увімкнений. preserve_thinking зберігає міркування з попередніх ходів. Nanbeige рекомендує його для багатоходової роботи з інструментами та кодовими агентами. Передавання tools вмикає виклик інструментів, причому рекомендується формат викликів XML.

Як Nanbeige4.3-33B показує себе в тестах?

Nanbeige порівняла модель із Qwen3.8-27B, Muse-Glimmer-30B і Gemma4-31B. Кожна модель працювала з максимальним рівнем міркування, спільними гіперпараметрами та тестовими оболонками. Усі результати в цьому розділі надані самою компанією.

  • Агентне програмування: результат у Terminal-Bench 2.1 становить 80.9 проти 73.0 у Qwen3.8-27B. Найбільший розрив демонструє DeepSWE: 65.5 проти 42.5. У Terminal-Bench 4.0 модель набирає 23.8, тоді як Gemma4-31B — 0.0.
  • Агентна офісна робота: 54.2 в Automation Bench проти 38.3 і 44.8 у JobBench проти 34.5. У YC-bench змодельований прибуток сягає $1,025,437 проти $641,290.
  • Міркування: заявлено 95.2 в AIME 2026 і 84.0 в AA-LCR.

Модель програє у 3 із 20 рядків. Qwen3.8-27B лідирує в SWE-Bench Pro (61.7 проти 60.3) і GDPval (86.4 проти 84.8). Gemma4-31B лідирує в GPQA Diamond у таблиці Nanbeige: 91.3 проти 89.5.

Базова модель перевершує Gemma4-31B-Base у всіх 8 наведених завданнях. Серед прикладів — MMLU-Pro (66.9 проти 59.3) і GPQA (62.0 проти 41.5).

Назад</button><button class="btn" id="nbgNext">Наступний крок ▶</button><button class="btn ghost" id="nbgPlay">Автовідтворення</button></div> <div class="spec"> <div><b>52</b><span>шари</span></div> <div><b>56 / 8</b><span>голови запитів / KV (GQA)</span></div> <div><b>7 168</b><span>розмір прихованого представлення</span></div> <div><b>524 288</b><span>макс. позицій</span></div> </div> </div> <div class="pane" id="p2"> <div class="seg" id="nbgSeg"> <button class="on" data-c="coding">Агентне програмування</button> <button data-c="cowork">Агентна офісна робота</button> <button data-c="reason">Міркування</button> <button data-c="base">Базова модель</button> </div> <div class="legend" id="nbgLegend"></div> <div id="nbgBars"></div> <p class="note">Усі результати надані Nanbeige у картках її моделей на Hugging Face для кожної моделі з максимальним рівнем міркування та спільними тестовими оболонками. Незалежна перевірка не проводилася.</p> </div> <div class="pane" id="p3"> <div class="calc"> <div> <div class="field"><label>Довжина контексту <b id="nbgCtxL">131 072 токени</b></label><input type="range" id="nbgCtx" min="0" max="6" step="1" value="4"></div> <div class="field"><label>Паралельні послідовності <b id="nbgSeqL">1</b></label><input type="range" id="nbgSeq" min="1" max="8" step="1" value="1"></div> <div class="seg" id="nbgW"><button class="on" data-w="2">Ваги BF16</button><button data-w="1">Ваги 8-bit</button></div> <div class="seg" id="nbgK"><button class="on" data-k="2">KV-кеш BF16</button><button data-k="1">KV-кеш FP8</button></div> <p class="note">Розрахунок із config.json: 52 шари × 8 голів KV × 128 вимірів × 2 (K і V) × байти на значення. Це 212 992 байти (близько 208 КіБ) на токен у BF16. Для ваг використано 33B параметрів. Активації та накладні витрати фреймворку не враховано.</p> </div> <div class="stack"> <div class="kv"><span>Орієнтовна пам’ять GPU</span></div> <div class="total" id="nbgTot">0 ГБ</div> <div class="stackbar"><i id="nbgBw" style="background:#5fd3bd"></i><i id="nbgBk" style="background:#7c8cf8"></i></div> <div class="kv"><span><i style="display:inline-block;width:9px;height:9px;background:#5fd3bd;border-radius:2px"></i> Ваги</span><b id="nbgWv"></b></div> <div class="kv"><span><i style="display:inline-block;width:9px;height:9px;background:#7c8cf8;border-radius:2px"></i> KV-кеш</span><b id="nbgKv"></b></div> <div class="kv"><span>На GPU 80 ГБ (ідеальне розміщення)</span><b id="nbgGpu"></b></div> <p class="note">Рецепти SGLang і vLLM у картці моделі використовують тензорний паралелізм 4-го ступеня.</p> </div> </div> </div> <div class="pane" id="p4"> <table> <tr><th>Рядок у таблиці Nanbeige</th><th>Вказано Nanbeige</th><th>Офіційна картка</th><th></th></tr> <tr><td>Muse-Glimmer-30B, SWE-Bench Pro</td><td class="bad">36.9</td><td>51.2 (Meta)</td><td><span class="flag">схоже, переплутано</span></td></tr> <tr><td>Gemma4-31B, SWE-Bench Pro</td><td class="bad">51.2</td><td>36.9 (за даними Meta)</td><td><span class="flag">схоже, переплутано</span></td></tr> <tr><td>Gemma4-31B, GPQA Diamond</td><td class="bad">91.3</td><td>84.3 (Google)</td><td><span class="flag">розбіжність</span></td></tr> <tr><td>Muse-Glimmer-30B, Terminal-Bench 2.1</td><td class="bad">61.8</td><td>51.7 (Meta)</td><td><span class="flag">тестова оболонка?</span></td></tr> <tr><td>Qwen3.8-27B, GPQA Diamond</td><td>89.2</td><td>89.2 (Qwen)</td><td>збігається</td></tr> <tr><td>Muse-Glimmer-30B, AIME 2026</td><td>94.7</td><td>94.7 (Meta)</td><td>збігається</td></tr> </table> <p class="note">Nanbeige повторно протестувала кожну модель за допомогою власної тестової оболонки, що пояснює деякі розбіжності. Інші обмеження: лише текстовий ввід, щільні обчислення для кожного токена, а Nanbeige4.3-3B ще не випущена.</p> </div> <div class="ft"><span>Джерела: <a href="https://huggingface.co/Nanbeige/Nanbeige4.3-33B" target="_blank" rel="noopener">картка моделі Nanbeige</a> · <a href="https://huggingface.co/Nanbeige/Nanbeige4.3-33B-Base" target="_blank" rel="noopener">картка базової моделі</a> · картки конкурентних моделей на HF</span><span class="brand">© Marktechpost</span></div> </div> <script> (function(){ var R=document.getElementById('mtp-nbg43'); function resize(){try{parent.postMessage({type:'mtp-nbg43-resize',height:R.offsetHeight+40},'*')}catch(e){}} // вкладки R.querySelectorAll('.tab').forEach(function(t){t.addEventListener('click',function(){ R.querySelectorAll('.tab').forEach(function(x){x.classList.remove('on')});t.classList.add('on'); R.querySelectorAll('.pane').forEach(function(p){p.classList.remove('on')}); document.getElementById(t.dataset.p).classList.add('on'); if(t.dataset.p==='p2')drawBars(cur); setTimeout(resize,50);setTimeout(resize,400); })}); // процес var steps=[ '<b>Базова модель.</b> Nanbeige4.3-33B-Base — це щільний контрольний чекпойнт LlamaForCausalLM. Nanbeige повідомляє, що він перевершує Gemma4-31B-Base у всіх 8 наведених завданнях, наприклад у MMLU-Pro: 66.9 проти 59.3.', '<b>Агент-учитель.</b> Донавчена модель за замовчуванням міркує (<code>enable_thinking</code>). <code>preserve_thinking</code> зберігає попередні міркування для багатоходової роботи з інструментами. Nanbeige рекомендує формат викликів інструментів XML.', '<b>Агентна оболонка.</b> Nanbeige оцінила її в Terminus 2, mini-swe-agent v2.4.6 і тестовій оболонці Claude Code. Рекомендовані параметри вибірки агента: temperature 1.0, top_p 0.95, максимум 65 536 нових токенів.', '<b>Дистиляція.</b> Модель 33B є учителем для серії Nanbeige4.3. Першою запланованою учнівською моделлю є Nanbeige4.3-3B. Дату випуску не вказано.' ]; var s=0,timer=null; function setStep(i){s=(i+4)%4;R.querySelectorAll('.node').forEach(function(n,k){n.classList.toggle('on',k<=s)}); document.getElementById('nbgRail').style.width=((s+1)*25)+'%';document.getElementById('nbgDetail').innerHTML=steps[s];resize()} R.querySelectorAll('.node').forEach(function(n){n.addEventListener('click',function(){stop();setStep(+n.dataset.s)})}); function stop(){if(timer){clearInterval(timer);timer=null;document.getElementById('nbgPlay').textContent='Автовідтворення'}} document.getElementById('nbgNext').onclick=function(){stop();setStep(s+1)}; document.getElementById('nbgPrev').onclick=function(){stop();setStep(s-1)}; document.getElementById('nbgPlay').onclick=function(){if(timer){stop();return}this.textContent='Пауза';timer=setInterval(function(){setStep(s+1)},2200)}; setStep(0); // стовпчики var M={n:['Nanbeige4.3-33B','#5fd3bd'],q:['Qwen3.8-27B','#7c8cf8'],m:['Muse-Glimmer-30B','#f0a35e'],g:['Gemma4-31B','#6aa9f4']}; var D={ coding:[['Terminal-Bench 2.1',80.9,73.0,61.8,47.2],['DeepSWE',65.5,42.5,4.4,2.7],['SWE-Bench Pro',60.3,61.7,36.9,51.2],['SkillsBench',61.1,56.4,39.7,28.9],['Terminal-Bench 4.0',23.8,6.3,1.6,0.0]], cowork:[['Automation Bench',54.2,38.3,15.2,9.7],['JobBench',44.8,34.5,16.6,9.0],['GDPval',84.8,86.4,75.8,71.4],['Toolathlon-Verified',70.4,68.5,47.2,27.8],['DeepPlanning',63.3,49.2,21.4,19.4]], reason:[['AIME 2026',95.2,94.5,94.7,89.2],['GPQA Diamond',89.5,89.2,83.5,91.3],['AA-LCR',84.0,82.0,83.3,72.0]], base:[['MMLU-Pro',66.9,null,null,59.3],['GPQA',62.0,null,null,41.5],['GSM8K',92.9,null,null,88.9],['Math',57.3,null,null,43.6],['CMMLU',86.8,null,null,76.9]] }; var cur='coding'; function drawBars(c){cur=c;var keys=c==='base'?['n','g']:['n','q','m','g']; var names=c==='base'?{n:'Nanbeige4.3-33B-Base',g:'Gemma4-31B-Base'}:{}; document.getElementById('nbgLegend').innerHTML=keys.map(function(k){return '<span><i style="background:'+M[k][1]+'"></i>'+(names[k]||M[k][0])+'</span>'}).join(''); var idx={n:1,q:2,m:3,g:4},h=''; D[c].forEach(function(r){h+='<div class="bench"><div class="bn">'+r[0]+'</div>'; keys.forEach(function(k){var v=r[idx[k]];h+='<div class="brow'+(k==='n'?' me':'')+'"><span class="lb">'+(names[k]||M[k][0])+'</span><div class="track"><div class="fill" data-w="'+v+'" style="background:'+M[k][1]+'"></div></div><span class="v">'+v.toFixed(1)+'</span></div>'}); h+='</div>'}); var box=document.getElementById('nbgBars');box.innerHTML=h; requestAnimationFrame(function(){requestAnimationFrame(function(){box.querySelectorAll('.fill').forEach(function(f){f.style.width=f.dataset.w+'%'})})}); resize();setTimeout(resize,300)} R.querySelectorAll('#nbgSeg button').forEach(function(b){b.onclick=function(){R.querySelectorAll('#nbgSeg button').forEach(function(x){x.classList.remove('on')});b.classList.add('on');drawBars(b.dataset.c)}}); drawBars('coding'); // калькулятор var CT=[8192,16384,32768,65536,131072,262144,524288],wb=2,kb=2; function fmt(n){return n.toLocaleString('en-US')} function calc(){var ctx=CT[+document.getElementById('nbgCtx').value],seq=+document.getElementById('nbgSeq').value; document.getElementById('nbgCtxL').textContent=fmt(ctx)+' токенів';document.getElementById('nbgSeqL').textContent=seq; var w=33e9*wb/1e9,kv=52*8*128*2*kb*ctx*seq/1e9,t=w+kv; document.getElementById('nbgTot').textContent=t.toFixed(1)+' ГБ'; document.getElementById('nbgWv').textContent=w.toFixed(1)+' ГБ';document.getElementById('nbgKv').textContent=kv.toFixed(1)+' ГБ'; document.getElementById('nbgGpu').textContent=Math.ceil(t/80)+' × 80 ГБ'; document.getElementById('nbgBw').style.width=(w/t*100)+'%';document.getElementById('nbgBk').style.width=(kv/t*100)+'%'} ['nbgCtx','nbgSeq'].forEach(function(id){document.getElementById(id).addEventListener('input',calc)}); R.querySelectorAll('#nbgW button').forEach(function(b){b.onclick=function(){R.querySelectorAll('#nbgW button').forEach(function(x){x.classList.remove('on')});b.classList.add('on');wb=+b.dataset.w;calc()}}); R.querySelectorAll('#nbgK button').forEach(function(b){b.onclick=function(){R.querySelectorAll('#nbgK button').forEach(function(x){x.classList.remove('on')});b.classList.add('on');kb=+b.dataset.k;calc()}}); calc(); window.addEventListener('load',resize);window.addEventListener('resize',resize);setTimeout(resize,200); })(); </script> </body></html> " style="width:100%!important;height:600px;border:0!important;background:transparent!important;display:block;" loading="lazy">

Як це порівнюється з власними картками моделей конкурентів?

ХарактеристикаNanbeige4.3-33BQwen3.8-27BMuse-Glimmer-30BGemma 4 31B
РозробникNanbeige LLM Lab (BOSS Zhipin)Qwen (Alibaba)Meta Superintelligence LabGoogle DeepMind
Параметри33B, щільна27B, щільна LM плюс візуальний енкодер~29.6B, щільна, зокрема ~1.8B візуального енкодера30.7B, щільна
Контекст524 288262 144 нативно, до 1M131 072+256K
Модальність вводуТекстТекст, зображення, відеоТекст, зображенняТекст, зображення
ЛіцензіяApache 2.0Apache 2.0Apache 2.0Apache 2.0
Terminal-Bench 2.180.9*73.051.7Не розкрито
SWE-Bench Pro60.3*61.751.2Не розкрито
GPQA Diamond89.5*89.283.5 (AA)84.3
AIME 202695.2*Не розкрито94.789.2
Рекомендації щодо локального обладнанняРецепт тензорного паралелізму на 4 GPUНе розкрито24 ГБ або 32 ГБ VRAM у режимі ~4-bitСпоживчі GPU та робочі станції

*Надано самою Nanbeige. Значення конкурентів узято з власних карток моделей кожної лабораторії на Hugging Face.

Деякі показники конкурентів у таблиці Nanbeige відрізняються від опублікованих цими лабораторіями:

  • Meta вказує для Muse-Glimmer-30B результат 51.2 у SWE-Bench Pro, а для Gemma4-31B — 36.9. Nanbeige наводить значення у зворотному порядку.
  • Google вказує для Gemma 4 31B результат 84.3 у GPQA Diamond. У таблиці Nanbeige зазначено 91.3.
  • Meta вказує для Muse-Glimmer-30B результат 51.7 у Terminal-Bench 2.1. Nanbeige виміряла 61.8.

Різні тестові оболонки пояснюють деякі розбіжності. Пара результатів SWE-Bench Pro, схоже, переплутана. Вважайте ці рядки попередніми, доки не з’являться незалежні запуски.

Як розгорнути Nanbeige4.3-33B?

Картка моделі містить рецепти для Transformers, SGLang і vLLM. У прикладах серверів використовується тензорний паралелізм 4-го ступеня з парсерами міркувань Qwen3 і викликів інструментів. Рекомендовані налаштування агента: temperature 1.0, top_p 0.95 і максимум 65 536 нових токенів. Для міркувань і чату використовуються temperature 0.6 і максимум 262 144 нових токенів.

Згідно з розрахунками на основі config.json, для ваг BF16 потрібно близько 66 ГБ. KV-кеш додає приблизно 208 КіБ на токен у BF16. Для повної послідовності на 524 288 токенів потрібно близько 112 ГБ KV-кешу. На момент публікації жоден провайдер Hugging Face Inference не розміщує цю модель.

Головні висновки

  • Щільна модель із 33B параметрів, Apache 2.0, контекст 512K, лише текст.
  • Заявлений самою компанією результат 80.9 у Terminal-Bench 2.1 і 65.5 у DeepSWE.
  • Лідирує у 17 із 20 рядків у власній таблиці Nanbeige.
  • Кілька показників конкурентів суперечать офіційним карткам.
  • Створена як модель-учитель для майбутньої Nanbeige4.3-3B.

Перегляньте ваги моделі, базову модель та публікацію про запуск у X. Також підписуйтеся на нас у Twitter і не забудьте приєднатися до нашого 150k+ ML SubReddit та підписатися на нашу розсилку. Стривайте! Ви є в Telegram? тепер ви також можете приєднатися до нас у Telegram.

Потрібне партнерство з нами для просування вашого репозиторію GitHub, сторінки Hugging Face, релізу продукту, вебінару тощо? Зв’яжіться з нами

Перекладено автоматично з англійської. Оригінал статті — за посиланням нижче.

Вперше опубліковано виданням MarkTechPost

Читати оригінал на MarkTechPost ↗

Текст і зображення належать MarkTechPost і наводяться тут із зазначенням авторства та посиланням на оригінальну публікацію.

← До новин

Ще новини

Усі останні новини