Cohere представи North Small Translate: преводачески MoE модел с 218 млрд. параметъра, който постига 83,6 на WMT26 за 50 езика

Cohere пусна North Small Translate — модел за машинен превод с отворени тегла от Cohere и Cohere Labs. Това е разреден модел от типа Mixture-of-Experts (MoE) с общо 218 млрд. и 25 млрд. активни параметри. Обхваща 50 езика — от албански до виетнамски. При оценяването на Cohere по WMT26 той постига резултат 83,6, осреднен за всички езици. Cohere твърди, че това надминава DeepL и Google Translate, както и отворени алтернативи като GLM 5.2 и Mistral Large 3.

Може ли да бъде внедрен? Да. Използвайте го безплатно през API на Cohere до достигане на ограниченията за честота, хоствайте го самостоятелно за некомерсиални цели или го лицензирайте за комерсиална употреба.

Завръщане към мястото, откъдето започна Transformer

Изследователи на Google представиха Transformer през 2017 г. с Attention Is All You Need. Основните му резултати бяха постигнати при превод от английски на немски и от английски на френски по WMT 2014. 9 години по-късно Cohere се връща към този първоначален проблем със специализиран модел. Публикацията на Cohere за стартирането в X представя превода като въпрос на суверенитет. Организациите, които не могат да комуникират глобално, не могат да останат суверенни.

North Small Translate е първият преводачески модел в семейството North на Cohere. Той следва Tiny Aya и Command A Translate в многоезичната линия на Cohere. Cohere го разработи с RWS, чиито учени и езикови експерти от Language Weaver допринесоха за качеството му в реални условия.

Архитектура

Структурата на модела описва разреден MoE Transformer само с декодер. Ето основните подробности:

• Експерти: 128 експерти, 8 активирани за всеки токен, плюс споделени експерти, прилагани към всеки токен.
• Рутер: Сигмоидна функция върху логитите на експертите, нормализирана спрямо избраните top-k.
• Механизъм за внимание: Слоеве с плъзгащ се прозорец (прозорец 4096, RoPE) и глобални слоеве без позиционни вграждания, редуващи се в съотношение 3:1.
• Произход: Тази конфигурация на вниманието беше представена за първи път в Command A.
• Контекст: 16K входни и 16K изходни токена, само текст.
• Обучение: Дообучен специално за качество на превода.

Около 11,5% от теглата са активни за всеки токен. Изчисленията за токен съответстват на 25 млрд. активни параметри. Паметта все пак трябва да побере всичките 218 млрд.

Бенчмаркове

Екипът на Cohere съобщава следните резултати по WMT26 за всички езици в своя публикация за стартирането:

Версията Agentic използва работен процес с няколко прохода, който открива и поправя собствените си грешки. Скалата за оценяване на Cohere определя резултат от 80 до 100 като перфектен или с наличие само на незначителни грешки. Тук има едно важно уточнение. Това са собствени тестове на Cohere, при които съдия е GPT-5.6-Sol. Приемайте ги за данни, предоставени от доставчика, докато не се появят независими резултати от WMT26.

И двете версии превъзхождат Gemma 4 31B (on) в цяла Европа. При езиците от ЕС стандартният модел постига 82,17 срещу 72,73 за Gemma. Южна Азия е близо, с 86,16 за North срещу 88,04 за Gemma.

Скорост, дълги документи и цена

При тестовете на Cohere моделът генерира 112 изходни токена в секунда срещу 81 за Gemma 4 31B. Това е измерено при ниска едновременност и идентичен хардуер. При висока едновременност стойностите са 39 срещу 30. Cohere определя това като до 1,4 пъти по-висока пропускателна способност.

Дългите документи са още по-силна страна. Моделът постига 48,9 при превод на 2 глави от книга в рамките на 1 заявка. Google Translate постига 21,3, а Gemma 4 31B — 19,4. Качеството се измерва за всеки абзац с xCOMET-XL.

В ценовата графика на Cohere моделът постига 80,1 при цена от 0,000676 щ.д. на задача, осреднено за 661 токена. Gemini 3.1 Pro Preview (high) струва 0,038928 щ.д. на задача — около 58 пъти повече. Qwen 3.5 397B A17B струва 0,004525 щ.д., а Command A+ — 0,005158 щ.д.

Как да го стартирате

Най-бързият начин е чрез Chat V2 API на Cohere. Моделът е безплатен там до достигане на ограниченията за честота:

from cohere import ClientV2

co = ClientV2(api_key="<YOUR_API_KEY>")
response = co.chat(
    model="north-small-translate-1-0",
    messages=[{"role": "user",
               "content": "Преведете всичко следващо на френски:\n\nПредприятията се нуждаят от точни преводи на критично важни бизнес документи."}],
)
print(response.message.content[0].text)

За самостоятелно хостване Cohere публикува 3 контролни точки — същите, които използва в продукционна среда:

Основни изводи

• North Small Translate на Cohere е MoE модел с 218 млрд. параметри и 25 млрд. активни параметри.
• Постига 83,6 по WMT26 за всички езици и 84,36 в агентен режим.
• Всички резултати са предоставени от доставчика и оценени от GPT-5.6-Sol.
• 4-битовата контролна точка работи с 1x B200 или 2x H100.

Вижте модела тук. Също така можете да ни последвате в Twitter и не забравяйте да се присъедините към нашия SubReddit с над 150 хил. членове и да се абонирате за нашия бюлетин. Чакайте! В Telegram ли сте? сега можете да се присъедините към нас и в Telegram.

Искате да си партнирате с нас за популяризиране на ваше GitHub хранилище, страница в Hugging Face, представяне на продукт, уебинар и др.? Свържете се с нас