Supersonic Labs пусна Julia 1: отворен модел за вземане на решения със 144,3 млн. параметъра, който работи на CPU

Supersonic Labs, малка AI лаборатория от Бразилия, пусна Julia 1. Това е компактен модел за вземане на решения, а не чатбот. Подавате му контекст, въпрос и от 2 до 20 възможни отговора. Той избира един и връща вероятност за всяка опция. Моделът има 144.3M параметъра и работи на стандартен процесор.

Може ли да бъде внедрен? Да. Теглата са в Hugging Face под лиценз Apache 2.0 и работят локално с Python 3.11+ на CPU или GPU с поддръжка на BF16. ONNX версията също работи в браузъра чрез WebGPU. Обявен е хостван API, но все още не е отворен.

Какво прави Julia 1

Julia 1 обработва три типа решения чрез един API:

• choice: избира един етикет измежду 2 до 20 описани опции (класификация, маршрутизиране).
• score: връща очаквания индекс в подредена скала, например ниско, средно, високо.
• noul: връща вероятността дадено твърдение с отговор „да“ или „не“ да е вярно.

Резултатите се връщат в реда на опциите, зададен от извикващия, с пълни softmax вероятности. Идентификатори, зададени от извикващия, като billing, се връщат без промяна. Моделът не генерира текст.

Архитектура и бюджет за обучение

Julia 1 започва от mmBERT-small на JHU CLSP — многоезичен ModernBERT енкодер със 140M параметъра, обучен на над 1 800 езика. Supersonic Labs запазва енкодера и токенизатора, добавя глава за вземане на решения и обучава модела с примери във формат за решения. Лабораторията посочва, че Julia 1 не е фино настроен модел Qwen. Средата поддържа общо 8 192 токена, но публикуваните бенчмаркове са използвали ограничение от 1 024 токена.

Общите разходи за облачни GPU при обучението и експериментите са били около R$540 (US$104.08). FP32 теглата заемат 550.5 MiB. Частният конвейер за обучение не е публикуван. Julia 2, със собствена фундаментална архитектура на лабораторията, е в процес на разработка.

Резултати от бенчмарковете

Оценяването от 24 септември 2026 г. е проведено на H200 BF16 със строго кодиране. Сравнителната базова линия е Jev на TypeSafe, като са използвани референтни стойности от протокола за бенчмарка Jev, а не ново изпълнение на Jev.

• Typed Decisions: 73.15% (1 463/2 000) спрямо 72.70% референтен резултат.
• AG News, 4 етикета: 94/100 спрямо 91% референтен резултат.
• DAIR Emotion, 6 етикета: 86/100 спрямо 48% референтен резултат.
• Banking77, 72 етикета: 64/100 спрямо 87% референтен резултат. Това е очевидният провал.
• MASSIVE, 18 сценария: 71.50% макроточност в 52 локали; 86.25% за pt-PT, 86.75% за en-US.

Пилотните класификационни тестове използват само по 100 примера. CPU изпълнение от 25 септември възпроизвежда повечето резултати: 72.55% при Typed Decisions и 60/100 при Banking77 с 3 въздържания.

Латентност на устройства

Лабораторията публикува измервания за всяко устройство. На Apple M4 едно решение на извикване отнема медианно 33.15 ms. На таблет Samsung SM-X510 чрез ONNX Runtime медианата е 203 ms при пикова RSS памет от 393.1 MB. На Intel Core i5-1235U решенията за AG News отнемат медианно 107.83 ms. Banking77 отнема 3 713.54 ms, тъй като първо стеснява избора от 72 етикета.

В X @supersonicai твърди, че Julia 1 класифицира 5 пъти по-бързо от Jev на лаптоп с i5. Твърдението трябва да се приема внимателно. Пилотният тест на Jev измерва Jev като хоствана услуга, извикана от Франция, така че латентностите не са пряко сравними.

Представяме Julia-1:
Първият ни класификационен модел, който работи почти навсякъде.

Научете повече https://t.co/YJCdEeIBSo pic.twitter.com/3cizsbG9ZB

— Supersonic Labs (@supersonicai) 26 септември 2026 г.

Интерактивно обяснение

Julia 1 спрямо най-близките конкуренти

Характеристика	Julia 1	TypeSafe Jev	GLiNER2.5 Multi
Разработчик	Supersonic Labs	TypeSafe AI	Fastino
Достъп	Отворени тегла	Хостван API, ранен достъп	Отворени тегла
Лиценз	Apache 2.0	Собственически	Apache 2.0
Параметри	144.3M	Не е разкрито	287M
Базов енкодер	mmBERT-small	Не е разкрито	mDeBERTa-v3-base
Типове решения	Избор, оценка, да/не	Типизирани структурирани решения	Класификация, NER, релации, записи
Опции на извикване	2 до 20 (Router за повече)	До 255	Списък с етикети за всяка схема
Работи локално на CPU	Да	Не	Да
Цена на входа за 1M токена	$0.025 (планиран API)	$0.042	Безплатно (самостоятелно хостване)
Пилотен тест AG News	94%	91%	70%
Пилотен тест DAIR Emotion	86%	48%	44%
Пилотен тест Banking77	64%	87%	61%

Източници: картата на модела Julia 1, публикацията за представянето на TypeSafe, картата на GLiNER2.5 Multi, пилотният бенчмарк Jev. Пилотните тестове на Julia 1 са проведени отделно от тестовете на Jev и GLiNER.

Ограничения

Julia 1 сравнява отговорите, които му предоставяте. На него не може да се разчита за липсващи факти, алгебра или многостъпкови изчисления. Router може да отхвърли правилния етикет при стесняването на избора. Моделът не е директно заменяем конвейер на Transformers и нито един доставчик на inference услуги в Hugging Face не го предлага. Supersonic Labs препоръчва да го оценявате със собствени въпроси и да запазите човешки контрол при решения с важни последствия.

Основни изводи

• Julia 1 е модел за вземане на решения с 144.3M параметъра и лиценз Apache 2.0, който работи на CPU.
• Един API обхваща избор, подредена оценка и решения „да“ или „не“ за 2 до 20 опции.
• Той надмина референтните резултати на Jev в 3 от 4 пилотни теста, но изостана сериозно при Banking77 със 72 етикета.
• Медианната латентност достигна 33.15 ms на решение на Apple M4.
• Обучението е струвало около US$104 за облачни GPU; планира се API на цена $0.025/MTok.

---

Разгледайте теглата на модела, версията ONNX/WebGPU и техническите подробности. Цялата заслуга е за изследователя на този проект. Също така можете да ни последвате в Twitter и не забравяйте да се присъедините към нашия ML SubReddit с над 150 хил. членове и да се абонирате за нашия бюлетин. Чакайте! В Telegram ли сте? сега можете да се присъедините към нас и в Telegram.

Имате нужда от партньорство с нас за популяризиране на вашето GitHub хранилище, страница в Hugging Face, продуктово представяне, уебинар и т.н.? Свържете се с нас