Supersonic Labs випустила Julia 1: відкриту модель ухвалення рішень зі 144,3 млн параметрів, що працює на CPU
Supersonic Labs, невелика лабораторія ШІ з Бразилії, випустила Julia 1. Це компактна модель для ухвалення рішень, а не чатбот. Ви передаєте їй контекст, запитання та від 2 до 20 варіантів відповіді. Вона обирає один із них і повертає ймовірність для кожного варіанта. Модель має 144,3 млн параметрів і працює на звичайному CPU.
Чи придатна вона для розгортання? Так. Ваги доступні на Hugging Face за ліцензією Apache 2.0 і працюють локально з Python 3.11+ на CPU або GPU із підтримкою BF16. Збірка ONNX також працює в браузері через WebGPU. Розміщений API анонсовано, але він ще недоступний.
Можливості Julia 1
Julia 1 обробляє три типи рішень через один API:
- choice: обрати одну мітку з 2–20 описаних варіантів (класифікація, маршрутизація).
- score: повернути очікуваний індекс за впорядкованою шкалою, наприклад низький, середній, високий.
- noul: повернути ймовірність того, що твердження «так» або «ні» є істинним.
Результати повертаються в порядку варіантів, заданому викликачем, із повними ймовірностями softmax. Ідентифікатори, задані викликачем, наприклад billing, повертаються без змін. Модель не генерує текст.
Архітектура та бюджет навчання
Julia 1 базується на mmBERT-small від JHU CLSP — мультимовному енкодері ModernBERT зі 140 млн параметрів, навченому на понад 1 800 мовах. Supersonic Labs зберегла енкодер і токенізатор, додала голову ухвалення рішень і навчила модель на прикладах у форматі рішень. Лабораторія зазначає, що Julia 1 не є донавченою моделлю Qwen. Середовище виконання підтримує загалом 8 192 токени, але в опублікованих тестах використовувалося обмеження у 1 024 токени.
Загальні витрати на хмарні GPU для навчання та експериментів становили близько 540 реалів (104,08 долара США). Ваги FP32 займають 550,5 МіБ. Приватний конвеєр навчання не опубліковано. Julia 2, заснована на власній базовій архітектурі лабораторії, перебуває в розробці.
Результати тестування
Оцінювання 24 вересня 2026 року проводилося на H200 BF16 із суворим кодуванням. Базовою моделлю для порівняння є Jev від TypeSafe, із використанням еталонних значень із протоколу тестування Jev, а не нового запуску Jev.
- Typed Decisions: 73,15% (1 463/2 000) проти 72,70% еталонного показника.
- AG News, 4 мітки: 94/100 проти 91% еталонного показника.
- DAIR Emotion, 6 міток: 86/100 проти 48% еталонного показника.
- Banking77, 72 мітки: 64/100 проти 87% еталонного показника. Це явна невдача.
- MASSIVE, 18 сценаріїв: 71,50% макроточності для 52 локалей; 86,25% для pt-PT, 86,75% для en-US.
У пілотних класифікаційних тестах використано лише по 100 прикладів. Запуск на CPU 25 вересня відтворив більшість показників: 72,55% на Typed Decisions і 60/100 на Banking77 із 3 утриманнями від відповіді.
Затримка на пристроях
Лабораторія опублікувала вимірювання для окремих пристроїв. На Apple M4 одне рішення за виклик мало медіанну тривалість 33,15 мс. На планшеті Samsung SM-X510 через ONNX Runtime медіанна тривалість становила 203 мс, а пікове використання RSS — 393,1 МБ. На Intel Core i5-1235U рішення для AG News мали медіанну тривалість 107,83 мс. Для Banking77 показник становив 3 713,54 мс, оскільки спочатку звужується набір із 72 міток.
У X @supersonicai стверджує, що Julia 1 класифікує дані у 5 разів швидше за Jev на ноутбуці з i5. До цього твердження слід ставитися обережно. У пілотному тесті Jev вимірювався як розміщений сервіс, до якого зверталися з Франції, тому затримки не є безпосередньо порівнюваними.
Представляємо Julia-1:
— Supersonic Labs (@supersonicai) 26 вересня 2026 року
нашу першу класифікаційну модель, яка працює майже на будь-чому.
Дізнайтеся більше https://t.co/YJCdEeIBSo pic.twitter.com/3cizsbG9ZB
Інтерактивне пояснення
Julia 1 проти найближчих конкурентів
| Характеристика | Julia 1 | TypeSafe Jev | GLiNER2.5 Multi |
|---|---|---|---|
| Розробник | Supersonic Labs | TypeSafe AI | Fastino |
| Доступ | Відкриті ваги | Розміщений API, ранній доступ | Відкриті ваги |
| Ліцензія | Apache 2.0 | Пропрієтарна | Apache 2.0 |
| Параметри | 144,3 млн | Не розкрито | 287 млн |
| Базовий енкодер | mmBERT-small | Не розкрито | mDeBERTa-v3-base |
| Типи рішень | Вибір, оцінка, так/ні | Типізовані структуровані рішення | Класифікація, NER, зв’язки, записи |
| Варіанти за виклик | 2–20 (маршрутизатор для більшої кількості) | До 255 | Список міток для кожної схеми |
| Працює локально на CPU | Так | Ні | Так |
| Ціна введення за 1 млн токенів | 0,025 долара (запланований API) | 0,042 долара | Безкоштовно (самостійне розгортання) |
| Пілотний тест AG News | 94% | 91% | 70% |
| Пілотний тест DAIR Emotion | 86% | 48% | 44% |
| Пілотний тест Banking77 | 64% | 87% | 61% |
Джерела: картка моделі Julia 1, публікація TypeSafe про запуск, картка GLiNER2.5 Multi, пілотний тест Jev. Пілотні тести Julia 1 проводилися окремо від тестів Jev і GLiNER.
Обмеження
Julia 1 порівнює надані вами відповіді. Не слід покладатися на неї у випадках, коли бракує фактів, потрібні алгебра або багатокрокові обчислення. Маршрутизатор може вилучити правильну мітку під час звуження переліку. Це не готовий до безпосереднього використання конвеєр Transformers, і жоден провайдер інференсу Hugging Face не обслуговує цю модель. Supersonic Labs радить оцінювати модель на власних запитаннях і залучати людей до ухвалення важливих рішень.
Основні висновки
- Julia 1 — це модель для ухвалення рішень зі 144,3 млн параметрів, ліцензією Apache 2.0 і підтримкою роботи на CPU.
- Один API охоплює вибір, упорядковану оцінку та рішення «так/ні» для 2–20 варіантів.
- Вона перевершила еталонні показники Jev у 3 з 4 пілотних тестів, але значно поступилася на Banking77 із 72 мітками.
- Медіанна затримка на Apple M4 становила 33,15 мс на одне рішення.
- Навчання на хмарних GPU коштувало близько 104 доларів США; заплановано API за ціною 0,025 долара за мільйон токенів.
Ознайомтеся з вагами моделі, збіркою ONNX/WebGPU і технічними деталями. Уся подяка — досліднику цього проєкту. Також підписуйтеся на нас у Twitter і не забудьте приєднатися до нашого сабреддіту про машинне навчання зі 150 тис.+ учасників та підписатися на нашу розсилку. Стривайте! Ви є в Telegram? тепер ви також можете приєднатися до нас у Telegram.
Потрібно співпрацювати з нами для просування вашого репозиторію GitHub, сторінки Hugging Face, випуску продукту, вебінару тощо? Зв’яжіться з нами
Перекладено автоматично з англійської. Оригінал статті — за посиланням нижче.