Supersonic Labs выпустила Julia 1: открытую модель принятия решений со 144,3 млн параметров, работающую на CPU
Supersonic Labs, небольшая лаборатория ИИ из Бразилии, выпустила Julia 1. Это компактная модель принятия решений, а не чат-бот. Ей передаются контекст, вопрос и от 2 до 20 вариантов ответа. Она выбирает один из них и возвращает вероятность для каждого варианта. Модель содержит 144,3 млн параметров и работает на обычном CPU.
Можно ли её развернуть? Да. Веса доступны на Hugging Face по лицензии Apache 2.0 и работают локально с Python 3.11+ на CPU или GPU с поддержкой BF16. Сборка ONNX также работает в браузере через WebGPU. Размещение API объявлено, но пока оно недоступно.
Что умеет Julia 1
Julia 1 поддерживает три типа решений через единый API:
- choice: выбрать одну метку из 2–20 описанных вариантов (классификация, маршрутизация).
- score: вернуть ожидаемый индекс в упорядоченной шкале, например «низкий», «средний», «высокий».
- noul: вернуть вероятность истинности утверждения, на которое можно ответить «да» или «нет».
Результаты возвращаются в порядке вариантов, заданном вызывающей стороной, с полными вероятностями softmax. Идентификаторы, заданные вызывающей стороной, например billing, возвращаются без изменений. Модель не генерирует текст.
Архитектура и бюджет обучения
Julia 1 создана на основе mmBERT-small от JHU CLSP — мультиязычного энкодера ModernBERT со 140 млн параметров, обученного на более чем 1 800 языках. Supersonic Labs сохранила энкодер и токенизатор, добавила головку принятия решений и обучила модель на примерах в формате задач принятия решений. Лаборатория заявляет, что Julia 1 — это не дообученная модель Qwen. Среда выполнения поддерживает в общей сложности 8 192 токена, однако в опубликованных тестах использовалось ограничение в 1 024 токена.
Общие расходы на облачные GPU для обучения и экспериментов составили около 540 реалов (104,08 доллара США). Веса FP32 занимают 550,5 МиБ. Закрытый конвейер обучения не опубликован. Julia 2, созданная на основе собственной фундаментальной архитектуры лаборатории, находится в разработке.
Результаты тестирования
Оценка 24 сентября 2026 года проводилась на H200 BF16 при строгом кодировании. Сравнительным базовым показателем служит Jev от TypeSafe, для которого использовались эталонные значения из протокола тестирования Jev, а не новый запуск Jev.
- Typed Decisions: 73,15% (1 463/2 000) против эталонных 72,70%.
- AG News, 4 метки: 94/100 против эталонных 91%.
- DAIR Emotion, 6 меток: 86/100 против эталонных 48%.
- Banking77, 72 метки: 64/100 против эталонных 87%. Это явный провал.
- MASSIVE, 18 сценариев: 71,50% макроточности по 52 локалям; 86,25% для pt-PT и 86,75% для en-US.
В пилотных классификационных тестах использовалось всего по 100 примеров. Запуск на CPU 25 сентября воспроизвёл большинство показателей: 72,55% на Typed Decisions и 60/100 на Banking77 с 3 отказами от ответа.
Задержка на устройствах
Лаборатория опубликовала измерения для отдельных устройств. На Apple M4 один вызов с одним решением занимал медианные 33,15 мс. На планшете Samsung SM-X510 через ONNX Runtime медианное значение составило 203 мс, а пиковое использование RSS — 393,1 МБ. На Intel Core i5-1235U принятие решений для AG News занимало медианные 107,83 мс. Для Banking77 показатель составил 3 713,54 мс, поскольку сначала выполняется сужение набора из 72 меток.
В X-аккаунте @supersonicai утверждается, что Julia 1 классифицирует данные в 5 раз быстрее Jev на ноутбуке с i5. К этому следует относиться с осторожностью. В пилотном тесте Jev измерялся как размещённый сервис, вызываемый из Франции, поэтому задержки нельзя считать сопоставимыми.
Представляем Julia-1:
— Supersonic Labs (@supersonicai) 26 сентября 2026 года
нашу первую модель классификации, которая работает практически на любом устройстве.
Узнать больше https://t.co/YJCdEeIBSo pic.twitter.com/3cizsbG9ZB
Интерактивное объяснение
Julia 1 и ближайшие конкуренты
| Характеристика | Julia 1 | TypeSafe Jev | GLiNER2.5 Multi |
|---|---|---|---|
| Разработчик | Supersonic Labs | TypeSafe AI | Fastino |
| Доступ | Открытые веса | Размещённый API, ранний доступ | Открытые веса |
| Лицензия | Apache 2.0 | Проприетарная | Apache 2.0 |
| Параметры | 144,3 млн | Не раскрыто | 287 млн |
| Базовый энкодер | mmBERT-small | Не раскрыто | mDeBERTa-v3-base |
| Типы решений | Выбор, оценка, да/нет | Типизированные структурированные решения | Классификация, NER, отношения, записи |
| Варианты за вызов | От 2 до 20 (маршрутизатор для большего числа) | До 255 | Список меток в схеме |
| Локальный запуск на CPU | Да | Нет | Да |
| Цена входных данных за 1 млн токенов | 0,025 доллара (планируемый API) | 0,042 доллара | Бесплатно (при самостоятельном размещении) |
| Пилот AG News | 94% | 91% | 70% |
| Пилот DAIR Emotion | 86% | 48% | 44% |
| Пилот Banking77 | 64% | 87% | 61% |
Источники: карточка модели Julia 1, публикация TypeSafe о запуске, карточка GLiNER2.5 Multi, пилотное тестирование Jev. Пилотные тесты Julia 1 проводились отдельно от запусков Jev и GLiNER.
Ограничения
Julia 1 сравнивает предоставленные вами варианты ответов. На неё нельзя полагаться в вопросах отсутствующих фактов, алгебры или многошаговых вычислений. Маршрутизатор может исключить правильную метку на этапе сужения. Это не готовый конвейер Transformers, и ни один провайдер инференса Hugging Face её не обслуживает. Supersonic Labs рекомендует проводить оценку на собственных вопросах и сохранять участие человека при принятии важных решений.
Основные выводы
- Julia 1 — модель принятия решений со 144,3 млн параметров и лицензией Apache 2.0, работающая на CPU.
- Один API поддерживает выбор, упорядоченную оценку и решения «да/нет» для 2–20 вариантов.
- Она превзошла эталонные показатели Jev в 3 из 4 пилотных тестов, но значительно уступила на Banking77 с 72 метками.
- Медианная задержка на Apple M4 составила 33,15 мс на одно решение.
- Обучение обошлось примерно в 104 доллара США на облачные GPU; планируется API стоимостью 0,025 доллара за миллион токенов.
Ознакомьтесь с весами модели, сборкой ONNX/WebGPU и техническими подробностями. Все заслуги принадлежат исследователю этого проекта. Также подписывайтесь на нас в Twitter и не забудьте присоединиться к нашему сабреддиту о машинном обучении с более чем 150 тысячами участников и подписаться на нашу рассылку. Постойте! Вы есть в Telegram? теперь вы также можете присоединиться к нам в Telegram.
Хотите сотрудничать с нами для продвижения вашего репозитория GitHub, страницы на Hugging Face, релиза продукта, вебинара и т. д.? Свяжитесь с нами
Переведено автоматически с английского. Оригинал статьи — по ссылке ниже.