Supersonic Labs выпустила CPU-модель принятия решений Julia 1
Supersonic Labs представила Julia 1 — открытую модель с 144,3 млн параметров для выбора из заранее заданных вариантов, а не для генерации текста. На вход подаются контекст, вопрос и от 2 до 20 вариантов. Модель выбирает один из них и возвращает вероятности для всех вариантов. Единый API поддерживает выбор метки, оценку по упорядоченной шкале и определение вероятности истинности утверждения с ответом «да» или «нет».
В основе Julia 1 лежит энкодер mmBERT-small от JHU CLSP; веса доступны на Hugging Face по лицензии Apache 2.0. Модель запускается локально с Python 3.11 и новее на CPU или GPU с поддержкой BF16. Сборка ONNX также работает в браузере через WebGPU. Среда допускает до 8192 совокупных токенов, однако опубликованные тесты проводились с ограничением в 1024 токена. По данным лаборатории, обучение и эксперименты обошлись примерно в R$540 (US$104.08).
В испытаниях Julia 1 превзошла справочные показатели Jev на Typed Decisions, AG News и DAIR Emotion, но получила 64/100 на Banking77 против 87% у ориентира. На Apple M4 медианная задержка составила 33,15 мс на решение. Хостинговый API анонсирован, но пока недоступен; Julia 2 находится в разработке.
Текст подготовлен ИИ Sakhanda Wire по материалу MarkTechPost. Факты, цитаты и полный контекст — в оригинальной статье ниже.