Supersonic Labs випустила CPU-модель ухвалення рішень Julia 1
Supersonic Labs випустила Julia 1 — відкриту модель зі 144,3 млн параметрів, призначену для вибору з наперед заданих варіантів, а не для генерації тексту. Користувач передає контекст, запитання та від 2 до 20 варіантів. Модель обирає один із них і повертає ймовірності для всіх варіантів. Один API підтримує вибір мітки, оцінювання за впорядкованою шкалою та визначення ймовірності істинності твердження з відповіддю «так» або «ні».
Julia 1 побудована на енкодері mmBERT-small від JHU CLSP, а її ваги доступні на Hugging Face за ліцензією Apache 2.0. Модель працює локально з Python 3.11 і новішими версіями на CPU або GPU з підтримкою BF16. Збірка ONNX також запускається в браузері через WebGPU. Середовище підтримує до 8192 сукупних токенів, однак опубліковані тести використовували обмеження в 1024 токени. За даними лабораторії, навчання й експерименти коштували близько R$540 (US$104.08).
Під час оцінювання Julia 1 перевершила довідкові результати Jev на Typed Decisions, AG News і DAIR Emotion, але набрала 64/100 на Banking77 проти 87% у довідкового показника. На Apple M4 медіанна затримка становила 33,15 мс на рішення. Хостинг API анонсовано, але його ще не відкрито; Julia 2 перебуває в розробці.
Текст підготовлено ШІ Sakhanda Wire за матеріалом MarkTechPost. Факти, цитати та повний контекст — в оригінальній статті нижче.