Supersonic Labs представи CPU модел за вземане на решения Julia 1
Supersonic Labs представи Julia 1 — отворен модел с 144,3 млн. параметъра, предназначен да избира между предварително зададени възможности, а не да генерира текст. Потребителят подава контекст, въпрос и от 2 до 20 опции. Моделът връща избора си и вероятност за всяка опция. Един API поддържа класификация на избор, оценка по подредена скала и преценка дали твърдение с отговор „да“ или „не“ е вярно.
Julia 1 използва енкодера mmBERT-small на JHU CLSP и се разпространява с лиценз Apache 2.0 чрез Hugging Face. Работи локално с Python 3.11 или по-нова версия на CPU или BF16-съвместим GPU. ONNX вариантът може да се изпълнява в браузър чрез WebGPU. Средата поддържа до 8192 комбинирани токена, но публикуваните тестове са проведени с лимит от 1024. Разходите за обучение и експерименти са около R$540 (US$104.08), посочва лабораторията.
При тестовете моделът надмина референтните резултати на Jev при Typed Decisions, AG News и DAIR Emotion, но получи 64/100 при Banking77 спрямо референтните 87%. На Apple M4 медианната латентност е 33,15 ms за решение. Хостван API е обявен, но още не е отворен, а Julia 2 е в разработка.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на MarkTechPost. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.