Sakhanda Wire
NVDA $153.32 -1.81% MSFT $505.84 -2.35% GOOGL $280.31 -1.20% META $621.44 -0.79% AMZN $257.31 -0.17%
← Към новините

Supersonic Labs представи CPU модел за вземане на решения Julia 1

Supersonic Labs представи Julia 1 — отворен модел с 144,3 млн. параметъра, предназначен да избира между предварително зададени възможности, а не да генерира текст. Потребителят подава контекст, въпрос и от 2 до 20 опции. Моделът връща избора си и вероятност за всяка опция. Един API поддържа класификация на избор, оценка по подредена скала и преценка дали твърдение с отговор „да“ или „не“ е вярно.

Julia 1 използва енкодера mmBERT-small на JHU CLSP и се разпространява с лиценз Apache 2.0 чрез Hugging Face. Работи локално с Python 3.11 или по-нова версия на CPU или BF16-съвместим GPU. ONNX вариантът може да се изпълнява в браузър чрез WebGPU. Средата поддържа до 8192 комбинирани токена, но публикуваните тестове са проведени с лимит от 1024. Разходите за обучение и експерименти са около R$540 (US$104.08), посочва лабораторията.

При тестовете моделът надмина референтните резултати на Jev при Typed Decisions, AG News и DAIR Emotion, но получи 64/100 при Banking77 спрямо референтните 87%. На Apple M4 медианната латентност е 33,15 ms за решение. Хостван API е обявен, но още не е отворен, а Julia 2 е в разработка.

Текстът е изготвен от ИИ на Sakhanda Wire по материал на MarkTechPost. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.

Първоначално публикувано от MarkTechPost на

Прочетете оригинала в MarkTechPost ↗

Репортажът и изображението принадлежат на MarkTechPost и са посочени по-горе с връзка към оригинала; текстът на тази страница е собствено изложение на Sakhanda Wire.

← Към новините

Още новини

Всички последни новини