Sakhanda Wire
NVDA $153.32 -1.81% MSFT $505.84 -2.35% GOOGL $280.31 -1.20% META $621.44 -0.79% AMZN $257.31 -0.17%
← До новин

Supersonic Labs випустила CPU-модель ухвалення рішень Julia 1

Supersonic Labs випустила Julia 1 — відкриту модель зі 144,3 млн параметрів, призначену для вибору з наперед заданих варіантів, а не для генерації тексту. Користувач передає контекст, запитання та від 2 до 20 варіантів. Модель обирає один із них і повертає ймовірності для всіх варіантів. Один API підтримує вибір мітки, оцінювання за впорядкованою шкалою та визначення ймовірності істинності твердження з відповіддю «так» або «ні».

Julia 1 побудована на енкодері mmBERT-small від JHU CLSP, а її ваги доступні на Hugging Face за ліцензією Apache 2.0. Модель працює локально з Python 3.11 і новішими версіями на CPU або GPU з підтримкою BF16. Збірка ONNX також запускається в браузері через WebGPU. Середовище підтримує до 8192 сукупних токенів, однак опубліковані тести використовували обмеження в 1024 токени. За даними лабораторії, навчання й експерименти коштували близько R$540 (US$104.08).

Під час оцінювання Julia 1 перевершила довідкові результати Jev на Typed Decisions, AG News і DAIR Emotion, але набрала 64/100 на Banking77 проти 87% у довідкового показника. На Apple M4 медіанна затримка становила 33,15 мс на рішення. Хостинг API анонсовано, але його ще не відкрито; Julia 2 перебуває в розробці.

Текст підготовлено ШІ Sakhanda Wire за матеріалом MarkTechPost. Факти, цитати та повний контекст — в оригінальній статті нижче.

Вперше опубліковано виданням MarkTechPost

Читати оригінал на MarkTechPost ↗

Репортаж і зображення належать MarkTechPost і зазначені вище з посиланням на оригінал; текст на цій сторінці — власний виклад Sakhanda Wire.

← До новин

Ще новини

Усі останні новини