Sakhanda Wire
NVDA $154.00 -1.37% MSFT $506.28 -2.26% GOOGL $280.87 -1.00% META $620.34 -0.97% AMZN $256.88 -0.34%
← Към новините

AnyJev превръща отворени LLM в калибрирани модели за решения

Изследователският екип на Nokia представи AnyJev — Python библиотека с лиценз Apache-2.0, която превръща отворен голям езиков модел в типизиран модел за вземане на решения без допълнително обучение. Тя е предназначена за задачи, при които системата избира един от предварително зададени отговори, вместо да генерира текст. AnyJev се предлага в PyPI и поддържа бекендове за Hugging Face Transformers и vLLM със споделено изчисляване на общия префикс.

Библиотеката работи с въпроси с избор, въпроси с отговор „да“ или „не“ и задачи за оценка в подредени интервали. Режимът L0 показва вариантите във всички циклични подреждания и обединява резултатите, за да ограничи влиянието на позицията. Той прилага и корекция на базовите предпочитания на модела след осем елемента. L1 добавя температурно мащабиране, изчислено от 100 до 500 означени примера.

При тест с BANKING77 и Qwen3-8B, използващ 20 варианта, честотата на промяна при разместване на опциите е спаднала от 0.230 при необработени логити до 0.073 с L0. Точността се е повишила от 0.747 на 0.803, а L1 е намалил грешката по калибриране от 0.240 на 0.095. Делът на автоматично решимите случаи при грешка 5% е нараснал от 7.7% на 52.0%.

Текстът е изготвен от ИИ на Sakhanda Wire по материал на MarkTechPost. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.

Първоначално публикувано от MarkTechPost на

Прочетете оригинала в MarkTechPost ↗

Репортажът и изображението принадлежат на MarkTechPost и са посочени по-горе с връзка към оригинала; текстът на тази страница е собствено изложение на Sakhanda Wire.

← Към новините

Още новини

Всички последни новини