Sakhanda Wire
NVDA $152.58 -2.28% MSFT $506.11 -2.29% GOOGL $279.81 -1.38% META $619.07 -1.17% AMZN $256.55 -0.47%
← Към новините

Contrastive-LM представи отворения модел CLM-8B за оценка на действия

Contrastive-LM представи CLM-8B, определян като първия отворен модел от класа Contrastive Language Models. Вместо да генерира текст, той оценява набор от възможни действия спрямо текущо състояние и връща вероятности. Системата е проектирана да използва интерфейс, сходен с този на Jev — собствен модел System One на TypeSafe AI. Хранилището предоставя съвместим с TypeSafe API с типовете заявки Noul, Choice и Score.

CLM-8B използва замразени Qwen3-8B базови модели и две обучаеми проекционни глави от по 20M параметъра. Двупосочна InfoNCE цел приближава представянето на състоянието до реално избраното действие и го отдалечава от алтернативите. При извеждане скаларното произведение на векторите се преобразува в разпределение чрез softmax. При три действия и RTX 4090 повторно посещаваните състояния намаляват латентността от 1,7 ms до 0,6 ms.

Според картата на модела CLM-8B е 13 пъти по-бърз от Jev при около 1000 кандидати. В тестове без допълнително обучение той постига резултати като Jev в T-Rex и Super Mario, но изостава при извикване на инструменти и WikiRacing. Дообучените глави достигат 81,6% в подмножество на DeepSWE и 87,6% в подмножество на Terminal-Bench 2.1. Главата с лиценз Apache-2.0 е 75 MB и работи на един NVIDIA GPU под Linux.

Текстът е изготвен от ИИ на Sakhanda Wire по материал на MarkTechPost. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.

Първоначално публикувано от MarkTechPost на

Прочетете оригинала в MarkTechPost ↗

Репортажът и изображението принадлежат на MarkTechPost и са посочени по-горе с връзка към оригинала; текстът на тази страница е собствено изложение на Sakhanda Wire.

← Към новините

Още новини

Всички последни новини