Cloudflare пусна Clef и Clef-flash: модели за вземане на решения с отворени тегла, които връщат типизирани вероятности вместо текст
Cloudflare пусна Clef и Clef-flash — първите модели, обучени от екипа му Workers AI. Те са модели за вземане на решения, а не чатботове. Всеки от тях прочита входно състояние и схема от типизирани въпроси. Връща вероятност за всеки разрешен отговор, без свободен текст. И двата модела са с отворени тегла под лиценз Apache 2.0 и са съвместими с API на Jev на TypeSafe AI.
Може ли да бъде внедрен? Да. И двата модела работят още днес в Workers AI, а теглата са налични в Hugging Face за самостоятелно хостване.
Какво прави един модел за вземане на решения
Един LLM генерира токени един по един, а изходът му все още трябва да бъде анализиран. Моделът за вземане на решения отговаря само на фиксиран набор от въпроси за даден вход. Clef поддържа 3 типа въпроси:
noul: да/не, връща вероятността за „да“.choice: избира 1 именувана опция, с вероятности за всяка опция и стойност на увереността.score: оценява според подредена рубрика, като връща претеглена с вероятностите оценка.
В Workers AI 1 заявка съдържа до 64 въпроса и до 4 изображения.
TypeSafe AI пусна Jev, първия си модел „System One“, на 15 септември 2026 г. След него се появиха отворени алтернативи като Kev-9B и Laya. Clef използва същия System One API. Преминаването от Jev означава промяна на крайната точка и името на модела.
Как работи Clef
Clef е дообучен от Qwen3.8-27B, а Clef-flash — от Qwen3.5-9B. И двата модела запазват зрителния енкодер на базовия модел.
Извеждането има 2 етапа. Базовият модел първо извършва еднократен проход само за предварително попълване върху състоянието и въпросите. След това малък трансформер — съвместната глава на схемата — прочита крайните скрити състояния. Той насочва доказателствата към всеки въпрос, позволява на полетата да обменят информация чрез cross-attention и оценява съвместно всички опции. Softmax функция за всеки въпрос превръща логитите във вероятности.
При обучението и двата базови модела са замразени, а главата за маршрутизиране е оптимизирана съвместно с нискорангови адаптери с ранг 256. Функцията на загубата съчетава cross-entropy със загладени етикети с Brier загуба за калибриране. Вторична цел — Reinforcement Learning for Calibrated Decisions (RLCD) — дава частичен кредит на съседни избори по порядъчна скала.
Интерактивно обяснение
Бенчмаркове: къде Clef печели и къде не
В краткия списък на Cloudflare от 10 бенчмарка от набора Decision Index 0.2.1 модел на Clef постигна най-висок резултат в 7 от тях.
- BANKING77 (macro-F1): Clef 94.20 срещу Jev 79.74.
- CLINC150+OOS (macro-F1): Clef 97.43 срещу Jev 89.27.
- Домашни уреди (точно съвпадение на случая): Clef-flash 97.73 срещу Jev 52.27.
Jev запазва ясна преднина на други места. Пълната карта на модела показва, че Jev води при GPQA Diamond (78.3 срещу 48.0). Той води и при MMLU-Pro (82.7 срещу 65.9) и BBH (92.9 срещу 73.7).
При собствените оценки на работни процеси на TypeSafe Clef победи Jev в 3 от 4 области, с малки разлики. Обработката на фактури беше 64.7 срещу 61.8, обслужването на клиенти — 76.3 срещу 76.0, а инцидентите със сигурността — 62.9 срещу 61.7. Jev води при наблюдаемостта на следите на агентите — 71.6 срещу 68.5.
В работния процес за разузнаване на заплахи на Cloudflare Clef класифицира домейн за 2.2 секунди. gpt-oss-120b се нуждаеше от 4.7 секунди.
Всички числа са предоставени от доставчиците и все още няма независимо възпроизвеждане на резултатите.
Сравнение на функциите
| Функция | Clef | Clef-flash | Jev | Kev-9B | Laya |
|---|---|---|---|---|---|
| Разработчик | Cloudflare | Cloudflare | TypeSafe AI | Jared Palmer | Convai Innovations |
| Размер | 27B | 9B | Не е обявен | 9B + 45.4M LoRA | 421M |
| Базов модел | Qwen3.8-27B | Qwen3.5-9B | Не е обявен | Qwen3.5-9B-Base | ModernBERT-large |
| Тегла | Apache 2.0 | Apache 2.0 | Хостван API | Apache 2.0 | Apache 2.0 |
| Входни изображения | Да | Да | Не | Не | Не |
| Контекст | 65,536 | 65,536 | 32K (според Cloudflare) | 65,536 (8,192 валидирани) | 512 (на английски) |
| Медианна латентност* | 209.3 ms | 38.8 ms | 524.1 ms | 51.4 ms | 5.8 ms |
| Хоствана цена (вход) | $0.24/M | $0.09/M | $0.042/M | Самостоятелно хостване | Самостоятелно хостване |
*Вътрешно изпълнение на Decision Index на Cloudflare. И петте модела имплементират System One API. Източници: документация за Clef, документация за Clef-flash, карта на Clef, публикация за Jev, карта на Kev-9B, карта на Laya.
Внедряване и дообучаване
И двата модела могат да бъдат извиквани чрез Workers AI binding (env.AI.run()), REST API или AI Gateway. За самостоятелно хостване картите на моделите посочват тестване на един H200 с BF16 тегла.
Cloudflare обяви и услуга за обучение с подсилване за настройване на Clef върху частни данни. Тя започва с инженерите на Cloudflare, внедрени при клиентите, а по-късно ще бъде достъпна и като платформа за самостоятелно обслужване. Процесът комбинира AI Gateway, Workers AI, Containers и нов компонент Trainer. Екипите могат да кандидатстват чрез формуляра за партньори по дизайна.
Основни изводи
- Clef (27B) и Clef-flash (9B) са модели за вземане на решения с Apache 2.0, съвместими с Jev.
- Медианна латентност: 209.3 ms за Clef, 38.8 ms за Clef-flash, 524.1 ms за Jev.
- Clef обработва текст, JSON, изображения и видео в контекстен прозорец от 64K токена.
- Jev все още води при тестове, изискващи широки познания, като GPQA Diamond, MMLU-Pro и BBH.
- Услугата за RL дообучаване започва с инженерите на Cloudflare, внедрени при клиентите.
Разгледайте теглата на модела, демото и техническите подробности. Всички заслуги са за изследователя на този проект. Също така не се колебайте да ни последвате в Twitter и не забравяйте да се присъедините към нашия 150k+ ML SubReddit и да се абонирате за нашия бюлетин. Чакайте! В Telegram ли сте? Вече можете да се присъедините към нас и в Telegram.
Имате нужда от партньорство с нас за популяризиране на вашето GitHub хранилище, страница в Hugging Face, продуктово издание, уебинар и т.н.? Свържете се с нас
Преведено автоматично от английски. Оригиналната статия е на връзката по-долу.