Cloudflare выпустила Clef и Clef-flash: модели принятия решений с открытыми весами, возвращающие типизированные вероятности вместо текста
Cloudflare выпустила Clef и Clef-flash — первые модели, обученные её командой Workers AI. Это модели принятия решений, а не чат-боты. Каждая из них считывает входное состояние и схему типизированных вопросов. Она возвращает вероятность каждого допустимого ответа без какого-либо текста в свободной форме. Обе модели распространяются с открытыми весами по лицензии Apache 2.0 и совместимы с API Jev от TypeSafe AI.
Можно ли их развернуть? Да, обе модели уже работают в Workers AI, а веса доступны на Hugging Face для самостоятельного хостинга.
Что делает модель принятия решений
LLM генерирует токены один за другим, и её вывод всё ещё требует парсинга. Модель принятия решений отвечает только на фиксированный набор вопросов о входных данных. Clef поддерживает 3 типа вопросов:
noul: да/нет, возвращает вероятность ответа «да».choice: выбирает 1 именованный вариант, указывая вероятности для каждого варианта и значение уверенности.score: оценивает по упорядоченной шкале, возвращая оценку, взвешенную по вероятностям.
В Workers AI один запрос может содержать до 64 вопросов и до 4 изображений.
15 сентября 2026 года TypeSafe AI запустила Jev — свою первую модель «System One». За ней последовали открытые альтернативы, такие как Kev-9B и Laya. Clef использует тот же API System One. Для перехода с Jev достаточно изменить конечную точку и имя модели.
Как работает Clef
Clef дообучена на основе Qwen3.8-27B, а Clef-flash — на основе Qwen3.5-9B. Обе модели сохраняют зрительный энкодер исходной архитектуры.
Вывод выполняется в 2 этапа. Сначала исходная архитектура за один проход только предварительного заполнения обрабатывает состояние и вопросы. Затем небольшой трансформер — совместная головка схемы — считывает конечные скрытые состояния. Он направляет свидетельства к каждому вопросу, позволяет полям взаимодействовать через механизм cross-attention и совместно оценивает все варианты. Softmax для каждого вопроса преобразует логиты в вероятности.
Во время обучения обе исходные архитектуры были заморожены, а головка маршрутизации совместно оптимизировалась с низкоранговыми адаптерами ранга 256. Функция потерь объединяет кросс-энтропию со сглаживанием меток и функцию потерь Бриера для калибровки. Вспомогательная цель — обучение с подкреплением для калиброванных решений (RLCD) — частично засчитывает соседние порядковые варианты.
Интерактивное объяснение
Бенчмарки: где Clef выигрывает, а где — нет
В 7 из 10 бенчмарков из составленного Cloudflare короткого списка Decision Index 0.2.1 модель Clef показала наивысший результат.
- BANKING77 (macro-F1): Clef — 94,20 против 79,74 у Jev.
- CLINC150+OOS (macro-F1): Clef — 97,43 против 89,27 у Jev.
- Бытовая техника (точное совпадение случая): Clef-flash — 97,73 против 52,27 у Jev.
В других областях Jev сохраняет явное преимущество. В полной карточке модели указано, что Jev опережает Clef в GPQA Diamond (78,3 против 48,0). Она также лидирует в MMLU-Pro (82,7 против 65,9) и BBH (92,9 против 73,7).
В собственных тестах рабочих процессов TypeSafe Clef опередила Jev в 3 из 4 областей, хотя отрыв был небольшим. Обработка счетов: 64,7 против 61,8; обслуживание клиентов: 76,3 против 76,0; инциденты безопасности: 62,9 против 61,7. Jev лидирует в наблюдаемости трассировок агентов: 71,6 против 68,5.
В рабочем процессе Cloudflare по анализу угроз Clef классифицировала домен за 2,2 секунды. Модели gpt-oss-120b потребовалось 4,7 секунды.
Все показатели предоставлены поставщиками; независимого воспроизведения результатов пока не проводилось.
Сравнение характеристик
| Характеристика | Clef | Clef-flash | Jev | Kev-9B | Laya |
|---|---|---|---|---|---|
| Разработчик | Cloudflare | Cloudflare | TypeSafe AI | Jared Palmer | Convai Innovations |
| Размер | 27B | 9B | Не раскрыт | 9B + 45,4M LoRA | 421M |
| Исходная архитектура | Qwen3.8-27B | Qwen3.5-9B | Не раскрыта | Qwen3.5-9B-Base | ModernBERT-large |
| Веса | Apache 2.0 | Apache 2.0 | Размещённый API | Apache 2.0 | Apache 2.0 |
| Ввод изображений | Да | Да | Нет | Нет | Нет |
| Контекст | 65 536 | 65 536 | 32K (по данным Cloudflare) | 65 536 (проверено 8 192) | 512 (английский) |
| Медианная задержка* | 209,3 мс | 38,8 мс | 524,1 мс | 51,4 мс | 5,8 мс |
| Цена хостинга (ввод) | $0,24/M | $0,09/M | $0,042/M | Самостоятельный хостинг | Самостоятельный хостинг |
*Внутренний запуск Decision Index от Cloudflare. Все 5 моделей реализуют API System One. Источники: документация Clef, документация Clef-flash, карточка Clef, публикация о Jev, карточка Kev-9B, карточка Laya.
Развёртывание и дообучение
Обе модели можно вызывать через привязку Workers AI (env.AI.run()), REST API или AI Gateway. Для самостоятельного хостинга в карточках моделей указано тестирование на одном H200 с весами BF16.
Cloudflare также анонсировала сервис обучения с подкреплением для настройки Clef на приватных данных. На первом этапе он будет доступен инженерам Cloudflare, работающим непосредственно с клиентами, а позднее появится платформа самообслуживания. Конвейер объединяет AI Gateway, Workers AI, Containers и новый компонент Trainer. Команды могут подать заявку через форму для партнёров по разработке.
Основные выводы
- Clef (27B) и Clef-flash (9B) — модели принятия решений с лицензией Apache 2.0, совместимые с Jev.
- Медианная задержка: 209,3 мс у Clef, 38,8 мс у Clef-flash и 524,1 мс у Jev.
- Clef обрабатывает текст, JSON, изображения и видео в контекстном окне размером 64K токенов.
- Jev по-прежнему лидирует в тестах, требующих обширных знаний, таких как GPQA Diamond, MMLU-Pro и BBH.
- Сервис дообучения с подкреплением запускается с инженерами Cloudflare, работающими непосредственно с клиентами.
Ознакомьтесь с весами модели, демонстрацией и техническими подробностями. Вся благодарность принадлежит исследователю этого проекта. Также подписывайтесь на нас в Twitter и не забудьте присоединиться к нашему сабреддиту о машинном обучении с аудиторией 150k+ и подписаться на нашу рассылку. Постойте! Вы есть в Telegram? теперь вы также можете присоединиться к нам в Telegram.
Хотите сотрудничать с нами для продвижения своего репозитория GitHub, страницы на Hugging Face, релиза продукта, вебинара и т. д.? Свяжитесь с нами
Переведено автоматически с английского. Оригинал статьи — по ссылке ниже.