Cloudflare выпустила модели для решений с типизированными вероятностями
Cloudflare представила Clef и Clef-flash — первые модели, разработанные командой Workers AI. Это не чат-боты, а системы для задач с заранее заданной структурой. Они получают входное состояние и схему типизированных вопросов, после чего возвращают вероятности разрешённых ответов, не создавая произвольный текст. Clef поддерживает вопросы «да/нет», выбор одного варианта из именованного списка и оценку по упорядоченной шкале. Один запрос в Workers AI может включать до 64 вопросов и четыре изображения.
Clef содержит 27B параметров, а Clef-flash — 9B. Обе модели распространяются по лицензии Apache 2.0, принимают изображения и совместимы с API Jev от TypeSafe AI. Веса доступны на Hugging Face, а запуск возможен через Workers AI, REST API и AI Gateway. По данным Cloudflare, медианная задержка в Workers AI составляет 209.3 ms для Clef и 38.8 ms для Clef-flash.
В опубликованном компанией сравнении по 10 бенчмаркам одна из моделей Clef показала лучший результат в семи случаях. Jev при этом опередил её в тестах GPQA Diamond, MMLU-Pro и BBH, связанных с общими знаниями. Cloudflare также объявила сервис дообучения Clef с подкреплением на частных данных; на первом этапе его будут сопровождать инженеры компании, работающие с клиентами.
Текст подготовлен ИИ Sakhanda Wire по материалу MarkTechPost. Факты, цитаты и полный контекст — в оригинальной статье ниже.