Cloudflare випустила моделі для рішень із типізованими ймовірностями
Cloudflare представила Clef і Clef-flash — перші моделі, створені її командою Workers AI. Це не чатботи, а системи для завдань із наперед визначеною структурою. Вони отримують вхідний стан і схему типізованих запитань, а потім повертають імовірності дозволених відповідей без довільного тексту. Clef підтримує запитання «так/ні», вибір одного названого варіанта та оцінювання за впорядкованою шкалою. Один запит у Workers AI може містити до 64 запитань і чотири зображення.
Clef має 27B параметрів, а Clef-flash — 9B. Обидві моделі поширюються за ліцензією Apache 2.0, приймають зображення та сумісні з API Jev від TypeSafe AI. Ваги опубліковані на Hugging Face, а запуск доступний через Workers AI, REST API і AI Gateway. Cloudflare повідомляє про медіанну затримку 209.3 ms для Clef і 38.8 ms для Clef-flash у Workers AI.
У порівнянні компанії за 10 бенчмарками одна з моделей Clef посіла перше місце у семи. Водночас Jev випередив її в тестах GPQA Diamond, MMLU-Pro і BBH, що перевіряють знання. Cloudflare також оголосила сервіс донавчання Clef із підкріпленням на приватних даних. Спочатку його супроводжуватимуть інженери компанії, які працюють безпосередньо з клієнтами.
Текст підготовлено ШІ Sakhanda Wire за матеріалом MarkTechPost. Факти, цитати та повний контекст — в оригінальній статті нижче.