Cloudflare выпустила Clairic, модель извлечения данных System One в Workers AI
Cloudflare выпустила предварительную версию Clairic — новой модели извлечения System One в Workers AI. Модель извлечения Cloudflare Clairic считывает текст или изображения и возвращает типизированные значения, а не сгенерированный текст. Она предназначена для задачи, которую разработчики обычно поручают LLM: извлекать итоговые суммы, даты и идентификаторы в JSON. Clairic отвечает по каждому запрошенному полю за 1 прямой проход, без рассуждений и выходных токенов.
Кратко
- Размер: Количество параметров не раскрывается. Контекстное окно на 65 536 токенов, до 4 изображений за запрос.
- Где работает: На GPU Cloudflare через Workers AI (
@cf/cloudflare/clairic). Локального варианта не будет, пока веса не станут доступны. - Производительность: Извлечение за доли секунды в тестах Cloudflare. Стандартный бенчмарк точности пока не опубликован.
- Лучший результат: Этап извлечения занял 0,46 с против 16,1 с у GLM-5.3 в конвейере обработки заявок Cloudflare.
- Худший результат: 4 из 21 прогнозов TSA на следующий день оказались за пределами 80%-ного интервала. Многошаговая арифметика ненадёжна.
Что такое Clairic?
Clairic — это модель Cloudflare, которая извлекает, вычисляет, оценивает и прогнозирует типизированные значения из неструктурированных входных данных. Она развивает идею System One от Jev от TypeSafe, название которого отсылает к быстрому интуитивному мышлению по Канеману.
Jev и собственная модель Cloudflare Clef являются моделями принятия решений. Они оценивают варианты, которые вы заранее перечисляете. Clairic работает с ответами, которые нельзя заранее перечислить, например с итоговой суммой счёта, датой или стоимостью ремонта.
Cloudflare описывает стек из 3 частей. Модели извлечения преобразуют исходные данные в типизированные значения. Модели принятия решений преобразуют значения в решения. LLM преобразуют решения в слова.
Как работает запрос к Clairic?
Запрос содержит state (текст и до 4 изображений) и карту именованных типизированных fields. Для каждого поля можно указать инструкции на естественном языке. Согласно журналу изменений Workers AI, поддерживаются типы text, number, date, time, datetime, duration, list, estimate и forecast.
Каждый скалярный ответ включает p_null — вероятность отсутствия значения, — а также показатель confidence. Текстовые ответы возвращают точные фрагменты с позициями символов. Оценки и прогнозы возвращают медиану и 80%-ный интервал от p10 до p90. Прогнозы охватывают до 64 шагов.
Ограничения на количество полей нет. Поля, которые не помещаются вместе с входными данными в один проход на 8 192 токена, разделяются на параллельные проходы. Каждый проход видит весь вход. В примере из документации счёт-фактура на 61 токен обрабатывалась за 3 прохода. Всего было тарифицировано 655 входных токенов, включая 472 токена схемы. Широкие схемы могут стоить дороже самого документа.
Что показали тесты Cloudflare?
В примере с письмом в службу поддержки Clairic сложила стоимость и налог, получив $701.10. Она также вычислила, что с момента доставки прошло 11 дней. Ни одно из этих чисел не указано в письме. Для отсутствующего номера отслеживания модель вернула null, а не правдоподобную догадку.
На фотографии чека с искажённой перспективой модель прочитала все 7 присутствующих значений и вернула null для отсутствующей скидки. Самая низкая уверенность составила 0.776 и относилась к номеру заказа.
Для прогнозирования Cloudflare спрогнозировала ежедневное количество пассажиров на контрольно-пропускных пунктах TSA на 21 день. Средняя ошибка составила 3,3%. Фактические значения за 17 из 21 дня попали в 80%-ный интервал. 3 из 4 промахов пришлись на выходные в честь Дня Колумба.
Основной тест — конвейер обработки заявок по повреждённым товарам. Clairic извлекала факты, Clef выбирала возврат средств или ремонт, а GLM-5.3 писала ответ. Cloudflare сравнила этот вариант с обработкой всех 3 этапов моделью GLM-5.3.
Каскад завершился за 19,3 с против 61,7 с, то есть примерно в 3,2 раза быстрее. Извлечение заняло 0,46 с против 16,1 с. Этап принятия решения занял 0,22 с против 21,9 с. Стоимость обработки миллиона заявок снизилась на 49% — с $11 740 до $6 032. Этап подготовки ответа по-прежнему занимал большую часть времени: 18,6 из 19,3 с.
Оба конвейера правильно определили факты и приняли решение. Оценка ремонта Clairic была одинаковой при каждом запуске. GLM-5.3 возвращала значения $250, $250 и $220. Cloudflare заявляет, что Gemma 4 и Qwen не справились с версией, где все этапы выполняла LLM.
Как Clairic сравнивается с Clef, Jev и GLM-5.3?
| Показатели | Clairic | Clef | Jev | GLM-5.3 |
|---|---|---|---|---|
| Разработчик | Cloudflare | Cloudflare | TypeSafe AI | Z.ai |
| Класс | Извлечение System One | Принятие решений System One | Принятие решений System One | LLM System Two (рассуждение) |
| Результат | Типизированные значения: фрагменты, числа, даты, длительности, списки, оценки, прогнозы | Вероятности для перечисленных вами вариантов | Типизированные решения с калиброванными вероятностями | Текст в свободной форме |
| Параметры | Не раскрываются | 27B | Не раскрываются | Не раскрываются |
| Контекстное окно | 65 536 токенов | 65 536 токенов | Не раскрывается | 1 048 576 токенов |
| Ввод изображений | Да, до 4 | Да (текст, JSON, изображения, видео) | Не раскрывается | Не раскрывается |
| Цена ввода | $0.10 / млн токенов | $0.24 / млн токенов | $0.042 / млн токенов | $1.40 / млн токенов |
| Цена вывода | Нет | Нет | Бесплатно | $4.40 / млн токенов |
| Скорость | 0,46 с на этап извлечения (тест Cloudflare) | 209,3 мс медианное значение (оценки Cloudflare) | От 70 до 500 мс от начала до конца (TypeSafe) | 16,1 с на этап извлечения (тест Cloudflare) |
| Доступность | Предварительная версия Workers AI; планируется публикация открытых весов | Workers AI; веса Apache 2.0 | API TypeSafe, ранний доступ | Workers AI, платный план |
Где разработчики могут использовать Clairic и сколько это стоит?
Clairic доступна в предварительной версии по адресу @cf/cloudflare/clairic. Вызывать её можно через привязку Workers AI с помощью env.AI.run() или REST API. AI Gateway работает с теми же конечными точками.
Стоимость составляет $0.10 за миллион входных токенов, плата за вывод отсутствует. Это дешевле Clef ($0.24), но дороже Jev ($0.042). Веса обещаны, но пока не выпущены.
Основные выводы
- Clairic возвращает типизированные значения, а не текст, за 1 прямой проход.
- $0.10 за миллион входных токенов; выходные токены ничего не стоят.
- Извлечение выполнялось за 0,46 с против 16,1 с у GLM-5.3.
- Каждый ответ содержит уверенность,
p_null, фрагменты или интервалы.
Ознакомьтесь с публикацией в блоге Cloudflare, документацией по модели Clairic, объяснением моделей извлечения и журналом изменений Workers AI. Также прочитайте наш предыдущий материал о Drex 1.5. Все заслуги принадлежат исследователю этого проекта. Также подписывайтесь на нас в Twitter и не забудьте присоединиться к нашему сабреддиту о машинном обучении с более чем 150 тыс. участников и подписаться на нашу рассылку. Постойте! Вы есть в Telegram? теперь к нам можно присоединиться и в Telegram.
Переведено автоматически с английского. Оригинал статьи — по ссылке ниже.