Cloudflare представи Clairic, модел за извличане на данни System One в Workers AI
Cloudflare пусна предварителна версия на Clairic, нов модел за извличане System One в Workers AI. Моделът за извличане Cloudflare Clairic прочита текст или изображения и връща типизирани стойности, а не генериран текст. Той е предназначен за задача, която разработчиците обикновено възлагат на LLM: извличане на суми, дати и идентификатори в JSON. Clairic отговаря за всяко заявено поле с 1 проход напред, без разсъждения и без изходни токени.
Накратко
- Размер: Броят параметри не е обявен. Контекстен прозорец от 65 536 токена, до 4 изображения на заявка.
- Работи на: Хоствани от Cloudflare графични процесори чрез Workers AI (
@cf/cloudflare/clairic). Няма локална опция, докато теглата не бъдат публикувани. - Производителност: Извличане за под секунда в тестовете на Cloudflare. Все още не е публикуван стандартен бенчмарк за точност.
- Най-добър резултат: Стъпката за извличане отне 0,46 s срещу 16,1 s за GLM-5.3 в конвейера за обработка на искове на Cloudflare.
- Най-лош резултат: 4 от 21 прогнозирани стойности за TSA за следващия ден бяха извън неговия 80% интервал. Многостъпковата аритметика е ненадеждна.
Какво представлява Clairic?
Clairic е модел на Cloudflare, който извлича, изчислява, оценява и прогнозира типизирани стойности от неструктурирани входни данни. Той се основава на идеята за System One от Jev на TypeSafe, наречен така заради бързото, интуитивно мислене на Канеман.
Jev и собственият модел на Cloudflare Clef са модели за вземане на решения. Те оценяват предварително изброени от вас опции. Clairic обхваща отговори, които не можете да изброите предварително, като обща сума по фактура, дата или разход за ремонт.
Cloudflare представя стек от 3 части. Моделите за извличане превръщат необработения вход в типизирани стойности. Моделите за вземане на решения превръщат стойностите в решения. LLM превръщат решенията в думи.
Как работи заявка към Clairic?
Заявката съдържа state (текст плюс до 4 изображения) и карта от именувани, типизирани fields. Всяко поле може да съдържа инструкции на обикновен език. Поддържаните типове са текст, число, дата, час, дата и час, продължителност, списък, оценка и прогноза според регистъра на промените на Workers AI.
Всеки скаларен отговор включва p_null — вероятността стойността да липсва — както и оценка за confidence. Текстовите отговори връщат точни откъси с отмествания на символите. Оценките и прогнозите връщат медиана и 80% интервал, от p10 до p90. Прогнозите обхващат до 64 стъпки.
Няма ограничение за броя полета. Полетата, които не се побират заедно с входа в един проход от 8192 токена, се разделят на паралелни проходи. Всеки проход вижда целия вход. В примера от документацията фактура от 61 токена е обработена в 3 прохода. Таксувани са 655 входни токена, включително 472 токена за схемата. Широките схеми могат да струват повече от самия документ.
Какво показаха тестовете на Cloudflare?
В пример с имейл до отдел за поддръжка Clairic събра цената и данъка до 701,10 долара. Той също изчисли 11 дни от доставката. Нито едно от двете числа не присъства в имейла. Липсващ номер за проследяване върна null, вместо правдоподобно предположение.
При снимка на разкъсана касова бележка той прочете всичките 7 налични стойности и върна null за липсващата отстъпка. Най-ниската му увереност беше 0,776 — за номера на поръчката.
За прогнозиране Cloudflare предвиди дневния брой преминали през контролно-пропускателните пунктове на TSA за 21 дни. Средната грешка беше 3,3%. 17 от 21 реални стойности попаднаха в 80% интервал. 3 от 4-те пропуска бяха през уикенда на Деня на Колумб.
Основният тест е конвейер за искове за повредени продукти. Clairic извлече фактите, Clef избра възстановяване на сумата или ремонт, а GLM-5.3 написа отговора. Cloudflare сравни това с вариант, при който GLM-5.3 изпълнява и трите стъпки.
Каскадата приключи за 19,3 s спрямо 61,7 s — около 3,2 пъти по-бързо. Извличането отне 0,46 s спрямо 16,1 s. Стъпката за вземане на решение отне 0,22 s спрямо 21,9 s. Разходите за милион искове спаднаха с 49% — от 11 740 до 6032 долара. Стъпката за отговора все още доминираше, като отне 18,6 от общо 19,3 s.
И двата конвейера правилно извлякоха фактите и взеха решението. Оценката за ремонта на Clairic беше идентична при всички изпълнения. GLM-5.3 върна съответно 250, 250 и 220 долара. Cloudflare заявява, че Gemma 4 и Qwen са се провалили при варианта, използващ LLM за всички стъпки.
Как Clairic се сравнява с Clef, Jev и GLM-5.3?
| Показатели | Clairic | Clef | Jev | GLM-5.3 |
|---|---|---|---|---|
| Разработчик | Cloudflare | Cloudflare | TypeSafe AI | Z.ai |
| Клас | Извличане System One | Вземане на решения System One | Вземане на решения System One | LLM System Two (с разсъждения) |
| Изход | Типизирани стойности: откъси, числа, дати, продължителности, списъци, оценки, прогнози | Вероятности за изброени от вас опции | Типизирани решения с калибрирани вероятности | Свободен текст |
| Параметри | Не е обявено | 27B | Не е обявено | Не е обявено |
| Контекстен прозорец | 65 536 токена | 65 536 токена | Не е обявено | 1 048 576 токена |
| Вход на изображения | Да, до 4 | Да (текст, JSON, изображения, видео) | Не е обявено | Не е обявено |
| Цена на входа | 0,10 $ / M токена | 0,24 $ / M токена | 0,042 $ / M токена | 1,40 $ / M токена |
| Цена на изхода | Няма | Няма | Безплатно | 4,40 $ / M токена |
| Скорост | 0,46 s за стъпката на извличане (тест на Cloudflare) | 209,3 ms медиана (оценки на Cloudflare) | 70 до 500 ms от край до край (TypeSafe) | 16,1 s за стъпката на извличане (тест на Cloudflare) |
| Достъпност | Предварителна версия в Workers AI; планирани отворени тегла | Workers AI; тегла по Apache 2.0 | API на TypeSafe, ранен достъп | Workers AI, платен план |
Къде могат разработчиците да го използват и колко струва?
Clairic е достъпен като предварителна версия на @cf/cloudflare/clairic. Използвайте го чрез обвързването на Workers AI с env.AI.run() или чрез REST API. AI Gateway работи със същите крайни точки.
Цената е 0,10 долара за един милион входни токена, без такса за изхода. Това е по-евтино от Clef — 0,24 долара, но е над цената на Jev — 0,042 долара. Теглата са обещани, но все още не са публикувани.
Основни изводи
- Clairic връща типизирани стойности, а не текст, с 1 проход напред.
- 0,10 долара за един милион входни токена; изходните токени не струват нищо.
- Извличането отне 0,46 s спрямо 16,1 s за GLM-5.3.
- Всеки отговор съдържа увереност,
p_null, откъси или интервали.
Вижте публикацията в блога на Cloudflare, документацията за модела Clairic, обяснението за моделите за извличане и регистъра на промените на Workers AI. Прочетете и по-ранното ни отразяване на Drex 1.5. Цялата заслуга принадлежи на изследователя на този проект. Също така можете да ни последвате в Twitter и не забравяйте да се присъедините към нашия ML SubReddit с над 150 хил. членове и да се абонирате за нашия бюлетин. Чакайте! В Telegram ли сте? Сега можете да се присъедините към нас и в Telegram.
Преведено автоматично от английски. Оригиналната статия е на връзката по-долу.