Sakhanda Wire
NVDA $217.09 +1.38% MSFT $533.52 +0.84% GOOGL $344.18 +1.05% META $705.44 -0.55% AMZN $262.45 +4.98%
← Към новините

Cloudflare представи Clairic, модел за извличане на данни System One в Workers AI

Cloudflare пусна предварителна версия на Clairic, нов модел за извличане System One в Workers AI. Моделът за извличане Cloudflare Clairic прочита текст или изображения и връща типизирани стойности, а не генериран текст. Той е предназначен за задача, която разработчиците обикновено възлагат на LLM: извличане на суми, дати и идентификатори в JSON. Clairic отговаря за всяко заявено поле с 1 проход напред, без разсъждения и без изходни токени.

Накратко

  • Размер: Броят параметри не е обявен. Контекстен прозорец от 65 536 токена, до 4 изображения на заявка.
  • Работи на: Хоствани от Cloudflare графични процесори чрез Workers AI (@cf/cloudflare/clairic). Няма локална опция, докато теглата не бъдат публикувани.
  • Производителност: Извличане за под секунда в тестовете на Cloudflare. Все още не е публикуван стандартен бенчмарк за точност.
  • Най-добър резултат: Стъпката за извличане отне 0,46 s срещу 16,1 s за GLM-5.3 в конвейера за обработка на искове на Cloudflare.
  • Най-лош резултат: 4 от 21 прогнозирани стойности за TSA за следващия ден бяха извън неговия 80% интервал. Многостъпковата аритметика е ненадеждна.

Какво представлява Clairic?

Clairic е модел на Cloudflare, който извлича, изчислява, оценява и прогнозира типизирани стойности от неструктурирани входни данни. Той се основава на идеята за System One от Jev на TypeSafe, наречен така заради бързото, интуитивно мислене на Канеман.

Jev и собственият модел на Cloudflare Clef са модели за вземане на решения. Те оценяват предварително изброени от вас опции. Clairic обхваща отговори, които не можете да изброите предварително, като обща сума по фактура, дата или разход за ремонт.

Cloudflare представя стек от 3 части. Моделите за извличане превръщат необработения вход в типизирани стойности. Моделите за вземане на решения превръщат стойностите в решения. LLM превръщат решенията в думи.

Как работи заявка към Clairic?

Заявката съдържа state (текст плюс до 4 изображения) и карта от именувани, типизирани fields. Всяко поле може да съдържа инструкции на обикновен език. Поддържаните типове са текст, число, дата, час, дата и час, продължителност, списък, оценка и прогноза според регистъра на промените на Workers AI.

Всеки скаларен отговор включва p_null — вероятността стойността да липсва — както и оценка за confidence. Текстовите отговори връщат точни откъси с отмествания на символите. Оценките и прогнозите връщат медиана и 80% интервал, от p10 до p90. Прогнозите обхващат до 64 стъпки.

Няма ограничение за броя полета. Полетата, които не се побират заедно с входа в един проход от 8192 токена, се разделят на паралелни проходи. Всеки проход вижда целия вход. В примера от документацията фактура от 61 токена е обработена в 3 прохода. Таксувани са 655 входни токена, включително 472 токена за схемата. Широките схеми могат да струват повече от самия документ.

Какво показаха тестовете на Cloudflare?

В пример с имейл до отдел за поддръжка Clairic събра цената и данъка до 701,10 долара. Той също изчисли 11 дни от доставката. Нито едно от двете числа не присъства в имейла. Липсващ номер за проследяване върна null, вместо правдоподобно предположение.

При снимка на разкъсана касова бележка той прочете всичките 7 налични стойности и върна null за липсващата отстъпка. Най-ниската му увереност беше 0,776 — за номера на поръчката.

За прогнозиране Cloudflare предвиди дневния брой преминали през контролно-пропускателните пунктове на TSA за 21 дни. Средната грешка беше 3,3%. 17 от 21 реални стойности попаднаха в 80% интервал. 3 от 4-те пропуска бяха през уикенда на Деня на Колумб.

Основният тест е конвейер за искове за повредени продукти. Clairic извлече фактите, Clef избра възстановяване на сумата или ремонт, а GLM-5.3 написа отговора. Cloudflare сравни това с вариант, при който GLM-5.3 изпълнява и трите стъпки.

Каскадата приключи за 19,3 s спрямо 61,7 s — около 3,2 пъти по-бързо. Извличането отне 0,46 s спрямо 16,1 s. Стъпката за вземане на решение отне 0,22 s спрямо 21,9 s. Разходите за милион искове спаднаха с 49% — от 11 740 до 6032 долара. Стъпката за отговора все още доминираше, като отне 18,6 от общо 19,3 s.

И двата конвейера правилно извлякоха фактите и взеха решението. Оценката за ремонта на Clairic беше идентична при всички изпълнения. GLM-5.3 върна съответно 250, 250 и 220 долара. Cloudflare заявява, че Gemma 4 и Qwen са се провалили при варианта, използващ LLM за всички стъпки.

Как Clairic се сравнява с Clef, Jev и GLM-5.3?

ПоказателиClairicClefJevGLM-5.3
РазработчикCloudflareCloudflareTypeSafe AIZ.ai
КласИзвличане System OneВземане на решения System OneВземане на решения System OneLLM System Two (с разсъждения)
ИзходТипизирани стойности: откъси, числа, дати, продължителности, списъци, оценки, прогнозиВероятности за изброени от вас опцииТипизирани решения с калибрирани вероятностиСвободен текст
ПараметриНе е обявено27BНе е обявеноНе е обявено
Контекстен прозорец65 536 токена65 536 токенаНе е обявено1 048 576 токена
Вход на изображенияДа, до 4Да (текст, JSON, изображения, видео)Не е обявеноНе е обявено
Цена на входа0,10 $ / M токена0,24 $ / M токена0,042 $ / M токена1,40 $ / M токена
Цена на изходаНямаНямаБезплатно4,40 $ / M токена
Скорост0,46 s за стъпката на извличане (тест на Cloudflare)209,3 ms медиана (оценки на Cloudflare)70 до 500 ms от край до край (TypeSafe)16,1 s за стъпката на извличане (тест на Cloudflare)
ДостъпностПредварителна версия в Workers AI; планирани отворени теглаWorkers AI; тегла по Apache 2.0API на TypeSafe, ранен достъпWorkers AI, платен план

Къде могат разработчиците да го използват и колко струва?

Clairic е достъпен като предварителна версия на @cf/cloudflare/clairic. Използвайте го чрез обвързването на Workers AI с env.AI.run() или чрез REST API. AI Gateway работи със същите крайни точки.

Цената е 0,10 долара за един милион входни токена, без такса за изхода. Това е по-евтино от Clef — 0,24 долара, но е над цената на Jev — 0,042 долара. Теглата са обещани, но все още не са публикувани.

Основни изводи

  • Clairic връща типизирани стойности, а не текст, с 1 проход напред.
  • 0,10 долара за един милион входни токена; изходните токени не струват нищо.
  • Извличането отне 0,46 s спрямо 16,1 s за GLM-5.3.
  • Всеки отговор съдържа увереност, p_null, откъси или интервали.

Вижте публикацията в блога на Cloudflare, документацията за модела Clairic, обяснението за моделите за извличане и регистъра на промените на Workers AI. Прочетете и по-ранното ни отразяване на Drex 1.5. Цялата заслуга принадлежи на изследователя на този проект. Също така можете да ни последвате в Twitter и не забравяйте да се присъедините към нашия ML SubReddit с над 150 хил. членове и да се абонирате за нашия бюлетин. Чакайте! В Telegram ли сте? Сега можете да се присъедините към нас и в Telegram.

Преведено автоматично от английски. Оригиналната статия е на връзката по-долу.

Първоначално публикувано от MarkTechPost на

Прочетете оригинала в MarkTechPost ↗

Текстът и изображенията са собственост на MarkTechPost и са възпроизведени тук с посочване на авторството и връзка към оригиналната публикация.

← Към новините

Още новини

Всички последни новини