Sakhanda Wire
NVDA $230.86 +1.09% MSFT $512.80 -0.02% GOOGL $338.24 -1.70% META $725.93 +0.10% AMZN $248.23 -0.37%
← Към новините

Liquid AI пусна d1: модел за вземане на решения, който връща калибрирани вероятности с нула изходни токени

Liquid AI пусна d1 — модел за вземане на решения, създаден за структурирани избори вместо за генериране на текст. Подавате му контекст и набор от типизирани въпроси. Той връща калибрирани вероятности за фиксиран набор от резултати с едно извикване и без генерирани токени. Целта е работата, която много екипи все още възлагат на универсални LLM: класификация, маршрутизиране на заявки, оценяване, модериране, повторно класиране и проверки тип LLM-as-judge.

Може ли да се внедри? Да, още днес, като хостван API. d1 работи в Liquid API под името на модела d1:free. Библиотеката с модели на Liquid го посочва като достъпен само чрез API и нетрениируем, така че няма тегла във формати GGUF, MLX или ONNX за самостоятелно хостване.

Какво представлява моделът за вземане на решения?

Моделът за вземане на решения оценява ситуация и връща типизиран отговор измежду опциите, които сте дефинирали преди извикването. Той не пише текст. Във всеки отговор usage.output_tokens е 0. Ръководството за миграция на Liquid дава просто правило: ако отговорът е една от N известни опции, използвайте модел за вземане на решения. Ако моделът трябва да състави нов низ, запазете своя LLM.

3-те примитива: Noul, Choice и Score

  • Noul е въпрос с отговор „да/не“, който връща вероятност между 0 и 1. В примера на Liquid въпросът „Това съобщение оплакване ли е?“ връща 0.999.
  • Choice избира една опция от именуван набор. Връща водещия избор, пълното разпределение и стойност confidence. Заявка за двойно таксуване получава 0.9997 за „таксуване“.
  • Score оценява входа по подредена скала и връща позиция, претеглена според вероятността. Нивата се индексират от 0, така че скала за спешност с 4 нива обхваща стойностите от 0 до 3. Производствен прекъсване получава 2.9995.

Можете да комбинирате и трите типа в една заявка. Моделът оценява всеки въпрос спрямо едно и също състояние в рамките на едно обменяне на данни.

Как работи извикването на d1 API

Всяка заявка има 3 части: моделът, състоянието (обикновен текст или JSON обект) и въпросите. Извикванията се изпращат към POST https://api.liquid.ai/decisions/v1/systemone. Ключовете се получават от console.liquid.ai и започват с liquid_. Клиентите са typesafe-sdk на TypeSafe AI за Python и @typesafe-ai/sdk за TypeScript.

Копиране на кодаКопираноИзползвайте друг браузър
from typesafe_sdk import TypeSafeClient, Noul

client = TypeSafeClient(api_key=os.environ["LIQUID_API_KEY"],
                        base_url="https://api.liquid.ai")
result = client.system_one(
    model="d1:free",
    state="I have been waiting over three weeks for my order...",
    questions={"is_complaint": Noul(
        instructions="Is this message a complaint from the customer?")},
)
print(result.answers["is_complaint"].noul)  # 0.999

Защо да прехвърлите извикванията за LLM класификация към d1

Ръководството за миграция посочва конкретните разлики спрямо LLM със структурирани изходни данни:

  • Без таксувани изходни токени: LLM таксува за изхода дори при еднословен етикет.
  • Предвидима латентност: Няма цикъл на декодиране, който да се увеличава с дължината на изхода.
  • Без грешки в схемата: Отговорите винаги съответстват на типа на въпроса, така че невалидният JSON и повторните опити отпадат.
  • Полезна неопределеност: Получавате калибрирани вероятности вместо самостоятелно докладвано число.
  • По-малко обменяния на данни: 3 последователни извиквания за класификация се превръщат в 1.

Вероятностите правят праговете практични. В примера на Liquid за модериране съдържанието се блокира над 0.8, допуска се под 0.2, а междинният диапазон се изпраща за човешка проверка. В примера за маршрутизиране системата преминава към най-мощното ниво на модела, когато увереността на маршрутизатора падне под 0.5. Liquid също посочва, че повторните оценки на един и същ вход са по-последователни, което намалява промяната на присъдите.

Запазете LLM за обобщаване, съставяне на текст, многоходов чат, генериране на код и сложно многостъпково разсъждение.

Демонстрация: Road Decider

Готварската книга road-decider на Liquid представлява пикселна игра за оцеляване и състезания. d1 използва въпрос Choice, за да избира ляво, център или дясно при всяко отчитане на решението — около 2 до 5 пъти в секунда в зависимост от скоростта на играта. Приложението е на vanilla JavaScript за Node.js 18+, с Vite прокси, което запазва API ключа от страната на сървъра. Режимът „Jev срещу d1“ изправя d1 срещу typesafe/jev-1.13 на TypeSafe чрез OpenRouter. Най-полезният урок е свързан с дизайна на състоянието. Обобщенията за всяка лента с разстоянието до първото препятствие водят до по-уверени решения от необработена решетка на пътя.

Интерактивно обяснение: d1 стъпка по стъпка

d1 спрямо най-близките конкуренти

d1 навлиза в малка, но бързо развиваща се категория от негenerативни модели за вземане на решения. Ето как се сравнява с тях по публикувани характеристики.

ХарактеристикаLiquid AI d1TypeSafe Jev 1.13Convai LayaAutoTrust JEV-27B
ДостъпСамо чрез Liquid APIOpenRouter APIОтворени теглаОтворени тегла
ПримитивиNoul, Choice, ScoreNoul, Choice, ScoreNoul, Choice, ScoreTrue/false, Choice (2 до 16), Score (0 до 5)
Изходни токени00 (изходът се таксува с $0)0 (енкодер)0 за решения; може също да генерира текст
Контекстен прозорецНе е публикуван32K токена512 (английски), 1 024 (многоезичен)4 096 токена
Размер на моделаНе е разкритНе е разкрит421M (английски), 322M (многоезичен)27B базов модел, 108.9M обучаеми параметри
ЦенообразуванеНиво d1:free; платените тарифи не са публикувани$0.042 за 1 млн. входни токенаСамостоятелно хостванеСамостоятелно хостване
ЛицензХостван APIХостван APIApache 2.0Apache 2.0
Фино дообучаванеНетрениируемНяма документацияДаДа (LoRA адаптер)
SDKTypeSafe SDK (Python, TS)TypeSafe SDK, OpenRouter SDKHugging FaceHugging Face

Данните са проверени на 29 септември 2026 г. спрямо основната страница на всеки доставчик.

Основни изводи

  • d1 връща типизирани решения с калибрирани вероятности и 0 изходни токена.
  • 3 примитива покриват повечето задачи с ограничен набор от резултати: Noul, Choice и Score.
  • Може да се внедри веднага чрез Liquid API като d1:free; няма тегла за самостоятелно хостване.
  • Най-подходящ е за маршрутизиране, модериране, първоначално сортиране, повторно класиране и заместване на LLM-as-judge.
  • Запазете LLM за генериране, разговори и многостъпково разсъждение.

Разгледайте документацията за моделите за вземане на решения, ръководството за миграция и демонстрацията Road Decider. Всички заслуги са за изследователя на този проект. Също така можете да ни последвате в Twitter и не забравяйте да се присъедините към нашия ML SubReddit с над 150 хил. членове и да се абонирате за нашия бюлетин. Чакайте! В Telegram ли сте? Вече можете да се присъедините към нас и в Telegram.

Имате нужда от партньор за популяризирането на вашето GitHub хранилище, страница в Hugging Face, продуктово представяне, уебинар и т.н.? Свържете се с нас

Преведено автоматично от английски. Оригиналната статия е на връзката по-долу.

Първоначално публикувано от MarkTechPost на

Прочетете оригинала в MarkTechPost ↗

Текстът и изображенията са собственост на MarkTechPost и са възпроизведени тук с посочване на авторството и връзка към оригиналната публикация.

← Към новините

Още новини

Всички последни новини