Liquid AI пусна d1: модел за вземане на решения, който връща калибрирани вероятности с нула изходни токени
Liquid AI пусна d1 — модел за вземане на решения, създаден за структурирани избори вместо за генериране на текст. Подавате му контекст и набор от типизирани въпроси. Той връща калибрирани вероятности за фиксиран набор от резултати с едно извикване и без генерирани токени. Целта е работата, която много екипи все още възлагат на универсални LLM: класификация, маршрутизиране на заявки, оценяване, модериране, повторно класиране и проверки тип LLM-as-judge.
Може ли да се внедри? Да, още днес, като хостван API. d1 работи в Liquid API под името на модела d1:free. Библиотеката с модели на Liquid го посочва като достъпен само чрез API и нетрениируем, така че няма тегла във формати GGUF, MLX или ONNX за самостоятелно хостване.
Какво представлява моделът за вземане на решения?
Моделът за вземане на решения оценява ситуация и връща типизиран отговор измежду опциите, които сте дефинирали преди извикването. Той не пише текст. Във всеки отговор usage.output_tokens е 0. Ръководството за миграция на Liquid дава просто правило: ако отговорът е една от N известни опции, използвайте модел за вземане на решения. Ако моделът трябва да състави нов низ, запазете своя LLM.
3-те примитива: Noul, Choice и Score
- Noul е въпрос с отговор „да/не“, който връща вероятност между 0 и 1. В примера на Liquid въпросът „Това съобщение оплакване ли е?“ връща 0.999.
- Choice избира една опция от именуван набор. Връща водещия избор, пълното разпределение и стойност
confidence. Заявка за двойно таксуване получава 0.9997 за „таксуване“. - Score оценява входа по подредена скала и връща позиция, претеглена според вероятността. Нивата се индексират от 0, така че скала за спешност с 4 нива обхваща стойностите от 0 до 3. Производствен прекъсване получава 2.9995.
Можете да комбинирате и трите типа в една заявка. Моделът оценява всеки въпрос спрямо едно и също състояние в рамките на едно обменяне на данни.
Как работи извикването на d1 API
Всяка заявка има 3 части: моделът, състоянието (обикновен текст или JSON обект) и въпросите. Извикванията се изпращат към POST https://api.liquid.ai/decisions/v1/systemone. Ключовете се получават от console.liquid.ai и започват с liquid_. Клиентите са typesafe-sdk на TypeSafe AI за Python и @typesafe-ai/sdk за TypeScript.
from typesafe_sdk import TypeSafeClient, Noul
client = TypeSafeClient(api_key=os.environ["LIQUID_API_KEY"],
base_url="https://api.liquid.ai")
result = client.system_one(
model="d1:free",
state="I have been waiting over three weeks for my order...",
questions={"is_complaint": Noul(
instructions="Is this message a complaint from the customer?")},
)
print(result.answers["is_complaint"].noul) # 0.999Защо да прехвърлите извикванията за LLM класификация към d1
Ръководството за миграция посочва конкретните разлики спрямо LLM със структурирани изходни данни:
- Без таксувани изходни токени: LLM таксува за изхода дори при еднословен етикет.
- Предвидима латентност: Няма цикъл на декодиране, който да се увеличава с дължината на изхода.
- Без грешки в схемата: Отговорите винаги съответстват на типа на въпроса, така че невалидният JSON и повторните опити отпадат.
- Полезна неопределеност: Получавате калибрирани вероятности вместо самостоятелно докладвано число.
- По-малко обменяния на данни: 3 последователни извиквания за класификация се превръщат в 1.
Вероятностите правят праговете практични. В примера на Liquid за модериране съдържанието се блокира над 0.8, допуска се под 0.2, а междинният диапазон се изпраща за човешка проверка. В примера за маршрутизиране системата преминава към най-мощното ниво на модела, когато увереността на маршрутизатора падне под 0.5. Liquid също посочва, че повторните оценки на един и същ вход са по-последователни, което намалява промяната на присъдите.
Запазете LLM за обобщаване, съставяне на текст, многоходов чат, генериране на код и сложно многостъпково разсъждение.
Демонстрация: Road Decider
Готварската книга road-decider на Liquid представлява пикселна игра за оцеляване и състезания. d1 използва въпрос Choice, за да избира ляво, център или дясно при всяко отчитане на решението — около 2 до 5 пъти в секунда в зависимост от скоростта на играта. Приложението е на vanilla JavaScript за Node.js 18+, с Vite прокси, което запазва API ключа от страната на сървъра. Режимът „Jev срещу d1“ изправя d1 срещу typesafe/jev-1.13 на TypeSafe чрез OpenRouter. Най-полезният урок е свързан с дизайна на състоянието. Обобщенията за всяка лента с разстоянието до първото препятствие водят до по-уверени решения от необработена решетка на пътя.
Интерактивно обяснение: d1 стъпка по стъпка
d1 спрямо най-близките конкуренти
d1 навлиза в малка, но бързо развиваща се категория от негenerативни модели за вземане на решения. Ето как се сравнява с тях по публикувани характеристики.
| Характеристика | Liquid AI d1 | TypeSafe Jev 1.13 | Convai Laya | AutoTrust JEV-27B |
|---|---|---|---|---|
| Достъп | Само чрез Liquid API | OpenRouter API | Отворени тегла | Отворени тегла |
| Примитиви | Noul, Choice, Score | Noul, Choice, Score | Noul, Choice, Score | True/false, Choice (2 до 16), Score (0 до 5) |
| Изходни токени | 0 | 0 (изходът се таксува с $0) | 0 (енкодер) | 0 за решения; може също да генерира текст |
| Контекстен прозорец | Не е публикуван | 32K токена | 512 (английски), 1 024 (многоезичен) | 4 096 токена |
| Размер на модела | Не е разкрит | Не е разкрит | 421M (английски), 322M (многоезичен) | 27B базов модел, 108.9M обучаеми параметри |
| Ценообразуване | Ниво d1:free; платените тарифи не са публикувани | $0.042 за 1 млн. входни токена | Самостоятелно хостване | Самостоятелно хостване |
| Лиценз | Хостван API | Хостван API | Apache 2.0 | Apache 2.0 |
| Фино дообучаване | Нетрениируем | Няма документация | Да | Да (LoRA адаптер) |
| SDK | TypeSafe SDK (Python, TS) | TypeSafe SDK, OpenRouter SDK | Hugging Face | Hugging Face |
Данните са проверени на 29 септември 2026 г. спрямо основната страница на всеки доставчик.
Основни изводи
- d1 връща типизирани решения с калибрирани вероятности и 0 изходни токена.
- 3 примитива покриват повечето задачи с ограничен набор от резултати: Noul, Choice и Score.
- Може да се внедри веднага чрез Liquid API като
d1:free; няма тегла за самостоятелно хостване. - Най-подходящ е за маршрутизиране, модериране, първоначално сортиране, повторно класиране и заместване на LLM-as-judge.
- Запазете LLM за генериране, разговори и многостъпково разсъждение.
Разгледайте документацията за моделите за вземане на решения, ръководството за миграция и демонстрацията Road Decider. Всички заслуги са за изследователя на този проект. Също така можете да ни последвате в Twitter и не забравяйте да се присъедините към нашия ML SubReddit с над 150 хил. членове и да се абонирате за нашия бюлетин. Чакайте! В Telegram ли сте? Вече можете да се присъедините към нас и в Telegram.
Имате нужда от партньор за популяризирането на вашето GitHub хранилище, страница в Hugging Face, продуктово представяне, уебинар и т.н.? Свържете се с нас
Преведено автоматично от английски. Оригиналната статия е на връзката по-долу.