Liquid AI представи d1 за решения с калибрирани вероятности
Liquid AI представи d1 — модел за структурирани решения, а не за генериране на текст. На вход се подават състояние, представено като обикновен текст или JSON обект, и типизирани въпроси. В един API извикване моделът връща вероятности за предварително зададени изходи, без генерирани изходни токени. d1:free е достъпен като хоствана услуга през Liquid API. Моделът е отбелязан като достъпен само чрез API и нетрениращ се, без GGUF, MLX или ONNX тегла за самостоятелно хостване.
d1 има три основни типа въпроси. Noul дава вероятност за отговор „да“ или „не“, Choice избира от именуван набор и връща разпределението и увереността, а Score оценява вход по подредена скала и изчислява претеглена с вероятности позиция. Трите типа могат да се използват заедно в една заявка. Предназначението включва класификация, маршрутизиране, модериране, оценяване, reranking и проверки от типа LLM-as-judge.
Според ръководството за миграция на Liquid подходът премахва таксуваните изходни токени, зависимостта на латентността от декодирането и грешките при форматирането на схеми. Вероятностите могат да се използват за прагове и насочване към човешка проверка. Liquid препоръчва стандартните LLM за обобщаване, писане, разговори, генериране на код и сложни многоетапни разсъждения. Налични са клиенти за Python и TypeScript от TypeSafe AI.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на MarkTechPost. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.