TypeSafe AI представи Jev за типизирани решения с вероятности
TypeSafe AI представи Jev — трансформър-базиран System One модел, който връща типизирани решения вместо генериран текст. Приложенията изпращат състояние и типизирани въпроси, а получават отговори с вероятности, които софтуерът може да използва за разклоняване на логиката. Jev се предлага като хостван API с ранен достъп чрез списък с чакащи; TypeSafe не е публикувала теглата, броя параметри или възможност за самостоятелно хостване.
API използва един краен адрес и поддържа три типа въпроси: Choice избира измежду до 255 опции, Score оценява спрямо подредени нива, а Noul връща вероятност от 0 до 1 за дадено твърдение. Въпросите се изпълняват паралелно и независимо върху едно и също състояние. Всеки отговор включва увереност, изчислена от разпределението на вероятностите. TypeSafe препоръчва автоматични действия при висока увереност, проверка при средна и прехвърляне към човек при ниска.
Входът струва $0.042 за 1M токена, а изходните токени са безплатни. TypeSafe посочва време за отговор от 70ms до 500ms и публикува собствени тестове за скорост и цена. Компанията уточнява, че те използват нейни работни процеси и референтни отговори. Твърдението за „нулеви халюцинации“ означава гарантирано съответствие със схемата, но отговорите все пак могат да бъдат грешни.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на MarkTechPost. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.