TypeSafe AI представила Jev для типизированных решений с вероятностями
TypeSafe AI выпустила Jev — трансформерную модель System One, которая возвращает типизированные решения, а не сгенерированный текст. Приложение передаёт состояние и типизированные вопросы, после чего получает ответы с вероятностями, пригодные для ветвления программной логики. Jev доступна как размещённый API в режиме раннего доступа через лист ожидания. TypeSafe не раскрыла веса модели, число параметров и возможность самостоятельного развёртывания.
API использует одну конечную точку и поддерживает три типа вопросов. Choice выбирает один вариант из списка до 255 позиций, Score оценивает объект по упорядоченной шкале, а Noul возвращает вероятность от 0 до 1 для утверждения. Вопросы выполняются параллельно и независимо, используя одно состояние. Каждый ответ содержит показатель уверенности, рассчитанный по распределению вероятностей. TypeSafe предлагает автоматически обрабатывать результаты с высокой уверенностью, проверять промежуточные и передавать результаты с низкой уверенностью человеку.
Стоимость входных данных составляет $0.042 за 1M токенов, выходные токены бесплатны. TypeSafe заявляет задержку от 70ms до 500ms и приводит собственные тесты, в которых Jev опережает выбранные модели по скорости и цене. Компания отмечает, что эти оценки основаны на созданных ею рабочих процессах и эталонных ответах. Формулировка «нулевые галлюцинации» относится только к соответствию схеме: ответы всё равно могут быть ошибочными.
Текст подготовлен ИИ Sakhanda Wire по материалу MarkTechPost. Факты, цитаты и полный контекст — в оригинальной статье ниже.