TypeSafe представила Jev для структурированных программных решений
Компания TypeSafe, основанная ветераном OpenAI и соавтором ChatGPT Diogo Almeida, представила модель Jev после двух лет скрытой разработки. TypeSafe описывает её как специализированную System One Model для структурированных вероятностных решений внутри рабочего программного обеспечения, а не для генерации текста. Модель получает неструктурированное состояние и возвращает типизированные значения одним параллельным запросом.
Jev обучается с помощью Reinforcement Learning for Calibrated Decisions (RLCD). Этот подход должен связывать показатели уверенности с точностью решений, принимаемых во время выполнения. Аппаратно-ориентированный сэмплер параллельно оценивает структурированные варианты и поддерживает выбор до 255 дискретных опций. По данным TypeSafe, заранее заданные схемы позволяют отказаться от отдельных конвейеров разбора данных и защитных обёрток.
Внутренние испытания показали задержку 70–500 миллисекунд против 3–329 секунд у разговорных передовых моделей. В опубликованных оценках рабочих процессов Jev оказался до 193.6 раза быстрее. Обработка входных данных стоит $0.042 за миллион токенов, а выходные токены не тарифицируются. В демонстрациях бот для Doom выполнял 10 запросов в секунду при затратах около $7 в час; отдельно тестировалась навигация Wikiracing. TypeSafe открыла ранний доступ для разработчиков и начала подключать команды из списка ожидания.
Текст подготовлен ИИ Sakhanda Wire по материалу AI News. Факты, цитаты и полный контекст — в оригинальной статье ниже.