Пионер ChatGPT запускает модель Jev для программной логики

TypeSafe, основанная одним из соавторов ChatGPT, вышла из режима скрытой разработки и запускает свою модель Jev для автоматизации программных решений с использованием архитектуры параллельной выборки.

Программные системы, которым требуется автоматизированная детерминированная логика, теперь могут отказаться от разговорных языковых моделей после выпуска TypeSafe AI модели Jev — специализированной модели System One, предназначенной для непосредственного выполнения структурированных вероятностных решений в производственном коде.

Модель разрабатывалась в течение двух лет в режиме скрытой разработки Диого Алмейдой, ветераном OpenAI и соавтором ChatGPT, и полностью отказывается от генерации текста и строк.

Вместо авторегрессионной последовательной генерации текстовых токенов система принимает на вход неструктурированное состояние и выдаёт типобезопасные структурированные значения за один параллельный запрос. Архитектура ориентирована на детерминированную интеграцию с кодом и по своей конструкции предотвращает ошибки синтаксических типов и галлюцинации в выводе.

Диого Алмейда, основатель TypeSafe, сказал: «Представьте Jev как вызов функции передового интеллекта: на входе — неструктурированное состояние, на выходе — типизированные вероятностные решения».

Архитектура модели Jev: как работает аппаратно-ориентированная параллельная выборка

Инженеры создали платформу на основе альтернативной методологии обучения под названием «обучение с подкреплением для калиброванных решений» (RLCD).

Традиционные передовые модели обучаются с помощью обучения с подкреплением на основе обратной связи от человека (RLHF) или обучения с подкреплением с проверяемыми вознаграждениями (RLVR), чтобы соответствовать предпочтениям людей в диалогах или отдельным программным проверкам. TypeSafe обучает Jev выдавать калиброванные вероятности для логики выполнения, гарантируя, что возвращаемые оценки уверенности напрямую коррелируют с точностью результата.

Отказавшись от авторегрессионной генерации токенов, Jev использует аппаратно-ориентированный параллельный механизм выборки, который одновременно оценивает и выдаёт все структурированные значения.

Структурное ограничение позволяет выдавать результаты только в рамках заранее определённых схем, устраняя необходимость в конвейерах синтаксического анализа и защитных оболочках, требуемых при использовании традиционных больших языковых моделей в процессах автоматизации бизнеса. Внутренний механизм выборки обрабатывает выбор из большого числа вариантов — до 255 дискретных опций — с помощью двухэтапного процесса, в котором варианты сначала оцениваются независимо, а затем выбирается один из них.

Внутренние оценки, проведённые на серверах команды на Западном побережье, зафиксировали сквозные задержки ответов от 70 до 500 миллисекунд по сравнению с 3–329 секундами, наблюдавшимися у передовых разговорных моделей.

Опубликованные оценки рабочих процессов, выполненные на фиксированных вычислительных графах (с измерением ветвления многоэтапных решений по сравнению с консенсусными базовыми показателями GPT-6 Astra и Fable 5.1), зафиксировали скорость выполнения до 193,6 раза выше.

Стоимость обработки входных данных составляет $0,042 за миллион токенов — против стандартных тарифов для разговорных моделей в диапазоне от $0,20 до $10 за миллион токенов. Поскольку параллельная выборка создаёт структурированные состояния без проходов авторегрессионной генерации токенов, TypeSafe предоставляет выходные токены без взимания платы за их количество.

От ботов для Doom до данных петабайтного масштаба: тестирование Jev в реальных условиях

Демонстрации в производственной среде показывают, как Jev обрабатывает ветвящиеся правила в высокоскоростных игровых состояниях и деревьях навигации по веб-сайтам. В ходе динамического стресс-тестирования инженеры запустили бота, реагирующего в реальном времени, на структурах состояний игры Doom с частотой 10 запросов в секунду, при операционных затратах около $7 в час.

В рамках второго теста Wikiracing оценивался выбор ссылок в плотных энциклопедических каталогах. Переходы завершались за меньшее число шагов, чем у внешних моделей без рассуждений, поскольку варианты оценивались без генерации галлюцинированных тупиков.

Полевые испытания подтвердили основные целевые области применения: извлечение признаков в реальном времени, рабочие процессы с данными петабайтного масштаба, уровни проверки результатов и автоматизированную ветвящуюся логику, в которых написанные вручную правила оказываются ненадёжными. 

Сегодня TypeSafe открыла ранний доступ для разработчиков и начала подключать инженерные команды из списка ожидания развёртывания.

См. также: Microsoft AI начала рассмотрение свода правил поведения для гуманистического ИИ

Хотите узнать больше об ИИ и больших данных от лидеров отрасли? Посетите AI & Big Data Expo, которая пройдёт в Амстердаме, Калифорнии и Лондоне. Это масштабное мероприятие является частью TechEx и проводится одновременно с другими ведущими технологическими мероприятиями, включая Cyber Security & Cloud Expo. Нажмите здесь, чтобы узнать больше.

AI News работает при поддержке TechForge Media. Ознакомьтесь с другими предстоящими мероприятиями и вебинарами в сфере корпоративных технологий здесь.