Піонер ChatGPT запускає модель Jev для програмної логіки

TypeSafe, заснована одним зі співавторів ChatGPT, вийшла з режиму прихованої розробки та запускає свою модель Jev для автоматизації програмних рішень за допомогою архітектури паралельного семплінгу.

Програмні системи, яким потрібна автоматизована детермінована логіка, тепер можуть відмовитися від використання розмовних мовних моделей після випуску TypeSafe AI моделі Jev — спеціалізованої моделі System One, призначеної для безпосереднього виконання структурованих імовірнісних рішень у виробничих кодових базах.

Модель, яку протягом двох років у режимі прихованої розробки створював ветеран OpenAI та співавтор ChatGPT Діогу Алмейда, повністю відмовляється від генерації тексту та рядків.

Замість авторегресивної послідовної генерації текстових токенів система отримує на вході неструктурований стан і за один паралельний запит повертає типобезпечні структуровані значення. Архітектура орієнтована на детерміновану інтеграцію з кодом, запобігаючи синтаксичним помилкам типів і галюцинаціям у вихідних даних за задумом.

Діогу Алмейда, засновник TypeSafe, сказав: «Уявляйте Jev як функціональний виклик із передовим інтелектом: на вході — неструктурований стан, на виході — типізовані імовірнісні рішення».

Архітектура моделі Jev: як працює апаратно-орієнтований паралельний семплінг

Інженери побудували платформу на основі альтернативної методології навчання під назвою Reinforcement Learning for Calibrated Decisions (RLCD).

Звичайні передові моделі навчаються за допомогою Reinforcement Learning with Human Feedback (RLHF) або Reinforcement Learning with Verifiable Rewards (RLVR), щоб відповідати людським уподобанням у розмовах або окремим програмним перевіркам. TypeSafe навчає Jev генерувати калібровані ймовірності для логіки виконання, забезпечуючи пряму кореляцію між повернутими показниками впевненості та точністю результату.

Відмовившись від авторегресивної генерації токенів, Jev покладається на апаратно-орієнтований паралельний семплер, який одночасно оцінює та повертає всі структуровані значення.

Структурне обмеження звужує вихідні дані до наперед визначених схем, усуваючи конвеєри парсингу та обгортки захисних обмежень, необхідні під час розгортання традиційних великих мовних моделей у потоках бізнес-автоматизації. Внутрішній семплер обробляє вибір із великою кількістю категорій — до 255 дискретних варіантів — використовуючи двоетапний процес, у якому варіанти спочатку оцінюються незалежно, а потім обираються.

Внутрішні оцінювання, проведені на серверах команди на Західному узбережжі, зафіксували наскрізні затримки відповіді від 70 до 500 мілісекунд, тоді як у розмовних передових системах цей показник становив від 3 до 329 секунд.

Опубліковані оцінювання робочих процесів, проведені на фіксованих обчислювальних графах (із вимірюванням багатокрокового розгалуження рішень порівняно з базовими показниками консенсусу GPT-6 Astra та Fable 5.1), зафіксували швидкість виконання до 193,6 раза вищу.

Вартість обробки вхідних даних становить $0,042 за мільйон токенів — порівняно зі стандартними тарифами для розмовних моделей від $0,20 до $10 за мільйон токенів. Оскільки паралельний семплінг генерує структуровані стани без проходів авторегресивної генерації токенів, TypeSafe надає вихідні токени без плати за їх підрахунок.

Від ботів для Doom до петабайтів даних: тестування розгортання Jev у реальних умовах

Демонстрації у виробничих умовах показують, як Jev обробляє правила розгалуження у високошвидкісних ігрових станах і деревах вебнавігації. Під час динамічного стрес-тестування інженери запустили реактивного бота в реальному часі на структурах станів гри Doom із частотою 10 запитів на секунду, що забезпечило операційні витрати приблизно $7 на годину.

Під час другого тесту Wikiracing оцінювався вибір посилань у щільних енциклопедичних каталогах. Обхід завершувався за меншу кількість кроків, ніж у зовнішніх моделей без міркування, оскільки варіанти оцінювалися без генерації вигаданих глухих кутів.

Польові випробування підтверджують основні цільові сфери застосування: вилучення ознак у реальному часі, робочі процеси з даними петабайтного масштабу, рівні перевірки результатів і автоматизована логіка розгалуження, де правила, написані вручну, виявляються ненадійними. 

Сьогодні TypeSafe відкрила ранній доступ для розробників і почала підключати інженерні команди зі списку очікування на розгортання.

Дивіться також: Microsoft AI розпочала обговорення Кодексу поведінки Humanist AI

Хочете дізнатися більше про ШІ та великі дані від лідерів галузі? Відвідайте AI & Big Data Expo, що відбудеться в Амстердамі, Каліфорнії та Лондоні. Цей масштабний захід є частиною TechEx і проходитиме одночасно з іншими провідними технологічними заходами, зокрема Cyber Security & Cloud Expo. Натисніть тут, щоб отримати більше інформації.

AI News працює за підтримки TechForge Media. Перегляньте інформацію про інші майбутні заходи та вебінари, присвячені корпоративним технологіям, тут.