Пионерът на ChatGPT представя модела Jev за програмна логика

TypeSafe, основана от съизобретател на ChatGPT, излезе от режим на скрито разработване и пуска своя модел Jev за автоматизиране на програмни решения чрез архитектура за паралелно семплиране.

Софтуерните системи, изискващи автоматизирана детерминистична логика, вече могат да заобиколят разговорните езикови модели след пускането на Jev от TypeSafe AI — специализиран System One Model, създаден да изпълнява структурирани вероятностни решения директно в продукционни кодови бази.

Разработен в продължение на две години в режим на скрито разработване от ветерана на OpenAI и съизобретател на ChatGPT Диого Алмейда, моделът напълно изоставя генерирането на текст и низове.

Вместо да генерира авторегресивно последователни текстови токени, системата приема неструктурирано състояние като вход и извежда типобезопасни структурирани стойности чрез една-единствена паралелна заявка. Архитектурата е насочена към детерминистична интеграция с код, като по замисъл предотвратява синтактични грешки на типовете и халюцинации в изхода.

Диого Алмейда, основател на TypeSafe, заяви: „Мислете за Jev като за функция за граничен интелект: неструктурирано състояние на входа и типизирани вероятностни решения на изхода.“

Архитектура на модела Jev: Как работи хардуерно съобразеното паралелно семплиране

Инженерите изградиха платформата около алтернативна методология за обучение, наречена Reinforcement Learning for Calibrated Decisions (RLCD).

Конвенционалните гранични модели се обучават чрез Reinforcement Learning with Human Feedback (RLHF) или Reinforcement Learning with Verifiable Rewards (RLVR), за да удовлетворяват човешки разговорни предпочитания или изолирани програмни проверки. TypeSafe обучава Jev да генерира калибрирани вероятности при логиката на изпълнение, като гарантира, че върнатите оценки на увереността корелират директно с точността на изхода.

Отклонявайки се от авторегресивното генериране на токени, Jev разчита на хардуерно съобразен паралелен семплер, който оценява и доставя всички структурирани стойности едновременно.

Структурното ограничение свежда изходите до предварително дефинирани схеми, елиминирайки конвейерите за парсване и обвивките с предпазни ограничения, необходими при внедряването на традиционни големи езикови модели в потоци за бизнес автоматизация. Вътрешният семплер обработва селекции с висока кардиналност до 255 дискретни опции, използвайки двуетапен процес, който оценява опциите независимо преди избора.

Вътрешните оценки, проведени от сървърите на екипа на Западното крайбрежие, отчитат латентност на отговора от край до край между 70 и 500 милисекунди в сравнение с наблюдаваните при разговорните гранични внедрявания 3–329 секунди.

Публикуваните оценки на работни процеси, изпълнени върху фиксирани изчислителни графи (измерващи разклоняването на многостъпкови решения спрямо базови стойности за консенсус от GPT-6 Astra и Fable 5.1), отчитат скорости на изпълнение до 193,6 пъти по-високи.

Разходите за обработка на входа са $0,042 за милион токени, спрямо стандартните разговорни тарифи от $0,20 до $10 за милион токени. Тъй като паралелното семплиране генерира структурирани състояния без авторегресивни проходи за генериране на токени, TypeSafe предоставя изходни токени без такси за отчитане.

От ботове за Doom до петабайтни данни: Тестване на внедряването на Jev в реални условия

Продукционните демонстрации показват как Jev разрешава разклоняващи се правила в състояния на високоскоростни игри и дървета за обхождане на уебсайтове. При динамично стрес тестване инженерите управляваха реактивен бот в реално време чрез структури на състоянията на играта Doom при 10 заявки в секунда, генерирайки експлоатационни разходи от приблизително $7 на час.

Вторичен тест Wikiracing оцени избора на връзки в плътни енциклопедични директории, като завърши обхожданията с по-малко стъпки от външни модели без способност за разсъждение, оценявайки опциите, без да генерира халюцинирани задънени улици.

Полевите тестове потвърждават основните целеви приложения при извличане на функции в реално време, работни процеси с данни в петабайтов мащаб, слоеве за проверка на изхода и автоматизирана логика за разклоняване, при които ръчно написаните правила се оказват неточни. 

Днес TypeSafe отвори ранен достъп за разработчици и започна да включва инженерни екипи от списъка с чакащи за внедряване.

Вижте също: Microsoft AI започва преглед на Кодекса за поведение при хуманистичен изкуствен интелект

Искате ли да научите повече за изкуствения интелект и големите данни от лидери в индустрията? Посетете AI & Big Data Expo, която се провежда в Амстердам, Калифорния и Лондон. Всеобхватното събитие е част от TechEx и се провежда едновременно с други водещи технологични събития, включително Cyber Security & Cloud Expo. Кликнете тук за повече информация.

AI News се поддържа от TechForge Media. Разгледайте други предстоящи събития и уебинари за корпоративни технологии тук.