TypeSafe представи Jev за структурирани програмни решения
TypeSafe, основана от ветерана на OpenAI и съизобретателя на ChatGPT Diogo Almeida, представи модела Jev след две години разработка в секретен режим. Компанията го определя като специализиран System One Model за структурирани вероятностни решения в производствен софтуер, а не за генериране на текст. Моделът приема неструктурирано състояние и връща типизирани стойности чрез една паралелна заявка.
Jev се обучава с Reinforcement Learning for Calibrated Decisions (RLCD), чиято цел е оценките на увереност да съответстват на точността на решенията при изпълнение. Хардуерно съобразен семплер обработва структурирани опции паралелно и поддържа избор между до 255 дискретни възможности. Според TypeSafe предварително зададените схеми премахват нуждата от конвейери за парсване и допълнителни защитни слоеве.
Вътрешни тестове отчитат латентност от 70–500 милисекунди спрямо 3–329 секунди при разговорни водещи модели. Работни оценки показват скорост до 193.6 пъти по-висока. Обработката струва $0.042 за милион токени, а изходните токени не се таксуват. Демонстрациите включват бот за Doom с 10 заявки в секунда и разход около $7 на час, както и тестове Wikiracing. TypeSafe е отворила ранен достъп за разработчици.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на AI News. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.