TypeSafe AI пусна Jev 1.14 с изображения, тип Box и контекст от 262 хил. токена
TypeSafe AI пусна Jev 1.14, нова версия на своя модел за решения System One. Тя вече е достъпна под псевдонима jev-preview. Добавя 3 експериментални функции от „опасната зона“: изображения, тип box и по-дълъг контекст. За разработчиците Jev 1.14 насочва типизирания модел за решения към задачи с визуални данни като инспекция и локализация. TypeSafe отбелязва, че нито една от 3-те функции все още не е готова за продукционна употреба.
Накратко: Jev 1.14
- Размер: Броят на параметрите не е обявен. Контекстът е 64 хил. токена на заявка и 32 хил. на въпрос по подразбиране, или 262 хил. с включващ хедър.
- Работи на: Само на хоствания API на TypeSafe (
POST /v1/systemone). Няма отворени тегла. Хардуерът и квантизираните варианти не са обявени. - Производителност: Малки подобрения навсякъде, най-големи при многоезичната поддръжка (твърдение на TypeSafe, без публични оценки).
- Най-добро: В теста на TypeSafe за Box 4 въпроса за проверка на ръбовете откриват 30 от 36 изрязани изображения.
- Най-лошо: Изображенията и Box не са готови за продукционна употреба, а Box няма отговор „не е намерено“.
Какво представлява Jev 1.14?
Jev е модел System One от TypeSafe AI, който връща типизирани решения вместо генериран текст. Изпращате state заедно с типизирани въпроси: Choice, Score или Noul. Jev отговаря на всеки от тях с типизирана стойност, вероятности и оценка на увереността. TypeSafe го обучава с помощта на подсилващо обучение за калибрирани решения (RLCD).
Според публикацията за изданието новата версия, jev-1.14.0, носи малки, едва забележими подобрения в почти всички области. TypeSafe очаква най-голям напредък при многоезичната поддръжка.
Как работи въвеждането на изображения в Jev?
Изображенията са композируеми. Всяко изображение се посочва веднъж в карта от най-високо ниво assets под референтен низ. След това поставяте тази препратка навсякъде в state, instructions или criteria. API заменя всяка препратка с изображението, преди моделът да го прочете.
TypeSafe твърди, че jev-1.13.0 винаги е бил мултимодален. Според документацията за изображенията както Jev 1.13, така и Jev 1.14 вече приемат изображения. Всяка заявка изисква хедера TypeSafe-Danger-Zone-Images: true.
Основни ограничения за изображенията:
- Само неподвижни изображения във формат PNG или JPEG, до 16 MiB на файл
- От 256 до 1568 пиксела на страна
- 32 MiB за тялото на заявката
- Изображенията се таксуват като входни токени по стандартната цена, без отделна такса
TypeSafe предупреждава, че всички модели, включително Jev, се справят по-зле с изображения, отколкото само с текст. Компанията препоръчва възможно най-прости въпроси.
Какво представлява новият тип Box?
Box е нов тип въпрос, който връща 1 ограничителна кутия на въпрос. Отговорът дава ръбовете top, bottom, left и right като дроби от 0 до 1. Той също така връща оценка на увереността. Box изисква jev-1.14.0 или jev-preview, както и хедера за изображения.
Box винаги връща кутия. Въпрос за отсъстващ обект все пак връща 4 ръба. TypeSafe предлага да го комбинирате с въпрос Noul, който проверява дали целевият обект съществува.
TypeSafe сподели и малък тест с 36 изрязани изображения на картини, при които част от целевия обект е отрязана. 4 въпроса Noul за всеки ръб откриват 30 отрязвания. Един въпрос „цял ли е обектът вътре“ открива 26. Очертаването на кутията и задаването на въпрос за нея открива 20.
Колко е дълъг контекстният прозорец на Jev сега?
По подразбиране и двата модела поддържат 64 хил. токена на заявка и 32 хил. на въпрос. Изпращането на TypeSafe-Danger-Zone-Long-Context: true увеличава и двата лимита до 262 хил. токена според документацията за моделите. TypeSafe заявява, че Jev винаги е поддържал по-дълъг контекст вътрешно. Компанията умишлено е ограничила контекста, защото Jev, подобно на всички модели, е по-ненадежден при дълги входни данни. Екипът за разработка все още препоръчва кратки контексти.
Какво показват бенчмарковете?
TypeSafe публикува вътрешни графики за интелигентността в публикацията за изданието. Те сравняват Jev единствено с модели с отворени тегла. Публикацията не включва таблица с числови оценки. TypeSafe посочва, че измерването вероятно е предубедено в полза на собствените му модели. Компанията съветва разработчиците да отдават предпочитание на собствените си оценки.
Цена, наличност и миграция
Цената остава непроменена — $42 на милиард входни токена или $0,042 на милион. Изходните токени са безплатни според документацията за моделите.
Планът за внедряване от публикацията за изданието:
jev-previewвече сочи къмjev-1.14.0.jev-latestще премине къмjev-1.14.0след седмица.jev-1.13.0остава наличен, като ще има 60-дневно предизвестие преди прекратяването му.- За
jev-1.14.0ще има 30-дневно предизвестие преди собственото му прекратяване.
Как се сравнява Jev 1.14?
| Функция | Jev 1.14 | Jev 1.13 | Gemini 3.5 Flash-Lite |
|---|---|---|---|
| Идентификатор на модела | jev-1.14.0 | jev-1.13.0 | gemini-3.5-flash-lite |
| Тип на модела | Типизиран модел за решения | Типизиран модел за решения | Общ LLM |
| Параметри | Не са обявени | Не са обявени | Не са обявени |
| Контекст по подразбиране | 64 хил. на заявка / 32 хил. на въпрос | 64 хил. на заявка / 32 хил. на въпрос | 1 048 576 входни токена |
| Дълъг контекст | 262 хил. (с включващ хедър) | 262 хил. (с включващ хедър) | Неприложимо |
| Въвеждане на изображения | Да, с експериментален хедър | Да, с експериментален хедър | Да (текст, изображения, видео, аудио, PDF) |
| Ограничителни кутии | Вграден тип box, ръбове от 0 до 1 | Не | JSON box_2d чрез подсещане, мащабиран от 0 до 1000 (документация) |
| Изход | Типизирани отговори с увереност | Типизирани отговори с увереност | Текст, до 65 536 токена |
| Цена на входа (на 1 млн. токена) | $0,042 | $0,042 | $0,30 |
| Цена на изхода (на 1 млн. токена) | Безплатно | Безплатно | $2,50 |
| Статус | Предварителна версия (jev-preview) | Стабилна версия (jev-latest) | Стабилна версия |
Основни изводи
- Jev 1.14 е достъпен като
jev-preview.jev-latestще премине към него след седмица. - Изображенията работят с Jev 1.13 и 1.14 чрез хедер от опасната зона.
- Новият тип Box връща 1 нормализирана ограничителна кутия на въпрос.
- Режимът с дълъг контекст увеличава лимитите до 262 хил. токена, за сметка на надеждността.
- Цената остава $0,042 на милион входни токена, а изходът е безплатен.
Разгледайте публикацията за изданието, документацията за моделите, документацията за изображенията и документацията за Box. Цялата заслуга е за изследователя на този проект. Също така, не се колебайте да ни последвате в Twitter и не забравяйте да се присъедините към нашия SubReddit за машинно обучение с над 150 хил. членове и да се абонирате за нашия бюлетин. Чакайте! В Telegram ли сте? Вече можете да се присъедините към нас и в Telegram.
Преведено автоматично от английски. Оригиналната статия е на връзката по-долу.