TypeSafe AI выпустила Jev 1.14 с изображениями, типом Box и контекстом на 262 тыс. токенов
TypeSafe AI выпустила Jev 1.14, новую версию модели принятия решений System One. Она уже доступна под псевдонимом jev-preview. В неё добавлены 3 экспериментальные функции «опасной зоны»: изображения, тип box и более длинный контекст. Для разработчиков Jev 1.14 расширяет возможности типизированной модели принятия решений для задач компьютерного зрения, таких как инспекция и локализация. TypeSafe отмечает, что ни одна из 3 функций пока не готова к использованию в продакшене.
Кратко: Jev 1.14
- Размер: Количество параметров не раскрывается. Контекст составляет 64 тыс. токенов на запрос и 32 тыс. на вопрос по умолчанию или 262 тыс. при использовании специального заголовка.
- Работает на: Только размещённом API TypeSafe (
POST /v1/systemone). Открытых весов нет. Данные об аппаратных и квантованных вариантах не раскрываются. - Производительность: Небольшой прирост по всем направлениям, самый значительный — в поддержке многоязычности (по заявлению TypeSafe, публичных оценок нет).
- Лучший результат: В тесте TypeSafe с Box 4 вопроса о границах обнаружили 30 из 36 обрезанных фрагментов.
- Худший результат: Изображения и Box не готовы к использованию в продакшене, а Box не поддерживает ответ «не найдено».
Что такое Jev 1.14?
Jev — это модель System One от TypeSafe AI, которая возвращает типизированные решения вместо сгенерированного текста. Вы отправляете state вместе с типизированными вопросами: Choice, Score или Noul. Jev отвечает на каждый вопрос типизированным значением, вероятностями и оценкой уверенности. TypeSafe обучает её с помощью обучения с подкреплением для калиброванных решений (RLCD).
Согласно публикации о выпуске, новая версия, jev-1.14.0, привносит небольшие, едва заметные улучшения почти во все аспекты. TypeSafe ожидает наиболее значительного прироста в поддержке многоязычности.
Как работает ввод изображений в Jev?
Изображения можно комбинировать. Каждое изображение указывается один раз в карте верхнего уровня assets под строкой-ссылкой. Затем эту ссылку можно разместить в любом месте state, instructions или criteria. API заменяет каждую ссылку изображением до того, как модель его прочитает.
TypeSafe утверждает, что jev-1.13.0 изначально была мультимодальной. Согласно документации по изображениям, теперь и Jev 1.13, и Jev 1.14 принимают изображения. Для каждого запроса требуется заголовок TypeSafe-Danger-Zone-Images: true.
Основные ограничения для изображений:
- Только неподвижные изображения в формате PNG или JPEG, до 16 МиБ на файл
- От 256 до 1568 пикселей по каждой стороне
- 32 МиБ на тело запроса
- Изображения тарифицируются как входные токены по обычной цене, без отдельной платы
TypeSafe предупреждает, что все модели, включая Jev, работают с изображениями хуже, чем с одним лишь текстом. Компания рекомендует задавать максимально простые вопросы.
Что такое новый тип Box?
Box — это новый тип вопроса, который возвращает 1 ограничивающую рамку на вопрос. Ответ содержит координаты top, bottom, left и right в виде долей от 0 до 1. Также возвращается оценка уверенности. Для Box требуется jev-1.14.0 или jev-preview, а также заголовок для изображений.
Box всегда возвращает рамку. На вопрос об отсутствующем объекте всё равно возвращаются 4 координаты. TypeSafe предлагает использовать его вместе с вопросом Noul, который проверяет наличие целевого объекта.
TypeSafe также поделилась небольшим тестом на 36 фрагментах картин, в каждом из которых часть целевого объекта была обрезана. 4 вопроса Noul — по одному для каждой границы — обнаружили 30 обрезаний. Один вопрос «находится ли он целиком внутри» обнаружил 26. Отрисовка рамки в виде контура и вопрос о ней позволили обнаружить 20.
Какова теперь длина контекстного окна Jev?
По умолчанию обе модели поддерживают 64 тыс. токенов на запрос и 32 тыс. на вопрос. Отправка TypeSafe-Danger-Zone-Long-Context: true увеличивает оба лимита до 262 тыс. токенов, согласно документации по моделям. TypeSafe заявляет, что Jev всегда поддерживала более длинный контекст внутри системы. Контекст был намеренно ограничен, поскольку Jev, как и все модели, менее надёжна при обработке длинных входных данных. Команда разработчиков по-прежнему рекомендует использовать короткий контекст.
Что показывают результаты тестов?
TypeSafe опубликовала внутренние диаграммы интеллектуальных возможностей в публикации о выпуске. На них Jev сравнивается только с моделями с открытыми весами. В публикации нет таблицы с числовыми оценками. TypeSafe отмечает, что измерения, вероятно, смещены в пользу собственных моделей. Разработчикам рекомендуется ориентироваться на собственные оценки.
Стоимость, доступность и переход
Стоимость не изменилась: $42 за миллиард входных токенов или $0.042 за миллион. Выходные токены предоставляются бесплатно, согласно документации по моделям.
План развёртывания из публикации о выпуске:
jev-previewуже указывает наjev-1.14.0.jev-latestперейдёт наjev-1.14.0через неделю.jev-1.13.0останется доступной; до прекращения её поддержки будет предоставлено уведомление за 60 дней.- До прекращения поддержки
jev-1.14.0будет предоставлено уведомление за 30 дней.
Как Jev 1.14 выглядит в сравнении?
| Функция | Jev 1.14 | Jev 1.13 | Gemini 3.5 Flash-Lite |
|---|---|---|---|
| Идентификатор модели | jev-1.14.0 | jev-1.13.0 | gemini-3.5-flash-lite |
| Тип модели | Типизированная модель принятия решений | Типизированная модель принятия решений | Универсальная LLM |
| Параметры | Не раскрываются | Не раскрываются | Не раскрываются |
| Контекст по умолчанию | 64 тыс. на запрос / 32 тыс. на вопрос | 64 тыс. на запрос / 32 тыс. на вопрос | 1 048 576 входных токенов |
| Длинный контекст | 262 тыс. (специальный заголовок) | 262 тыс. (специальный заголовок) | Не применимо |
| Ввод изображений | Да, экспериментальный заголовок | Да, экспериментальный заголовок | Да (текст, изображения, видео, аудио, PDF) |
| Ограничивающие рамки | Нативный тип box, границы от 0 до 1 | Нет | JSON box_2d по запросу, масштабирование от 0 до 1000 (документация) |
| Вывод | Типизированные ответы с оценкой уверенности | Типизированные ответы с оценкой уверенности | Текст, до 65 536 токенов |
| Цена входных данных (за 1 млн токенов) | $0.042 | $0.042 | $0.30 |
| Цена выходных данных (за 1 млн токенов) | Бесплатно | Бесплатно | $2.50 |
| Статус | Предварительная версия (jev-preview) | Стабильная версия (jev-latest) | Стабильная версия |
Основные выводы
- Jev 1.14 доступна как
jev-preview.jev-latestпереключится на неё через неделю. - Изображения работают в Jev 1.13 и 1.14 при использовании заголовка «опасной зоны».
- Новый тип Box возвращает 1 нормализованную ограничивающую рамку на вопрос.
- Режим длинного контекста увеличивает лимиты до 262 тыс. токенов, но снижает надёжность.
- Цена остаётся на уровне $0.042 за миллион входных токенов, вывод предоставляется бесплатно.
Ознакомьтесь с публикацией о выпуске, документацией по моделям, документацией по изображениям и документацией по Box. Все заслуги принадлежат исследователю этого проекта. Также подписывайтесь на нас в Twitter и не забудьте присоединиться к нашему сабреддиту о машинном обучении с более чем 150 тыс. участников и подписаться на нашу рассылку. Постойте! Вы пользуетесь Telegram? теперь вы также можете присоединиться к нам в Telegram.
Переведено автоматически с английского. Оригинал статьи — по ссылке ниже.