Jina AI выпустила парсер документов для недорогих графических процессоров
Jina AI, входящая в Elastic, представила jina-ocr-v1 — визуальный парсер, преобразующий PDF-файлы, сканы, таблицы, графики и счета в Markdown за один проход. Модель типа mixture-of-experts содержит 3.4B параметров, из которых около 570M параметров декодера активны для каждого токена. Она построена на базе DeepSeek-OCR и включает встроенную голову FastMTP для спекулятивного декодирования.
В техническом отчёте указаны результаты 91.14 в OmniDocBench v1.6 и 83.4 в olmOCR-Bench. Лидером этих тестов модель не стала, однако дообучение повысило результат базовой DeepSeek-OCR на 7.4 пункта в olmOCR-Bench. На одном A100 40 GB при параллельной обработке 32 запросов jina-ocr-v1 обрабатывает 2.57 страницы в секунду. Это лучший показатель среди 14 систем, измеренных Jina AI.
Открытые веса занимают около 6.8 GB в формате BF16 и запускаются через Transformers или vLLM. Модель разрешено использовать для исследований и некоммерческих задач по лицензии CC BY-NC 4.0; коммерческое применение требует обращения к Jina AI. Для FastMTP нужен vLLM 0.21 или более поздняя версия. Доступ также предоставляется через Jina Reader и совместимый с OpenAI интерфейс.
Текст подготовлен ИИ Sakhanda Wire по материалу MarkTechPost. Факты, цитаты и полный контекст — в оригинальной статье ниже.