Jina AI випустила парсер документів для недорогих графічних процесорів
Jina AI, що входить до складу Elastic, випустила jina-ocr-v1 — візуальний парсер, який за один прохід перетворює PDF-файли, скани, таблиці, графіки та рахунки на Markdown. Модель типу mixture-of-experts має загалом 3.4B параметрів, причому для кожного токена активними є близько 570M параметрів декодера. Вона побудована на DeepSeek-OCR і містить вбудовану голову FastMTP для спекулятивного декодування.
У технічному звіті наведено результати 91.14 в OmniDocBench v1.6 та 83.4 в olmOCR-Bench. Модель не очолює ці тести, однак післятренування підвищило результат базової DeepSeek-OCR на 7.4 бала в olmOCR-Bench. На одному A100 40 GB за одночасної обробки 32 запитів jina-ocr-v1 обробляє 2.57 сторінки за секунду. Це найвищий показник серед 14 систем, виміряних Jina AI.
Відкриті ваги займають близько 6.8 GB у форматі BF16 і працюють із Transformers або vLLM. Модель доступна для досліджень і некомерційного використання за ліцензією CC BY-NC 4.0; для комерційного застосування потрібно звернутися до Jina AI. FastMTP потребує vLLM 0.21 або новішої версії. Доступ також надають через Jina Reader та сумісний з OpenAI інтерфейс.
Текст підготовлено ШІ Sakhanda Wire за матеріалом MarkTechPost. Факти, цитати та повний контекст — в оригінальній статті нижче.