Sakhanda Wire
NVDA $153.81 -1.49% MSFT $505.73 -2.37% GOOGL $280.00 -1.31% META $619.84 -1.05% AMZN $257.52 -0.09%
← Към новините

Jina AI представи 3.4B модел за обработка на документи върху евтини GPU

Jina AI, част от Elastic, представи jina-ocr-v1 — визуален парсер, който преобразува PDF файлове, сканирани документи, таблици, графики и фактури в Markdown с едно преминаване. Моделът от типа mixture-of-experts има общо 3.4B параметра, като около 570M декодерни параметъра се активират за всеки токен. Той е базиран на DeepSeek-OCR и включва вграден модул FastMTP за спекулативно декодиране.

В техническия отчет са посочени резултати 91.14 в OmniDocBench v1.6 и 83.4 в olmOCR-Bench. Моделът не е лидер в тези тестове, но последващото обучение подобрява базовия DeepSeek-OCR със 7.4 пункта в olmOCR-Bench. При работа с един A100 40 GB и едновременност 32 jina-ocr-v1 обработва 2.57 страници в секунда — най-високата стойност сред 14 измерени от Jina AI системи.

Теглата са приблизително 6.8 GB във формат BF16 и работят с Transformers или vLLM. Моделът е достъпен за изследователска и некомерсиална употреба по лиценза CC BY-NC 4.0, а комерсиалното използване изисква контакт с Jina AI. FastMTP изисква vLLM 0.21 или по-нова версия. Достъп се предлага и чрез Jina Reader и OpenAI-съвместима крайна точка.

Текстът е изготвен от ИИ на Sakhanda Wire по материал на MarkTechPost. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.

Първоначално публикувано от MarkTechPost на

Прочетете оригинала в MarkTechPost ↗

Репортажът и изображението принадлежат на MarkTechPost и са посочени по-горе с връзка към оригинала; текстът на тази страница е собствено изложение на Sakhanda Wire.

← Към новините

Още новини

Всички последни новини