Baidu відкрила код Unlimited OCR 2 для аналізу документів на сотні сторінок
Baidu випустила Unlimited OCR 2 — модель OCR із відкритим кодом, створену для дуже довгих документів. Модель із 3B параметрів обробляє книги, документи та звіти на сотні сторінок за один запит. Її ключова зміна — SR-SWA, схема розрідженої уваги, яка підтримує майже сталу вартість декодування на кожному кроці. Ваги поширюються за ліцензією MIT, а код доступний на GitHub.
Коротко
- Розмір: 3,34 млрд параметрів. Кількість активних параметрів не розголошується. Максимальна довжина позицій — 131 072 токени.
- Працює на: 1 CUDA GPU у BF16. Baidu тестувала модель на NVIDIA A800-80GB. Загальний обсяг ваг BF16 становить близько 6,7 ГБ.
- Продуктивність: перше місце в обох багатосторінкових тестах, які проводила Baidu, серед 9 інших моделей (за власними даними).
- Найкращий результат: 77,1 загалом у MarathonDocBench (сотні сторінок). Наступна модель, Kimi-K3, набрала 33,7.
- Найгірший результат: 48,2 за ієрархією заголовків (TEDS) у MarathonDocBench — це її найнижчий субрезультат.
Що таке Unlimited OCR 2?
Unlimited OCR 2 — це мультимодальна модель бачення та мови від Baidu з 3B параметрів, яка перетворює впорядковані зображення сторінок на структурований текст. Результат охоплює текст, таблиці, формули, ілюстрації, заголовки та порядок читання. Вона є наступницею Unlimited-OCR, випущеної в червні 2026 року для подальшого розвитку DeepSeek-OCR.
Конфігурація зберігає компонування у стилі DeepSeek-OCR. Кодер SAM ViT-B разом із CLIP-L передає дані 12-шаровому декодеру суміші експертів. Для кожного токена обираються 6 із 64 експертів, а також 2 спільні експерти. У статті про DeepSeek-OCR цей декодер названо DeepSeek3B-MoE-A570M. Baidu не вказує кількість активних параметрів для версії 2. У багатосторінковому режимі кожна сторінка потребує 273 токени зображення.
Як працює SR-SWA?
Вартість повної уваги зростає квадратично разом із довжиною послідовності. Під час декодування кожен новий токен сканує дедалі довший кеш KV. За 273 токени зображення на сторінку 100 сторінок додають 27 300 вхідних токенів ще до початку виведення.
SR-SWA розшифровується як Sparse Reference Sliding Window Attention — розріджена увага з ковзним вікном і опорними елементами. Вона стискає текстово-візуальну увагу до фіксованого набору робочих опорних елементів. У картці моделі Baidu наводить як приклад розмір 512 токенів. Конфігурація поєднує локальне вікно на 128 токенів із вибором 16 найважливіших блоків по 32 токени. Це 16 блоків по 32 токени, що відповідає бюджету в 512 токенів.
Завдяки цьому затримка та обсяг пам’яті на кожному кроці залишаються майже сталими зі збільшенням документа. Результат називають обробкою з «необмеженим горизонтом» у межах скінченного контекстного вікна. Кодування зображень і загальний час виконання все одно зростають із кількістю сторінок.
Як вона показує себе в MPDocBench і MarathonDocBench?
Команда Baidu тестує модель у MPDocBench, де в кожному документі десятки сторінок, і MarathonDocBench, де їх сотні. MPDocBench-Parse — це загальнодоступний тест із 433 документів і 3 246 сторінок. Нам не вдалося знайти публічний реліз MarathonDocBench.
Згідно з таблицею лідерів Baidu, Unlimited OCR 2 набирає 84,6 у MPDocBench. Далі йде Qwen3.8-Max із 78,3, а потім Qwen-3.8-Flash-Next із 77,4. У MarathonDocBench вона набирає 77,1. Наступною є Kimi-K3 із 33,7, а за нею Gemini-3.8-Flash із 28,6.
Справжня історія — у падінні результатів між тестами. Qwen3.8-Max падає з 78,3 до 22,9 на документах зі ста сторінок. Unlimited OCR 2 втрачає 7,5 бала. Її попередниця, Unlimited-OCR, набирає 0,0 у MarathonDocBench.
Субрезультати (MPDocBench / MarathonDocBench):
- Текст: 94,8 / 89,6
- Формули: 89,4 / 87,9
- Порядок читання: 92,3 / 85,3
- Таблиці: 87,8 / 74,8
- Ієрархія заголовків: 60,1 / 48,2
Перевага за окремими метриками в MPDocBench невелика. Qwen3.8-Max набирає 94,3 за текст і 89,2 за формули. Усі цифри наведені самою компанією й доступні лише на зображенні з діаграмою.
Порівняння з іншими відкритими моделями OCR
| Unlimited OCR 2 | Unlimited-OCR | DeepSeek-OCR-2 | PaddleOCR-VL-1.6 | |
|---|---|---|---|---|
| Розробник | Baidu | Baidu | DeepSeek | Baidu PaddlePaddle |
| Параметри | 3,34B | 3,34B | 3,39B | 0,96B |
| Активні параметри | Не розголошуються | Не розголошуються | Не розголошуються | Не розголошуються |
| Ліцензія | MIT | MIT | Apache 2.0 | Apache 2.0 |
| Стаття / реліз | жовтень 2026 (звіт) | червень 2026 (arXiv) | січень 2026 (arXiv) | червень 2026 (arXiv) |
| Механізм для довгих документів | SR-SWA, набір опорних елементів на 512 токенів | Багатосторінковий infer_multi, без SR-SWA | Не розголошується | Не розголошується |
| Загальний результат MPDocBench | 84,6 (Baidu) | 61,9 (Baidu) | Не повідомляється | Не повідомляється |
| Загальний результат MarathonDocBench | 77,1 (Baidu) | 0,0 (Baidu) | Не повідомляється | Не повідомляється |
| Розгортання | Transformers, спеціальний SGLang | Transformers, vLLM, SGLang | Transformers, SGLang | PaddleOCR, Transformers |
Кількість параметрів і ліцензії взято зі сторінки кожної моделі на Hugging Face. Результати тестів — із діаграми Baidu.
Як запустити Unlimited OCR 2?
У картці моделі для швидких тестів указано Transformers, а для розгортання — SGLang. У Transformers infer обробляє 1 сторінку з динамічним тайлінгом, який називається режимом gundam. infer_multi аналізує кожну сторінку документа за 1 запит, тому модель зберігає контекст між сторінками. Для завантаження потрібен параметр trust_remote_code=True, який запускає код Python із репозиторію.
Для розгортання через SGLang використовується спеціально налаштований пакет Baidu, а не основна версія SGLang. У прикладі Baidu планується по 10 сторінок на вікно та повторно використовується хвіст KV попереднього вікна. Менші вікна зменшують пікове використання пам’яті, але послаблюють об’єднання інформації між сторінками. Baidu попереджає, що стандартне налаштування зміщення може спричинити виділення 462 МіБ і призвести до нестачі пам’яті.
Ключові висновки
- Unlimited OCR 2 — модель OCR від Baidu із 3,34 млрд параметрів і ліцензією MIT.
- SR-SWA обмежує увагу фіксованим набором опорних елементів на 512 токенів.
- У MarathonDocBench вона набирає 77,1 проти 33,7 у наступної моделі.
- Ієрархія заголовків — слабке місце: 48,2 на довгих документах.
- Усі результати тестів наведені самою Baidu.
Перегляньте картку моделі, технічний звіт і репозиторій GitHub. Також підписуйтеся на нас у Twitter і не забудьте приєднатися до нашого сабреддіту про машинне навчання зі 150 тисячами+ учасників та підписатися на нашу розсилку. Стривайте! Ви є в Telegram? Тепер ви також можете приєднатися до нас у Telegram.
Потрібно налагодити партнерство з нами для просування вашого репозиторію GitHub, сторінки на Hugging Face, релізу продукту, вебінару тощо? Зв’яжіться з нами
Перекладено автоматично з англійської. Оригінал статті — за посиланням нижче.