Baidu открыла исходный код Unlimited OCR 2 для разбора документов на сотни страниц
Baidu выпустила Unlimited OCR 2 — модель OCR с открытым исходным кодом, предназначенную для очень длинных документов. Модель на 3 млрд параметров обрабатывает книги, нормативные документы и отчёты объёмом в сотни страниц за один запрос. Её ключевое изменение — SR-SWA, разреженная схема внимания, которая сохраняет стоимость декодирования на каждом шаге почти неизменной. Веса распространяются по лицензии MIT, а код доступен на GitHub.
Кратко
- Размер: 3,34 млрд параметров. Число активных параметров не раскрывается. Максимальная длина последовательности — 131 072 токена.
- Запускается на: 1 CUDA GPU в BF16. Baidu проводила тестирование на NVIDIA A800-80GB. Общий объём весов BF16 составляет около 6,7 ГБ.
- Производительность: первое место в обоих протестированных Baidu бенчмарках для многостраничных документов среди 9 других моделей (по собственным данным компании).
- Лучший результат: 77,1 балла в MarathonDocBench (сотни страниц). Следующая модель, Kimi-K3, набирает 33,7.
- Худший результат: 48,2 за иерархию заголовков (TEDS) в MarathonDocBench — это самый низкий частичный результат модели.
Что такое Unlimited OCR 2?
Unlimited OCR 2 — мультимодальная модель Baidu на 3 млрд параметров, которая преобразует упорядоченные изображения страниц в структурированный текст. Результат включает текст, таблицы, формулы, рисунки, заголовки и порядок чтения. Она сменяет Unlimited-OCR, выпущенную в июне 2026 года для дальнейшего развития DeepSeek-OCR.
Конфигурация сохраняет структуру в стиле DeepSeek-OCR. Кодировщик SAM ViT-B вместе с CLIP-L передаёт данные 12-слойному декодеру со смесью экспертов. Каждый токен направляется к 6 из 64 экспертов, а также к 2 общим экспертам. В статье о DeepSeek-OCR этот декодер описывается как DeepSeek3B-MoE-A570M. Baidu не сообщает число активных параметров для версии 2. В многостраничном режиме каждая страница требует 273 визуальных токена.
Как работает SR-SWA?
Стоимость полноплотного внимания растёт квадратично вместе с длиной последовательности. Во время декодирования каждый новый токен сканирует всё более длинный KV-кэш. При 273 визуальных токенах на страницу 100 страниц добавляют 27 300 входных токенов ещё до появления какого-либо вывода.
SR-SWA расшифровывается как Sparse Reference Sliding Window Attention — разреженное внимание со скользящим окном и опорными элементами. Оно сжимает текстово-визуальное внимание до фиксированного набора рабочих опорных элементов. В карточке модели Baidu приводит в качестве примера размер 512 токенов. Конфигурация сочетает локальное окно на 128 токенов с выбором 16 наиболее значимых элементов среди блоков по 32 токена. Это 16 блоков по 32 токена, что соответствует бюджету в 512 токенов.
Так сохраняются почти постоянными задержка на каждом шаге и объём памяти по мере роста документов. Такой результат называется разбором с «неограниченным горизонтом» в пределах конечного контекстного окна. Кодирование изображений и общее время работы по-прежнему увеличиваются с числом страниц.
Каковы результаты в MPDocBench и MarathonDocBench?
Команда Baidu тестирует модель на MPDocBench, где в каждом документе десятки страниц, и MarathonDocBench, где их сотни. MPDocBench-Parse — общедоступный бенчмарк, включающий 433 документа и 3 246 страниц. Нам не удалось найти общедоступный релиз MarathonDocBench.
Согласно таблице лидеров Baidu, Unlimited OCR 2 набирает 84,6 балла в MPDocBench. Следом идут Qwen3.8-Max с результатом 78,3 и Qwen-3.8-Flash-Next с 77,4. В MarathonDocBench модель набирает 77,1. Следом находится Kimi-K3 с 33,7, а затем Gemini-3.8-Flash с 28,6.
Падение результатов между бенчмарками — самое важное наблюдение. Qwen3.8-Max опускается с 78,3 до 22,9 на документах объёмом в сотни страниц. Unlimited OCR 2 теряет 7,5 балла. Её предшественница Unlimited-OCR набирает 0,0 в MarathonDocBench.
Частичные результаты (MPDocBench / MarathonDocBench):
- Текст: 94,8 / 89,6
- Формулы: 89,4 / 87,9
- Порядок чтения: 92,3 / 85,3
- Таблицы: 87,8 / 74,8
- Иерархия заголовков: 60,1 / 48,2
Разница по отдельным метрикам в MPDocBench невелика. Qwen3.8-Max набирает 94,3 за текст и 89,2 за формулы. Все приведённые цифры основаны на собственных данных компаний и представлены только на изображении с таблицей.
Сравнение с другими открытыми моделями OCR
| Unlimited OCR 2 | Unlimited-OCR | DeepSeek-OCR-2 | PaddleOCR-VL-1.6 | |
|---|---|---|---|---|
| Разработчик | Baidu | Baidu | DeepSeek | Baidu PaddlePaddle |
| Параметры | 3,34 млрд | 3,34 млрд | 3,39 млрд | 0,96 млрд |
| Активные параметры | Не раскрываются | Не раскрываются | Не раскрываются | Не раскрываются |
| Лицензия | MIT | MIT | Apache 2.0 | Apache 2.0 |
| Статья / релиз | Октябрь 2026 (отчёт) | Июнь 2026 (arXiv) | Январь 2026 (arXiv) | Июнь 2026 (arXiv) |
| Механизм работы с длинными документами | SR-SWA, набор из 512 опорных токенов | Многостраничный infer_multi, без SR-SWA | Не раскрывается | Не раскрывается |
| Общий результат MPDocBench | 84,6 (Baidu) | 61,9 (Baidu) | Не сообщается | Не сообщается |
| Общий результат MarathonDocBench | 77,1 (Baidu) | 0,0 (Baidu) | Не сообщается | Не сообщается |
| Запуск | Transformers, собственный SGLang | Transformers, vLLM, SGLang | Transformers, SGLang | PaddleOCR, Transformers |
Количество параметров и лицензии взяты со страниц каждой модели на Hugging Face. Результаты бенчмарков — из таблицы Baidu.
Как запустить Unlimited OCR 2?
В карточке модели указаны Transformers для быстрых тестов и SGLang для развёртывания. В Transformers функция infer обрабатывает 1 страницу с динамической мозаикой, которая называется режимом gundam. Функция infer_multi разбирает каждую страницу документа за 1 запрос, поэтому модель сохраняет контекст между страницами. Для загрузки требуется trust_remote_code=True, что запускает код Python из репозитория.
Для запуска через SGLang используется настроенный Baidu пакет, а не исходная версия SGLang. В примере Baidu планируется по 10 страниц на окно и повторно используется хвост KV предыдущего окна. Меньшие окна снижают пиковое потребление памяти, но ухудшают объединение информации между страницами. Baidu предупреждает, что настройка смещения по умолчанию может вызвать выделение 462 МиБ и привести к нехватке памяти.
Основные выводы
- Unlimited OCR 2 — модель OCR Baidu на 3,34 млрд параметров с лицензией MIT.
- SR-SWA ограничивает внимание фиксированным набором из 512 опорных токенов.
- В MarathonDocBench модель набирает 77,1 балла против 33,7 у следующей модели.
- Слабое место — иерархия заголовков: 48,2 на длинных документах.
- Все показатели бенчмарков предоставлены самой Baidu.
Ознакомьтесь с карточкой модели, техническим отчётом и репозиторием на GitHub. Также подписывайтесь на нас в Twitter и не забудьте присоединиться к нашему сабреддиту о машинном обучении с аудиторией более 150 тысяч участников и подписаться на нашу рассылку. Стоп! Вы есть в Telegram? Теперь вы также можете присоединиться к нам в Telegram.
Хотите сотрудничать с нами для продвижения своего репозитория на GitHub, страницы на Hugging Face, релиза продукта, вебинара и т. д.? Свяжитесь с нами
Переведено автоматически с английского. Оригинал статьи — по ссылке ниже.