Выпущены экспериментальные модели LLMON для Granite 4.1
Исследователи IBM представили две экспериментальные предварительные версии моделей — granite-4.1-3b-LLMON-preview и granite-4.1-8b-LLMON-preview. Они созданы на основе базовых моделей Granite 4.1 и обучены читать и генерировать текст в формате LLMON, или LLM Object Notation, разработанном специально для больших языковых моделей.
LLMON выделяет инструкции, данные, требования и результаты в отдельные блоки с явной разметкой. Границы блоков обозначаются зарезервированными специальными токенами, а идентификаторы связывают инструкцию с данными, к которым она относится. По словам разработчиков, такая структура должна уменьшить смешение элементов в длинном контексте и противодействовать косвенным prompt injection-атакам, спрятанным в документах, ответах инструментов или пользовательских данных.
В тесте OPI команда сообщила, что модели избежали на 47% больше атак, чем лучшая испытанная передовая модель, и на 95% больше, чем лучшая протестированная модель с открытым исходным кодом. По стандартным категориям оценки их возможности были сопоставимы с Granite 4.1 Instruct. Также опубликованы инструменты GitHub, конвертеры JSON и примеры. Релиз предназначен для экспериментов и оценки, а не для использования в продуктах.
Текст подготовлен ИИ Sakhanda Wire по материалу Hugging Face. Факты, цитаты и полный контекст — в оригинальной статье ниже.