Випущено експериментальні моделі LLMON для Granite 4.1
Дослідники IBM представили дві експериментальні моделі попереднього перегляду — granite-4.1-3b-LLMON-preview і granite-4.1-8b-LLMON-preview. Їх створено на основі базових моделей Granite 4.1 та навчено читати й генерувати текст у форматі LLMON, або LLM Object Notation, розробленому для великих мовних моделей.
LLMON поділяє інструкції, дані, вимоги та результати на окремі явно позначені блоки. Межі блоків визначають зарезервовані спеціальні токени, а ідентифікатори пов’язують інструкцію з даними, яких вона стосується. За словами розробників, така структура має зменшити змішування елементів у довгому контексті та протидіяти непрямим prompt injection-атакам, прихованим у документах, відповідях інструментів або даних користувача.
У тесті OPI команда повідомила, що моделі уникнули на 47% більше атак, ніж найкраща випробувана передова модель, і на 95% більше, ніж найкраща протестована модель із відкритим кодом. За стандартними категоріями оцінювання їхні можливості були близькими до Granite 4.1 Instruct. Також оприлюднено інструменти GitHub, конвертери JSON і приклади. Реліз призначений для експериментів та оцінювання, а не для використання у виробничих системах.
Текст підготовлено ШІ Sakhanda Wire за матеріалом Hugging Face. Факти, цитати та повний контекст — в оригінальній статті нижче.