Нові моделі Granite 4.2 від IBM осідлали хвилю інтересу до локальних LLM

IBM представила новітні моделі у своїй лінійці великомовних моделей із відкритими вагами, призначених для завантаження та самостійного розгортання. Нововипущена Granite 4.2 доступна у варіантах із 3, 8 і 30 млрд параметрів.

Як і попередні версії, тут IBM використовує підхід лише з декодером. Нові релізи нативно підтримують контекстне вікно на 128 000 токенів. Варіанти на 8 і 30 млрд параметрів (але не на 3 млрд) також проходять етап агентного навчання з підкріпленням; їх навчали для розширених можливостей, зокрема використання термінала, пошуку в інтернеті або роботи із зовнішніми інструментами. Модель на 3 млрд параметрів теж підтримує інструменти, але без такого самого рівня спеціалізованого навчання.

Окрім цих змін, цей реліз особливо примітний тим, що, як пише сама IBM, «Granite 4.2 — це реліз сімейства мовних моделей Granite, зосереджений на міркуванні».

Коли дослідники або розробники в цій галузі кажуть, що модель здатна міркувати, вони не мають на увазі це в тому самому сенсі, який ми часто вкладаємо в поняття людського міркування; моделі не розуміють проблему свідомо. Натомість ідеться про функціональне міркування, зокрема за допомогою «ланцюжка міркувань» і перенесення проміжних результатів через кілька кроків.