Новите модели Granite 4.2 на IBM яхват вълната на интереса към локалните LLM

IBM представи най-новите модели от семейството си от широкодостъпни езикови модели с отворени тегла, създадени за изтегляне и самостоятелно хостване. Новата серия Granite 4.2 се предлага във варианти с 3 млрд., 8 млрд. и 30 млрд. параметъра.

Както и при предишните версии, IBM използва архитектура само с декодер. Тези нови версии предлагат вграден контекстен прозорец от 128 000 токена. Вариантите с 8 млрд. и 30 млрд. параметъра (но не и този с 3 млрд.) преминават и през блок за агентно обучение с подсилване; те са обучени за разширени възможности като използване на терминала, търсене в мрежата или работа с външни инструменти. Моделът с 3 млрд. параметъра също поддържа инструменти, но без същото ниво на специализирано обучение.

Освен тези промени, това издание е особено забележително, тъй като, както пише самата IBM, „Granite 4.2 е версията на семейството езикови модели Granite, фокусирана върху разсъждението.“

Когато изследователи или разработчици в тази област казват, че даден модел е способен да разсъждава, те нямат предвид същото, което обикновено разбираме, когато говорим за човешко разсъждение; моделите не осмислят проблема съзнателно. Вместо това те говорят за функционално разсъждение, по-специално чрез „верига на мислите“ и пренасяне на междинните резултати през множество стъпки.