Ръководство показва как Dory 1.0 4B работи с llama.cpp
Програмен урок разглежда Dory 1.0 4B — компактен модел за разсъждение, разработен от Nemotron Labs на NVIDIA. Средните му слоеве образуват споделен блок, който може да се изпълнява един, два, три или четири пъти за всеки токен. Повече итерации увеличават изчисленията за токен, но не и броя на параметрите, така че една контролна точка предлага четири нива на изчислителен бюджет без ново обучение.