Aikido Security представи модел за сигурност с отворени тегла от 328 GB
Aikido Security представи Altar-1 — първия си модел за сигурност с публично достъпни тегла. Той е компресирана версия на GLM-5.3 на Z.AI и е предназначен да работи в инфраструктура, контролирана от клиента. Altar-1 захранва Aikido Machine, автономен уред за тестове за проникване в локални и изолирани от интернет мрежи. Теглата са публикувани в Hugging Face, а моделът може да се изпълнява с vLLM на един възел с четири NVIDIA H200 GPU.
GLM-5.3 има 753 милиарда параметъра и насочва всеки токен към осем от 256 експерта. Aikido първо използва контролна точка AWQ INT4, а след това приложи Cerebras REAP, за да премахне 88 експерта от всеки слой без допълнително обучение. Altar-1 запазва 168 експерта и около 40 милиарда активни параметъра за токен. Размерът му е 328 GB, спрямо 1 506,7 GB за BF16 версията и 488,2 GB за AWQ варианта.
Вътрешният тест на Aikido обхваща 32 уязвимости в 30 хранилища и отчита средно припомняне от 60,4% на изпълнение. Моделът е открил 23 уязвимости поне веднъж, докато BF16 моделът е достигнал 65,6%. Altar-1 изисква Hopper GPU и наследява лиценза на GLM-5.3, който допуска търговска употреба, но предвижда проверка от Z.AI за определени оператори на услуги с високи приходи. Моделът е с отворени тегла, но не е одобрен като софтуер с отворен код от OSI.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на MarkTechPost. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.