Aikido Security випустила модель безпеки з відкритими вагами на 328 ГБ
Aikido Security випустила Altar-1 — свою першу модель безпеки з відкритими вагами. Вона є стисненою версією GLM-5.3 від Z.AI та призначена для роботи в інфраструктурі, яку контролює клієнт. Altar-1 використовується в Aikido Machine — автономному комплексі для пентестингу локальних і відокремлених від інтернету мереж. Ваги опубліковані на Hugging Face, а модель запускається через vLLM на одному вузлі з чотирма NVIDIA H200.
GLM-5.3 має 753 млрд параметрів і спрямовує кожен токен до восьми з 256 експертів. Aikido взяла за основу контрольну точку AWQ INT4, а потім за допомогою Cerebras REAP видалила по 88 експертів у кожному шарі без додаткового навчання. У Altar-1 залишилося 168 експертів, тоді як на один токен активними є близько 40 млрд параметрів. Розмір моделі становить 328 ГБ, порівняно з 1 506,7 ГБ у BF16-версії та 488,2 ГБ у батьківській AWQ-версії.
У внутрішньому тесті Aikido, що охоплював 32 вразливості у 30 репозиторіях, Altar-1 показала середню повноту 60,4% за запуск і виявила 23 вразливості щонайменше один раз. Для початкової BF16-моделі показник становив 65,6%. Altar-1 потребує GPU Hopper і поширюється за ліцензією GLM-5.3, яка дозволяє комерційне використання, але передбачає перевірку Z.AI для окремих операторів сервісів із високою виручкою. Відкриті ваги не означають статус схваленого OSI проєкту з відкритим кодом.
Текст підготовлено ШІ Sakhanda Wire за матеріалом MarkTechPost. Факти, цитати та повний контекст — в оригінальній статті нижче.