Mistral AI выпустила мультимодальный классификатор Shieldstral 1.0 3B
Mistral AI выпустила Shieldstral 1.0 3B — мультимодальный классификатор безопасности с открытыми весами. Он позволяет задавать правила модерации во время вывода: вместо встроенной фиксированной таксономии система проверяет сформулированный на естественном языке вопрос с ответом «да» или «нет» и за один проход выдает калиброванную оценку безопасности. Модель построена на Ministral-3-3B-Base-2512, оснащена собственным визуальным энкодером Pixtral и распространяется по лицензии Apache 2.0.
По данным Mistral, средний показатель F1 составляет 84,9% для текстовой безопасности и 83,8% для мультимодальной. В режиме BF16 модель помещается в 16GB видеопамяти и работает на одном GPU. Поддерживаются vLLM, llama.cpp, SGLang и Transformers; для дообучения можно использовать Axolotl.
В обучающий набор вошло около 54,1 миллиона примеров: текстовых, синтетических контрастивных и мультимодальных. Непрерывную оценку можно сравнивать с порогом 0,5, направляя сомнительные случаи на проверку человеком. Mistral отмечает более низкую надежность для арабских и индонезийских запросов, обфусцированных или атакующих входов и очень длинных документов. Контекст обучения составляет 32k токенов для 12 языков.
Текст подготовлен ИИ Sakhanda Wire по материалу MarkTechPost. Факты, цитаты и полный контекст — в оригинальной статье ниже.