Mistral AI випустила мультимодальний класифікатор Shieldstral 1.0 3B
Mistral AI випустила Shieldstral 1.0 3B — мультимодальний класифікатор безпеки з відкритими вагами. Він дає змогу визначати політику модерації під час інференсу: замість фіксованої системи категорій модель оцінює сформульоване природною мовою запитання з відповіддю «так» або «ні» та за один прохід повертає калібровану оцінку безпеки. Shieldstral створено на базі Ministral-3-3B-Base-2512, із вбудованим візуальним енкодером Pixtral, за ліцензією Apache 2.0.
За даними Mistral, середній показник F1 становить 84,9% для текстової безпеки та 83,8% для мультимодальної. У форматі BF16 модель працює на одному GPU та потребує 16GB відеопам’яті. Підтримуються vLLM, llama.cpp, SGLang і Transformers, а для донавчання — Axolotl.
Навчальні дані містили приблизно 54,1 мільйона прикладів: текстових, синтетичних контрастивних і мультимодальних. Безперервну оцінку можна порівнювати з порогом 0,5, передаючи сумнівні випадки на перевірку людині. Mistral вказує на нижчу надійність для арабських та індонезійських запитів, обфускованих або ворожих входів і дуже довгих документів. Контекст навчання становить 32k токенів для 12 мов.
Текст підготовлено ШІ Sakhanda Wire за матеріалом MarkTechPost. Факти, цитати та повний контекст — в оригінальній статті нижче.