Hugging Face описала моделі для структурованих рішень
Hugging Face опублікувала огляд моделей рішень — підходу для застосунків, яким потрібен структурований вибір, а не згенерований текст. Отримуючи стан, набір запитань і заздалегідь визначені відповіді, така модель повертає рішення разом із розподілами ймовірностей. У статті інтерфейс подано як «Стан + Запитання + Допустимі відповіді → Рішення + Ймовірності».
Публікація відрізняє моделі рішень від традиційної класифікації та класифікації без навчання на конкретних категоріях. У звичайного класифікатора класи закріплені заздалегідь, тоді як у zero-shot-підході кандидатні мітки можна передавати під час виконання. Моделі рішень підтримують кілька іменованих запитань і різні типи відповідей. Choice обирає один із варіантів, Score оцінює впорядковану шкалу через математичне сподівання розподілу, а Noul визначає ймовірність істинності твердження з відповіддю «так» або «ні».
У статті зазначено, що прямий вибір із відомих варіантів може усунути зайву авторегресійну генерацію та частину проблем зі схемою під час отримання JSON від LLM. Демонстрація використовує decision pipeline у Transformers і модель autotrust/GEV-26B-Decide для аналізу звернення клієнта. Для Choice і Score також може повертатися показник упевненості, що описує концентрацію прогнозованого розподілу.
Текст підготовлено ШІ Sakhanda Wire за матеріалом Hugging Face. Факти, цитати та повний контекст — в оригінальній статті нижче.