Відкрита модель спрощує прогнозування за табличними даними
NVIDIA представила Kumo Tabular — відкриту базову модель для класифікації та регресії на табличних даних. Вона доступна через Hugging Face: модель отримує рядки з відомими мітками як контекст і за один прямий прохід прогнозує мітки нових рядків. Для окремого завдання не потрібні додаткове навчання, налаштування чи розроблення ознак. Модель випускається у трьох варіантах розміром від 28M до 215M параметрів, а ліцензія OpenMDW-1.1 дозволяє комерційне використання.
Kumo Tabular побудована на Transformer і використовує увагу до стовпців, рядків та контексту. Її попередньо навчали лише на процедурно згенерованих таблицях, що містили пропущені значення, категоріальні ознаки, викиди та інші недосконалості реальних даних. NVIDIA навчала окремі моделі для класифікації й регресії та повідомляє, що найбільша версія обробила близько 137 мільйонів штучних таблиць.
За оцінками NVIDIA, модель посіла перше місце в TabArena, BeyondArena, TALENT і ScoringBench. У TabArena вона отримала загальний ELO 1950. Kumo Tabular безпосередньо працює з числовими та категоріальними стовпцями, тоді як текст, зображення й часові позначки потребують попередньої обробки. NVIDIA застерігає, що точність може знижуватися за межами навчальних діапазонів або за різного розподілу контекстних і запитуваних рядків.
Текст підготовлено ШІ Sakhanda Wire за матеріалом Hugging Face. Факти, цитати та повний контекст — в оригінальній статті нижче.