Открытая модель упрощает прогнозирование по табличным данным
NVIDIA выпустила Kumo Tabular — открытую базовую модель для классификации и регрессии на табличных данных. Она доступна через Hugging Face: модель получает строки с известными метками в качестве контекста и за один прямой проход прогнозирует метки новых строк. Для конкретной задачи не требуются дополнительное обучение, настройка гиперпараметров или разработка признаков. Доступны три варианта размером от 28M до 215M параметров; лицензия OpenMDW-1.1 разрешает коммерческое использование.
Kumo Tabular построена на Transformer и использует внимание к столбцам, строкам и контексту. Предобучение проходило только на процедурно созданных таблицах, в которые добавлялись пропуски, категориальные признаки, выбросы и другие особенности реальных данных. NVIDIA обучала отдельные версии для классификации и регрессии и сообщает, что крупнейшая модель увидела около 137 миллионов искусственных таблиц.
В тестах NVIDIA модель заняла первое место в TabArena, BeyondArena, TALENT и ScoringBench. В TabArena она получила общий ELO 1950. Модель напрямую поддерживает числовые и категориальные столбцы, тогда как текст, изображения и временные метки требуют предварительной обработки. NVIDIA отмечает, что точность может снижаться за пределами обучающих диапазонов или при различии распределений контекстных и запрашиваемых строк.
Текст подготовлен ИИ Sakhanda Wire по материалу Hugging Face. Факты, цитаты и полный контекст — в оригинальной статье ниже.