Prior Labs выпустила TabPFN-3.5 для табличных данных
Prior Labs выпустила TabPFN-3.5 — foundation-модель для табличных данных, которая формирует прогноз за один forward pass, без отдельного обучения и настройки под каждый набор. Компания сообщает о первых местах в семи табличных бенчмарках. В отдельной демонстрации на соревновании Otto модель получила log loss 0,375 на приватном лидерборде, превзойдя результат 0,382 победившего решения Kaggle 2015 года, созданного Gilberto Titericz и Stanislav Semenov. На исходных данных и с настройками по умолчанию запуск занял около минуты на RTX PRO 6000. При предварительном обучении модель не использовала Otto или другие датасеты Kaggle.
В соревновании Otto товары распределялись по девяти категориям на основе 93 скрытых признаков-счётчиков. Победившее решение объединяло 36 моделей и признаки, созданные вручную. На TabArena, включающем 51 набор данных, версия TabPFN-3.5-Thinking набирает 1910 Elo, а базовая модель — 1866. По данным Prior Labs, модель также лидирует в общем зачёте BeyondArena, хотя на некоторых срезах её опережают настроенные ансамбли MLP.
Базовая версия содержит 220 млн параметров против 53 млн у TabPFN-3 и использует обучаемые Fourier-признаки и контекстные ECDF-ранги. Открытые веса доступны для исследований, оценки и Kaggle, но коммерческое использование в продуктивной среде требует API или лицензии.
Текст подготовлен ИИ Sakhanda Wire по материалу MarkTechPost. Факты, цитаты и полный контекст — в оригинальной статье ниже.