NVIDIA Kumo Relational превъзхожда машинното обучение с учител при релационни данни, без необходимост от обучение
Накратко
NVIDIA Kumo Relational е предварително обучен релационен фундаментен модел, който прави прогнози директно върху корпоративни бази данни. При зададена прогностична заявка той събира до 10 000 исторически примера като контекст и прогнозира резултати като отлив на клиенти, търсене или измами с едно единствено предно преминаване. Не са необходими обучение за конкретната задача, инженеринг на признаци или преобразуване на таблиците в плосък формат. Kumo Relational е първият фундаментен модел с обучение от няколко примера, който превъзхожда машинното обучение с учител върху широко използвани релационни бенчмаркове. При 41 задачи в 15 бази данни той превъзхожда релационните модели за дълбоко обучение с учител и конвейерите с градиентно усилени дървета, проектирани от експерти, а в корпоративния бенчмарк SAP SALT надминава ансамблите на AutoGluon с 8% по среден реципрочен ранг (MRR). Мащабира се до бази данни с над 500 милиарда реда и работи както за хора, така и за агенти — чрез библиотеката на NVIDIA с отворен код и нативна за GPU поддръжка за модели на структурирани данни или като NVIDIA NIM.
- Статия: https://arxiv.org/abs/2604.12596
- Документация: https://docs.nvidia.com/sdgm/rfm/overview
Преходът към фундаментални модели за структурирани данни
Фундаменталните модели вече промениха из основи подхода към езика и компютърното зрение. Неотдавна производственият NLP означаваше отделен модел за всяка задача, като всеки модел използваше собствен конвейер за токенизация, лематизация и n-грами. Големите езикови модели направиха този стек до голяма степен остарял по три причини: бяха по-точни от най-добрите модели, предназначени за конкретни задачи, много по-лесни за внедряване в производство и достатъчно гъвкави, за да открият нова ера на агентно-базирани приложения.
Същата промяна сега се случва и при структурираните данни. Релационните бази данни захранват най-критичните бизнес решения в света, но прогностичното моделиране върху тях все още изисква седмици инженеринг на признаци, обучение за конкретната задача и оптимизирани конвейери. Фундаменталните модели за структурирани данни променят това по същите три причини:
По-добра точност още днес: Като директни заместители тези модели вече превъзхождат много производствени конвейери, особено XGBoost. При задачите за класификация от RelBench V1 Kumo Relational превъзхожда градиентно усилените дървета с проектирани от експерти признаци средно с почти 4 точки AUROC. В SAP SALT той превъзхожда XGBoost с инженерно създадени признаци със 7 точки MRR още при директна употреба и с 13 точки MRR след дообучаване. Тези резултати са убедителен аргумент за замяна на производствените конвейери с XGBoost с Kumo Relational.
Простота и гъвкавост: Един предварително обучен модел заменя отделните конвейери за индивидуални задачи. Новата прогноза се превръща в заявка, а не в проект, така че екипите по машинно обучение най-накрая могат да поемат случаи на употреба, чието изграждане с традиционно машинно обучение би било твърде трудоемко на всяко ниво в организацията.
Агенти, които могат да прогнозират: Големите езикови модели позволяват на агентите да четат, пишат и разсъждават. Фундаменталните модели за структурирани данни им позволяват да предвиждат какво ще се случи след това — например кой клиент ще се откаже — и да действат въз основа на това. Kumo Relational вече е създаден за извикване от агенти, а неговият език за прогностични заявки (PQL) им предоставя прост интерфейс за задаване на прогностични въпроси.
Днес представяме Kumo Relational (статия, документация) — предварително обучен фундаментен модел, който пренася тази парадигма към релационните данни. Свържете база данни, опишете какво искате да прогнозирате и получете прогнози с едно предно преминаване. Не е необходимо обучение.
Как работи Kumo Relational
Повечето фундаментални модели за структурирани данни работят върху една плоска таблица. Данните от реалния свят обаче се намират в релационни бази данни: потребители, свързани с поръчки, свързани с продукти, като всички те се променят с времето. Преобразуването на тези връзки в един ред чрез ръчно агрегиране (напр. „средна стойност на поръчките през последните 30 дни“) губи детайлни структурни сигнали и изисква значителни човешки усилия.
Kumo Relational е релационен фундаментен модел, който работи директно с базата данни, като запазва нейните таблици, външни ключове и времеви отметки. Той се обучава предварително веднъж върху синтетични релационни данни, отразяващи набори от данни от реалния свят, и се адаптира към всяка нова задача чрез обучение в контекста, като чете до 10 000 контекстни примера по време на извеждането. Всеки пример свързва локален подграф около дадена същност в определен момент с действителната цел (напр. „този потребител се отказа“ или „този артикул е продал 142 единици“).
![Преглед на системата NVIDIA Kumo Relational: (a) интеграция с база данни, (b) интерфейс за подсказки, който преобразува естествения език в прогностична заявка, и (c) автоматично генериране на контекст, подаващо данни към модела NVIDIA Kumo Relational, който се мащабира хоризонтално между клиентите.]
Фигура 1. Преглед на системата Kumo Relational. Свържете база данни, задайте прогностична заявка и Kumo Relational ще поеме всичко останало — от генерирането на контекста до извеждането от модела.
За да направи прогноза, Kumo Relational трябва да извърши три неща: (1) да разбере стойностите във всяка таблица, (2) да свърже записите между таблиците и (3) да свърже контекстните примери с известни цели със същността, за която се прави прогнозата. Ето как работи:
![Архитектура на Kumo Relational: (a) входен контекст със задачи и таблици за потребители, поръчки и артикули; (b) внимание към колоните и редовете в таблиците с добавени цели на контекста; (c) графово внимание и внимание между извадките в таблиците.]
Фигура 2. Архитектура на Kumo Relational: (a) входен контекст, (b) разсъждение в таблиците, (c) разсъждение между таблиците.
Автоматично генериране на контекст: Задачите се записват на езика за прогностични заявки (PQL) — декларативен интерфейс, в който посочвате какво да бъде прогнозирано, а не как. При времеви задачи Kumo Relational възпроизвежда историческите състояния на базата данни: той изважда подграфи, центрирани върху същността, до момент на фиксиране, и изчислява всяка цел въз основа на събитията след този момент, като подава към модела само данните отпреди него. Това предотвратява изтичането на данни.
Разсъждение в таблиците: Лека мрежа обработва всяка таблица независимо, като редува внимание към колоните (свързване на стойностите в дадена колона) и внимание към редовете (свързване на признаците в даден ред). Моделът научава кои колони и редове са важни за текущата прогноза и филтрира шума, преди да го разпространи.
Разсъждение между таблиците: По-голяма мрежа разпределя векторните представяния на редовете през релационната структура чрез графово внимание върху връзките първичен ключ/външен ключ, редувайки го с внимание между извадките в контекстните примери. Именно тук се извършва релационното разсъждение — например свързване на профила на потребителя с историята на транзакциите му. Тъй като този етап работи с векторните представяния на редовете, а не с всяка клетка във всяка таблица, архитектурата избягва квадратичната цена и се мащабира до големи контексти и по-дълбоки подграфи.
Как е изграден Kumo Relational
Kumo Relational е предварително обучен изцяло върху синтетични релационни данни, симулирани така, че да отразяват реални релационни бази данни с разнообразни прогностични заявки. Предварителното обучение протича на етапи — от отделни таблици до все по-сложни релационни структури.
Разнообразните релационни бази данни, необходими за предварителното обучение, рядко са публични, затова синтетичните данни запълват тази празнина. Генераторът на Kumo Relational се основава на подхода на PluRel (Kothapalli и др., ICML 2026), който разширява генераторите на данни за отделни таблици до цели релационни бази данни. Членове на екипа на Kumo са помогнали за разработването на PluRel и са съавтори на оригиналната статия. PluRel генерира всяка база данни на три етапа: схема, връзки с външни ключове между редовете, които се групират както в реалните данни, и стойности на колоните от структурни причинно-следствени модели с времеви тенденции и зависимости между таблиците. Генерирането е леко, така че данните за предварително обучение са практически неограничени, а статията за PluRel показва, че загубата при предварителното обучение следва степенен закон с добавянето на синтетични бази данни, като ползите се пренасят и към реални бази данни.
Чрез това предварително обучение моделът се научава да филтрира, съпоставя и агрегира информация между таблиците, вместо да разчита на фиксирани агрегации. Когато максималната точност е от значение, Kumo Relational може също да бъде дообучен върху конкретен набор от данни и задача.
Производителност
В тази статия оценихме Kumo Relational върху 41 бенчмарка в 15 релационни бази данни от RelBench V1 и V2, SAP SALT и 4DBInfer, обхващащи областите електронна търговия, медицина, корпоративен сектор, социални мрежи и академични изследвания. Нито един от тези набори от данни не е бил използван при предварителното обучение. Kumo Relational превъзхожда най-силните модели с учител както при класификацията, така и при регресията, включително моделите за релационно дълбоко обучение и табличните ансамбли с признаци, проектирани от експерти. В класацията RelArena-α, която сравнява релационни модели и системи върху RelBench V1, той също заема фронта на Парето за точност и ефективност още при директна употреба:
![Точкова графика на класацията RelArena-α: относителната точност като Elo между задачите (ос y) спрямо медианното време за извеждане на 1000 извадки (ос x, логаритмична скала). Kumo Relational се намира на фронта на Парето при около 17 секунди и Elo 1842. Най-високо оцененият участник, rt-plurel, достига Elo 1878 при около 7300 секунди, което е приблизително 430 пъти по-бавно. Всеки друг фундаментен модел, система за инженеринг на признаци и модел с учител получава по-ниска оценка и работи по-бавно от Kumo Relational.]
Фигура 3. Класация RelArena-α: Elo между задачите спрямо медианното време за извеждане на 1000 извадки (логаритмична скала). Kumo Relational е около 430 пъти по-бърз от най-високо оценения участник при сходна точност.
В статията се съобщава също, че в корпоративния бенчмарк SAP SALT Kumo Relational надминава големите ансамбли на AutoGluon с 8% по среден реципрочен ранг (MRR) и последните фундаментални модели за таблични данни с около 25%, а дообучаването увеличава преднината му пред AutoGluon до 16%. Той се представя добре и при трудни условия: работи добре дори когато контекстът съдържа едва 0,2% от данните за обучение, остава стабилен при премахване на до 75% от връзките с външни ключове и почти не се влошава при добавяне на множество шумни колони.
Ограничения
Kumo Relational работи най-добре с данни, съдържащи значими връзки и времева динамика, като например поведението на потребителите във времето. При задачи с много големи набори за обучение специфичните за задачата модели с учител все още могат да изпреварят прогнозите в контекста, като в нашите бенчмаркове са използвани най-много 10 000 контекстни примера. Именно за този случай е предназначено дообучаването на фундаментния модел. Прогностичните сигнали също трябва да са достижими в ограничен брой преходи, затова започнете с фокусирана заявка върху няколко подходящи таблици и разширявайте графа при необходимост.
Демонстрация
Kumo Relational изпълнява обучение в контекста нативно върху бази данни: в паметта, чрез конектори към бази данни и складове или чрез персонализиран графов механизъм, който обработва над 500 милиарда реда посредством входно-изходни операции с паметово съпоставяне със скорост до 5 GB/s. Той е наличен в новата библиотека на NVIDIA с нативна за GPU поддръжка за модели на структурирани данни — същата библиотека с отворен код, която захранва сродния ни модел Kumo Tabular. При първата употреба библиотеката изтегля теглата от Hugging Face Hub, така че можете да заредите модела в бележник с GPU и да правите прогнози директно от него. Кодът по-долу подава към модела контекстни примери, същностите за прогнозиране и свързаните с тях таблици:
import sdm
model = sdm.models.KumoRelational(device="cuda")
pred = model(
x_context=...,
y_context=...,
x_query=...,
related_context_tables=...,
related_query_tables=...,
)
Вижте релационните примери на библиотеката за цялостни конвейери за RelBench и SAP SALT, включително как да се извадят свързаните таблици на всяка същност.
За да стартирате модела като отделна услуга, вместо това го внедрете като NVIDIA NIM и насочете клиента с отворен код structured-data-models-client към него от своя бележник. Записвате прогнозата в PQL, а клиентът събира контекстните примери и свързаните таблици, след което изпраща заявката:
import sdm_client
client = sdm_client.SDMClient(url="http://localhost:8001")
query = sdm_client.PredictiveQuery(
"PREDICT COUNT(orders.*, 0, 30, days) FOR EACH users.user_id",
{"users": ..., "orders": ...},
)
pred = client.predict(
query.materialize(indices=[1, 2, 3]),
model=sdm_client.KumoRelational(),
)
Вижте примерните бележници на клиента за изпълнение от край до край спрямо локален NIM и в Databricks.
Започнете да разработвате с NVIDIA Kumo Relational
NVIDIA Kumo Relational е наличен още днес. Прочетете научната статия, разгледайте бележника за бърз старт или започнете да правите прогнози върху собствените си данни. Кодът е публикуван съгласно лиценза Apache 2.0, а теглата на модела — съгласно Лицензионното споразумение OpenMDW, версия 1.1. NVIDIA вярва, че надеждният изкуствен интелект е споделена отговорност и е установила политики и практики, които позволяват разработването на широк спектър от приложения с изкуствен интелект. Когато моделът се изтегля или използва в съответствие с нашите условия за ползване, разработчиците трябва да работят със своя екип за поддръжка на модела, за да гарантират, че той отговаря на изискванията за съответната индустрия и случай на употреба и предотвратява непредвидена злоупотреба с продукта. Сигнали за качеството на модела, рискове, уязвимости в сигурността или проблеми, свързани с NVIDIA AI, можете да подадете тук.
- Статия: https://arxiv.org/abs/2604.12596
- Документация: https://docs.nvidia.com/sdgm/rfm/overview
- Код: https://github.com/NVIDIA/structured-data-models
- PyPI: https://pypi.org/project/structured-data-models/
- Код на клиента: https://github.com/NVIDIA/structured-data-models-client
- PyPI на клиента: https://pypi.org/project/structured-data-models-client/
- Тегла: https://huggingface.co/nvidia/Kumo-Relational
- Бележник за бърз старт: https://github.com/NVIDIA/structured-data-models-client/blob/main/examples/local/relational.ipynb
- Свързани изследвания: Език за прогностични заявки (PQL), PluRel, Kumo Tabular
Благодарности
Благодарим на целия екип на Kumo за безценната му подкрепа. Специални благодарности на Josh Przybylko, Adi Wadaskar, Hema Raghavan, Manush Murali, Raja Rao DV, Keti Jovanovska, Zack Drach, Vanja Josifovski, Myungwhan Kim, Blaž Stojanovič, Siyang Xie, Alan Krumholz, Effy Fang, Abdullah Al-chihabi, Disha Dubey, Devan Johnson, Joseph Oliveira, Angela Liu, Miha Pelko, Vedaant Jain, Sally Liu, Aleksandar S. Sokolovski, Alex Porter и Ramona Bendias.
Общност
· Регистрирайте се или влезте, за да коментирате
Преведено автоматично от английски. Оригиналната статия е на връзката по-долу.

