Sakhanda Wire
NVDA $204.64 -4.22% MSFT $521.91 -1.55% GOOGL $279.84 -1.40% META $614.99 -1.53% AMZN $240.35 -1.41%
← К новостям

NVIDIA выпустила Auto Ontology: открытый семантический слой, обеспечивающий основу для SQL-запросов ИИ-агентов

NVIDIA выпустила Auto Ontology — открытую библиотеку под лицензией Apache 2.0. NVIDIA Auto Ontology — это фреймворк семантического слоя, который создает контекстный слой на основе корпоративных метаданных. Агенты используют этот слой для написания SQL-запросов на основе сертифицированных бизнес-определений. В репозитории проблема сформулирована предельно ясно: быстрый ответ о выручке бесполезен, если число неверно.

Кратко

  • Библиотека: LLM по умолчанию — nvidia/nemotron-3-nano-30b-a3b, а также модели Nemotron для создания эмбеддингов и ранжирования.
  • Запуск: Docker Compose для локального стека или Kubernetes через Helm. Для инференса используются размещенные конечные точки NVIDIA NIM или самостоятельно развернутые NIM.
  • Производительность: сильная инженерная реализация, но мало общедоступных доказательств.
  • Лучший результат: время создания онтологии сокращено на 90% в тестировании NVIDIA (по собственным данным компании).
  • Худший результат: опубликовано 0 показателей точности преобразования текста в SQL. Репозиторий для оценки содержит тестовый инструментарий, но не результаты.
  • Итог: открытый контекстный слой с поддержкой MCP, который может запрашивать любой агентский инструментарий. Но чтобы доверять ему, необходимо самостоятельно провести бенчмарки.

Что такое NVIDIA Auto Ontology?

Это контекстный слой, расположенный между агентом и хранилищем данных. Он сообщает агенту, где находятся данные и что означают поля. Он также указывает, следует ли использовать поле, как его использовать и откуда оно получено.

Вот пять основных задач:

  • Обнаружение: создание онтологий на основе метаданных и подключение существующих семантических моделей.
  • Привязка: предоставление агентам надежного смысла метрик, сущностей и связей.
  • Проверка: проверка сгенерированных запросов на соответствие сертифицированным определениям и происхождению данных.
  • Предоставление: доступ к контексту через MCP, CLI и API.
  • Обучение: внесение сертифицированных исправлений обратно в онтологию.

На странице для разработчиков NVIDIA называет результат исходной онтологией. Бизнес-экспертам по-прежнему необходимо тестировать, уточнять и сертифицировать ее.

Как работает Auto Ontology?

Стек состоит из 4 основных сервисов. Фронтенд на Next.js 16 отвечает за веб-интерфейс и аутентификацию на порту 3000. Бэкенд на FastAPI с LangChain запускает чат, преобразование естественного языка в SQL и API каталога на порту 3001. Рабочий процесс приема данных записывает эмбеддинги на порту 3002. Postgres с pgvector хранит каталог, онтологию и векторы.

Исходными базами данных могут быть Databricks, Postgres, Snowflake или DuckDB. Модели задаются через переменные окружения — «тройки» из конечной точки, ключа и модели. Для рассуждений, задач без рассуждений, создания эмбеддингов и ранжирования предусмотрены отдельные роли. Подойдет любая конечная точка, совместимая с OpenAI.

Что предоставляет MCP-сервер?

В документации MCP-сервера описаны 9 инструментов, доступных только для чтения. ask_question возвращает ответ, SQL-запрос и строки в виде отдельных полей. Результаты ограничены 100 строками. check_readiness подтверждает наличие скомпилированного семантического слоя и активного подключения к базе данных.

Инструмента для просмотра необработанных схем нет. NVIDIA намеренно выбрала такой подход, чтобы агенты обращались к данным через семантический слой. В базовой спецификации OpenAPI опубликовано 87 операций. Вход выполняется через OAuth, а каждый вызов использует разрешения вошедшего пользователя.

Как проводится оценка?

NVIDIA поставляет отдельный тестовый инструментарий — auto-ontology-eval. Он запускает 2 варианта в NeMo Gym: контрольную LLM, использующую только схему, и агента с онтологией. Оценка основана на детерминированном совпадении выполнения, без использования судьи-LLM.

В комплект наборов данных входят BIRD Dev (1 534 вопроса, 11 баз данных) и Mini-Dev (500 вопросов). FDABench-Lite добавляет 169 вопросов, а BEAVER по умолчанию использует выборку из 100 вопросов.

Репозиторий тестового инструментария указывает еще на 2 ограничения. Необязательные примеры few-shot и якоря значений передаются только варианту с онтологией. Измеряемая с их использованием разница учитывает эти входные данные, а не только заземление. В протестированной конфигурации оба варианта также направляются через модель Claude на инференс-шлюзе NVIDIA.

Как он сравнивается с другими семантическими слоями?

ФункцияNVIDIA Auto OntologyWren AICube Coredbt MetricFlow
ЛицензияApache 2.0Ядро Apache 2.0 (открытое ядро)Бэкенд Apache 2.0, клиент MITApache 2.0 (v0.209.0+)
Как создается слойГенерируется из метаданных, затем сертифицируетсяФайлы контекста с поддержкой агента в GitОпределяется в кодеОпределяется в коде в проекте dbt
Интерфейс агентаMCP, CLI, REST APIMCP, CLI, SDKSQL, REST, GraphQL APIБиблиотека Python и CLI
Источники данныхDatabricks, Postgres, Snowflake, DuckDB22+Все источники данных SQLЧерез адаптеры dbt
Модели по умолчаниюNemotron через NVIDIA NIMНе раскрытоНе применимоНе применимо

Развертывание и доступность

Для локальной настройки после заполнения .env выполните docker compose up -d --build. Пользователи Kubernetes получают Helm-чарт и руководство DEPLOYMENT.md. Команда NVIDIA также публикует бэкенд как контейнер NGC. Ключ API NVIDIA с сайта build.nvidia.com обеспечивает работу моделей по умолчанию.

Основные выводы

  • Auto Ontology создает исходный семантический слой на основе корпоративных метаданных.
  • Агенты запрашивают его через 9 MCP-инструментов, доступных только для чтения, а также через CLI и API.
  • NVIDIA сообщает о 90%-ном ускорении создания онтологии в собственном тестировании.
  • Показатели точности преобразования текста в SQL пока не опубликованы.
  • По умолчанию используются Nemotron в NIM, но поддерживается любая конечная точка, совместимая с OpenAI.

Ознакомьтесь с репозиторием на GitHub, тестовым инструментариями оценки и документацией MCP. Также подписывайтесь на нас в Twitter и не забудьте присоединиться к нашему сабреддиту о машинном обучении с более чем 150 тыс. участников и подписаться на нашу рассылку. Постойте! Вы есть в Telegram? теперь вы также можете присоединиться к нам в Telegram.

Хотите сотрудничать с нами для продвижения своего репозитория GitHub, страницы на Hugging Face, выпуска продукта, вебинара и т. д.? Свяжитесь с нами

Переведено автоматически с английского. Оригинал статьи — по ссылке ниже.

Впервые опубликовано изданием MarkTechPost

Читать оригинал на MarkTechPost ↗

Текст и изображения принадлежат MarkTechPost и приводятся здесь с указанием авторства и ссылкой на оригинальную публикацию.

← К новостям

Ещё новости

Все последние новости