Box встроит Nvidia Nemotron в новую систему поиска для агентов

Компания Box представила Box Content Retrieval — функцию, которая добавляет систему эмбеддингов Nvidia Nemotron в основу ее продукта. Инструмент предназначен для того, чтобы программные агенты отвечали на запросы с помощью метаданных, созданных на основе документов, не просматривая каждый документ целиком. В Box считают, что такой подход сделает поиск быстрее, точнее и дешевле.

Кари Бриски, вице-президент Nvidia по программному обеспечению для генеративного ИИ, заявила, что ответы должны формироваться в четыре раза быстрее, при этом число ошибок сократится на 20%, а использование токенов — на 90%. Box планирует открыть функцию для всех клиентов Enterprise Advance в начале следующего года. Генеральный директор компании Аарон Леви сообщил, что система сможет возвращать фрагменты документов, наиболее соответствующие запросу пользователя или задаче агента.

В основе функции лежит проект Nvidia Nemotron Embed с моделями эмбеддингов с открытыми весами для автоматизированного извлечения данных. По словам Box, это может помочь юристам находить нужные положения и прецеденты даже при использовании другой формулировки. Для работы решение также опирается на существующие метаданные Box и механизмы управления разрешениями, поэтому его сложно воспроизвести отдельно.