Box інтегрує Nvidia Nemotron у нову систему пошуку для агентів

Компанія Box представила Box Content Retrieval — функцію, що вбудовує систему ембедингів Nvidia Nemotron в основу її продукту. Інструмент має допомагати програмним агентам відповідати на запити за допомогою метаданих, створених на основі документів, без повного опрацювання кожного документа. У Box зазначають, що це може зробити пошук швидшим, точнішим і дешевшим.

Карі Бріскі, віцепрезидентка Nvidia із програмного забезпечення для генеративного ШІ, заявила, що відповіді очікуються в чотири рази швидше, кількість помилок зменшиться на 20%, а використання токенів — на 90%. Box планує зробити функцію доступною для всіх клієнтів Enterprise Advance на початку наступного року. Генеральний директор компанії Аарон Леві сказав, що система повертатиме фрагменти документів, найбільш релевантні запиту або завданню агента.

Функція базується на проєкті Nvidia Nemotron Embed, який пропонує моделі ембедингів із відкритими вагами для автоматизованого пошуку. За даними Box, це може допомогти юристам знаходити потрібні положення та прецеденти навіть за іншого формулювання запиту. Рішення також значною мірою використовує наявні метадані Box і засоби керування дозволами, тому його складно відтворити окремо.