Sakhanda Wire
NVDA $153.64 -1.60% MSFT $506.98 -2.13% GOOGL $279.95 -1.33% META $620.09 -1.01% AMZN $256.57 -0.46%
← К новостям

PAIR от Nvidia объединяет домашние устройства для локального ИИ

Nvidia представила PAIR, или Personal AI Router, — инструмент с открытым исходным кодом для распределения локальных ИИ-запросов между устройствами в домашней сети. Он работает между приложениями вроде Ollama или LM Studio и подключенными компьютерами, поэтому пользователям не требуется менять свои агенты или приложения.

PAIR автоматически обнаруживает совместимые устройства и направляет задачи на свободные машины, не перегружая один графический процессор. Затем система объединяет полученные результаты и передает их приложению, отправившему запрос. В список поддерживаемого оборудования входят GeForce RTX серии 20 и новее, рабочие станции RTX Pro, DGX Spark и устройства на Apple silicon начиная с M4. Обмен данными защищается шифрованием MTLS.

В демонстрации кластер из трех устройств выполнил задачу с пятью субагентами чуть менее чем за девять минут, тогда как одному ноутбуку потребовалось 18 минут. Бета-версия доступна для Windows, macOS и Linux. PAIR соответствует более широкой стратегии Nvidia по сближению открытого ИИ с собственным оборудованием, частью которой также стало приобретение Hugging Face за $12.9 миллиарда.

Текст подготовлен ИИ Sakhanda Wire по материалу The Decoder. Факты, цитаты и полный контекст — в оригинальной статье ниже.

Впервые опубликовано изданием The Decoder

Читать оригинал на The Decoder ↗

Репортаж и изображение принадлежат The Decoder и указаны выше со ссылкой на оригинал; текст на этой странице — собственное изложение Sakhanda Wire.

← К новостям

Ещё новости

Все последние новости