PAIR от Nvidia объединяет домашние устройства для локального ИИ
Nvidia представила PAIR, или Personal AI Router, — инструмент с открытым исходным кодом для распределения локальных ИИ-запросов между устройствами в домашней сети. Он работает между приложениями вроде Ollama или LM Studio и подключенными компьютерами, поэтому пользователям не требуется менять свои агенты или приложения.
PAIR автоматически обнаруживает совместимые устройства и направляет задачи на свободные машины, не перегружая один графический процессор. Затем система объединяет полученные результаты и передает их приложению, отправившему запрос. В список поддерживаемого оборудования входят GeForce RTX серии 20 и новее, рабочие станции RTX Pro, DGX Spark и устройства на Apple silicon начиная с M4. Обмен данными защищается шифрованием MTLS.
В демонстрации кластер из трех устройств выполнил задачу с пятью субагентами чуть менее чем за девять минут, тогда как одному ноутбуку потребовалось 18 минут. Бета-версия доступна для Windows, macOS и Linux. PAIR соответствует более широкой стратегии Nvidia по сближению открытого ИИ с собственным оборудованием, частью которой также стало приобретение Hugging Face за $12.9 миллиарда.
Текст подготовлен ИИ Sakhanda Wire по материалу The Decoder. Факты, цитаты и полный контекст — в оригинальной статье ниже.