PAIR від Nvidia об’єднує домашні пристрої для локального ШІ
Nvidia представила PAIR, або Personal AI Router, — інструмент із відкритим кодом для розподілу локальних запитів до ШІ між пристроями в домашній мережі. Він працює між застосунками на кшталт Ollama чи LM Studio та підключеними комп’ютерами, тому користувачам не потрібно змінювати своїх агентів або застосунки.
PAIR автоматично виявляє сумісні пристрої й пересилає завдання на вільні машини, не перевантажуючи один графічний процесор. Після цього система об’єднує результати та повертає їх застосунку, який надіслав запит. Підтримуються GeForce RTX 20-ї серії та новіші, робочі станції RTX Pro, DGX Spark і пристрої з Apple silicon, починаючи з M4. Передавання даних між машинами захищене шифруванням MTLS.
Під час демонстрації кластер із трьох пристроїв виконав завдання з п’ятьма субагентами трохи менш ніж за дев’ять хвилин, тоді як одному ноутбуку знадобилося 18 хвилин. Бета-версія доступна для Windows, macOS і Linux. PAIR є частиною ширшої стратегії Nvidia, спрямованої на тісніше поєднання відкритого ШІ з її апаратним забезпеченням, зокрема через придбання Hugging Face за $12.9 мільярда.
Текст підготовлено ШІ Sakhanda Wire за матеріалом The Decoder. Факти, цитати та повний контекст — в оригінальній статті нижче.