Sakhanda Wire
NVDA $153.64 -1.60% MSFT $506.98 -2.13% GOOGL $279.95 -1.33% META $620.09 -1.01% AMZN $256.57 -0.46%
← До новин

PAIR від Nvidia об’єднує домашні пристрої для локального ШІ

Nvidia представила PAIR, або Personal AI Router, — інструмент із відкритим кодом для розподілу локальних запитів до ШІ між пристроями в домашній мережі. Він працює між застосунками на кшталт Ollama чи LM Studio та підключеними комп’ютерами, тому користувачам не потрібно змінювати своїх агентів або застосунки.

PAIR автоматично виявляє сумісні пристрої й пересилає завдання на вільні машини, не перевантажуючи один графічний процесор. Після цього система об’єднує результати та повертає їх застосунку, який надіслав запит. Підтримуються GeForce RTX 20-ї серії та новіші, робочі станції RTX Pro, DGX Spark і пристрої з Apple silicon, починаючи з M4. Передавання даних між машинами захищене шифруванням MTLS.

Під час демонстрації кластер із трьох пристроїв виконав завдання з п’ятьма субагентами трохи менш ніж за дев’ять хвилин, тоді як одному ноутбуку знадобилося 18 хвилин. Бета-версія доступна для Windows, macOS і Linux. PAIR є частиною ширшої стратегії Nvidia, спрямованої на тісніше поєднання відкритого ШІ з її апаратним забезпеченням, зокрема через придбання Hugging Face за $12.9 мільярда.

Текст підготовлено ШІ Sakhanda Wire за матеріалом The Decoder. Факти, цитати та повний контекст — в оригінальній статті нижче.

Вперше опубліковано виданням The Decoder

Читати оригінал на The Decoder ↗

Репортаж і зображення належать The Decoder і зазначені вище з посиланням на оригінал; текст на цій сторінці — власний виклад Sakhanda Wire.

← До новин

Ще новини

Усі останні новини