PAIR на Nvidia превръща домашната мрежа в AI клъстер
Nvidia представи PAIR, или Personal AI Router — инструмент с отворен код, който разпределя локални AI задачи между устройствата в домашна мрежа. Той застава между приложения като Ollama и LM Studio и компютрите, които ги изпълняват. Според описанието потребителите не трябва да променят своите агенти или приложения.
PAIR автоматично открива съвместимите устройства и насочва заявките към свободните машини, вместо да натоварва един GPU. След това събира резултатите и ги връща на приложението, отправило заявката. Поддържаният хардуер включва GeForce RTX от серия 20 нагоре, работни станции RTX Pro, DGX Spark и устройства с Apple silicon от M4 нататък. Обменът между машините е защитен с MTLS криптиране.
При демонстрация клъстер от три устройства е изпълнил задача с пет подагента за малко под девет минути, докато един лаптоп е изразходвал 18 минути. Бета версията е налична за Windows, macOS и Linux. PAIR е част от по-широкия стремеж на Nvidia да свърже софтуера за отворен AI със собствения си хардуер, включително чрез придобиването на Hugging Face за $12.9 милиарда.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на The Decoder. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.