Sakhanda Wire
NVDA $153.64 -1.60% MSFT $506.98 -2.13% GOOGL $279.95 -1.33% META $620.09 -1.01% AMZN $256.57 -0.46%
← Към новините

PAIR на Nvidia превръща домашната мрежа в AI клъстер

Nvidia представи PAIR, или Personal AI Router — инструмент с отворен код, който разпределя локални AI задачи между устройствата в домашна мрежа. Той застава между приложения като Ollama и LM Studio и компютрите, които ги изпълняват. Според описанието потребителите не трябва да променят своите агенти или приложения.

PAIR автоматично открива съвместимите устройства и насочва заявките към свободните машини, вместо да натоварва един GPU. След това събира резултатите и ги връща на приложението, отправило заявката. Поддържаният хардуер включва GeForce RTX от серия 20 нагоре, работни станции RTX Pro, DGX Spark и устройства с Apple silicon от M4 нататък. Обменът между машините е защитен с MTLS криптиране.

При демонстрация клъстер от три устройства е изпълнил задача с пет подагента за малко под девет минути, докато един лаптоп е изразходвал 18 минути. Бета версията е налична за Windows, macOS и Linux. PAIR е част от по-широкия стремеж на Nvidia да свърже софтуера за отворен AI със собствения си хардуер, включително чрез придобиването на Hugging Face за $12.9 милиарда.

Текстът е изготвен от ИИ на Sakhanda Wire по материал на The Decoder. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.

Първоначално публикувано от The Decoder на

Прочетете оригинала в The Decoder ↗

Репортажът и изображението принадлежат на The Decoder и са посочени по-горе с връзка към оригинала; текстът на тази страница е собствено изложение на Sakhanda Wire.

← Към новините

Още новини

Всички последни новини