Sakhanda Wire
NVDA $153.32 -1.81% MSFT $505.84 -2.35% GOOGL $280.31 -1.20% META $621.44 -0.79% AMZN $257.31 -0.17%
← Към новините

NVIDIA пусна отворен рутер за локални AI задачи

NVIDIA представи Personal AI Router (PAIR) — виртуален рутер за инференция, който разпределя независими локални AI заявки между съвместими компютри в домашна мрежа. Публичната бета версия 0.1.1 се предлага с подписани инсталатори за Windows, macOS и Linux, а изходният код е публикуван под лиценза Apache 2.0. Интернет е необходим единствено за изтегляне на модели.

PAIR не е нов инференционен енджин и не обединява хардуера в един ускорител. Той проксира съвместими с Ollama и LM Studio интерфейси, така че съществуващите инструменти за агенти да не изискват промени. Софтуерът открива системите чрез mDNS, допуска добавяне по IP адрес и използва шестцифрен PIN за сдвояване. След това трафикът между възлите се защитава с взаимно удостоверяване чрез генерирани сертификати.

Всяка заявка се изпълнява на един допустим възел през целия си жизнен цикъл. Изборът зависи от активния енджин, наличието на точния модел, текущото натоварване и използването на GPU. В демонстрация на NVIDIA с Hermes Desktop пет подагента и Qwen 3.6 35B A3B са работили средно 18 минути на един RTX Spark лаптоп и 8 минути и 48 секунди на конфигурация с лаптопа, DGX Spark и RTX 5090. NVIDIA определя тези резултати като неофициални.

Текстът е изготвен от ИИ на Sakhanda Wire по материал на MarkTechPost. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.

Първоначално публикувано от MarkTechPost на

Прочетете оригинала в MarkTechPost ↗

Репортажът и изображението принадлежат на MarkTechPost и са посочени по-горе с връзка към оригинала; текстът на тази страница е собствено изложение на Sakhanda Wire.

← Към новините

Още новини

Всички последни новини