NVIDIA пусна отворен рутер за локални AI задачи
NVIDIA представи Personal AI Router (PAIR) — виртуален рутер за инференция, който разпределя независими локални AI заявки между съвместими компютри в домашна мрежа. Публичната бета версия 0.1.1 се предлага с подписани инсталатори за Windows, macOS и Linux, а изходният код е публикуван под лиценза Apache 2.0. Интернет е необходим единствено за изтегляне на модели.
PAIR не е нов инференционен енджин и не обединява хардуера в един ускорител. Той проксира съвместими с Ollama и LM Studio интерфейси, така че съществуващите инструменти за агенти да не изискват промени. Софтуерът открива системите чрез mDNS, допуска добавяне по IP адрес и използва шестцифрен PIN за сдвояване. След това трафикът между възлите се защитава с взаимно удостоверяване чрез генерирани сертификати.
Всяка заявка се изпълнява на един допустим възел през целия си жизнен цикъл. Изборът зависи от активния енджин, наличието на точния модел, текущото натоварване и използването на GPU. В демонстрация на NVIDIA с Hermes Desktop пет подагента и Qwen 3.6 35B A3B са работили средно 18 минути на един RTX Spark лаптоп и 8 минути и 48 секунди на конфигурация с лаптопа, DGX Spark и RTX 5090. NVIDIA определя тези резултати като неофициални.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на MarkTechPost. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.