Sakhanda Wire
NVDA MSFT GOOGL META AMZN
← К новостям

Perplexity выпускает Portable Computer на базе NVIDIA DGX Spark: локальный инструментарий, песочница под контролем ОС и нулевая стоимость токенов для локальных шагов

Perplexity выпустила Portable Computer — локальную версию своей агентной платформы Computer, ориентированную прежде всего на работу на устройстве. Она запускает агентский контур, оркестратор, планировщик, маршрутизатор инструментов и дообученные модели непосредственно на NVIDIA DGX Spark. Локальная модель, движок инференса, песочница инструментов и коннекторы приложений поставляются как единая упакованная система; каждая задача начинается на устройстве, а работа, выполняемая локальными моделями, не тарифицируется по количеству токенов. Когда этап требует доступа к актуальному вебу или передовых рассуждений, оркестратор останавливается и запрашивает разрешение, прежде чем отправить этот отдельный этап одной из более чем 15 облачных моделей.

Можно ли развернуть систему?

Да, но с жёстким требованием к оборудованию. Это уже поставляемое программное обеспечение, а не предварительная версия, однако для него требуется устройство класса GB10 или RTX GPU с 24 ГБ видеопамяти, установленный под рабочим столом.

  • Уровень компаний: Предприятия и компании среднего рынка, уже владеющие рабочими станциями NVIDIA, а также хорошо финансируемые стартапы, изначально ориентированные на ИИ. Для обычных малых и средних предприятий решение не подходит — машина является входным условием.
  • Отрасли: Финансы, юриспруденция, здравоохранение, государственный сектор и оборона, а также инженерные отрасли с большим объёмом интеллектуальной собственности — везде, где требования к размещению данных или договорная конфиденциальность блокируют облачный инференс.
  • Применения: Проверка комиссий и раскрытия информации по наборам документов, исследования с ограничением обработки персональных данных, миграции на уровне репозиториев, пакетное реферирование локальных корпусов данных и сортировка PR с последующим завершением в Slack.

Что именно работает на устройстве

Portable Computer — это не локальное чат-приложение с выбором файлов. Perplexity объединяет локальную модель, движок инференса, агентский контур, песочницу инструментов и коннекторы приложений в одну систему, устраняя необходимость самостоятельно разворачивать сервер инференса и вручную подключать инструменты. Пользователи могут выбрать Qwen 3.8 27B или PPLX 27B — дообученную Perplexity версию, оптимизированную для собственного агентского контура. NVIDIA Nemotron 3.5 Lightning, открытая MoE-модель с 30 млрд параметров, указана как готовящаяся к выпуску. Также поддерживается использование собственной модели и сервера инференса.

Вызовы кода и инструментов выполняются внутри песочницы, контролируемой операционной системой, которая ограничивает процессы, пути файловой системы и сетевой доступ. Если песочница недоступна, выполнение инструментов отключается, а не переводится незаметно в менее защищённый режим. Коннекторы Gmail, Outlook, Slack и GitHub проходят через локальный оркестратор.

Главное проектное решение — шлюз эскалации

Локальный подход не означает работу исключительно локально. Когда этап требует доступа к актуальному вебу или передовых рассуждений, оркестратор останавливается и запрашивает разрешение. Перед любым вызовом агентский контур выбирает релевантный контекст, запускает на нём классификатор персональных данных и показывает пользователю, какие именно данные покинут устройство. Одобренный этап направляется одной из более чем 15 облачных моделей; удалённый консультант возвращает текстовые рекомендации и никогда не получает прямого доступа к локальным файлам, инструментам или диалогу.

Perplexity также оптимизировала систему с учётом ограничений контекстного окна небольших моделей. Qwen 3.8 27B заявляет окно в 260 тыс. токенов, но после примерно 100 тыс. качество снижается, поэтому агентский контур сохраняет системный промпт и набор инструментов небольшими, загружает специализированные навыки по запросу, представляет коннекторы в виде компактных CLI-инструментов вместо полноценных определений MCP и уплотняет устаревший контекст во время выполнения.

Бенчмарки

В рамках своего теста из 53 задач Local Knowledge Work Bench, охватывающего глубокие исследования, финансовый анализ и создание документов и, по словам Perplexity, предназначенного для публикации в открытом доступе, Computer с моделью Qwen 3.8 27B на DGX Spark набрал 82,6% против 77,6% у открытого агентского контура Pi и 74,0% у Hermes на той же модели. PPLX 27B повысила результат до 85,4%.

В тесте BrowseComp Computer набрал 66,7% против 50,2% у Pi и 43,9% у Hermes, затратив на 51% меньше времени и на 70% меньше токенов, чем Pi. В тесте ParseBench-100 на визуальное понимание документов результат составил 65,1% против 34,6% и 13,9%.

Наиболее показателен гибридный результат. В Terminal Bench 2.1 полностью локальный запуск набрал 59,6% при практически нулевой предельной стоимости; эскалация к консультанту повысила результат до 73,0% при стоимости около 0,415 доллара за запуск по сравнению с 82,4% при стоимости около 0,65 доллара у одного лишь Claude Opus 5. Эскалация сокращает разрыв с передовыми моделями, но не устраняет его.

Оборудование, модель оплаты и ограничения

Для установки на DGX Spark требуется суперчип GB10, 128 ГБ памяти и не менее 1 ТБ хранилища. Оркестратор Qwen 3.8 27B поставляется с 3-битным квантованием, загружается в виде файла объёмом 17,4 ГБ и требует 32 ГБ оперативной памяти; Nemotron 3.5 Lightning использует 4-битное квантование, занимает 19 ГБ и требует 36 ГБ памяти. Для других систем необходимы DGX OS или Ubuntu на ARM либо x64 с RTX GPU, имеющим не менее 24 ГБ видеопамяти. Установка выполняется стандартным добавлением репозитория apt.

Для подписчиков Pro, Max, Enterprise Pro и Enterprise Max доступность на первом этапе ограничена Linux; Windows появится в сентябре, а macOS не значится в планах. На старте поддерживается только один DGX Spark — кластеризация есть в дорожной карте, но пока не реализована. Работа, выполняемая локальными моделями, не тарифицируется по количеству токенов, что делает миграции на уровне репозиториев и длительные циклы проверки экономически оправданными на собственном оборудовании.

Ключевые выводы

  • Portable Computer запускает полный агентский контур, оркестратор и песочницу локально на DGX Spark — это не просто локальная LLM.
  • Каждый этап начинается на устройстве; для эскалации к более чем 15 облачным моделям требуется отдельное разрешение на каждый этап после проверки персональных данных.
  • Собственные тесты Perplexity: 85,4% у PPLX 27B в тесте из 53 задач против 77,6% у Pi на той же модели.
  • Terminal Bench 2.1: 59,6% локально, 73,0% с консультантом при стоимости около 0,415 доллара за запуск против 82,4% при стоимости около 0,65 доллара у одного Opus 5.

Подробнее о Perplexity Portable Computer и блоге NVIDIA о локальном ИИ.

Также подписывайтесь на нас в Twitter и не забудьте присоединиться к нашему сабреддиту о машинном обучении с аудиторией более 150 тыс. участников и подписаться на нашу рассылку. Стоп! Вы есть в Telegram? Теперь к нам можно присоединиться и в Telegram.

Переведено автоматически с английского. Оригинал статьи — по ссылке ниже.

Впервые опубликовано изданием MarkTechPost

Читать оригинал на MarkTechPost ↗

Текст и изображения принадлежат MarkTechPost и приводятся здесь с указанием авторства и ссылкой на оригинальную публикацию.

← К новостям

Ещё новости

Все последние новости