Perplexity випускає Portable Computer на NVIDIA DGX Spark: локальний інструментарій, пісочниця під контролем ОС і нульова вартість токенів для локальних кроків

Perplexity випустила Portable Computer — локально-орієнтовану версію своєї агентної платформи Computer, яка запускає агентський рушій, оркестратор, планувальник, маршрутизатор інструментів і моделі з донавчанням безпосередньо на NVIDIA DGX Spark. Локальна модель, рушій інференсу, пісочниця інструментів і конектори застосунків постачаються як єдина готова система, кожне завдання починається на пристрої, а робота, яку виконують локальні моделі, не передбачає оплати за токени. Коли для певного кроку потрібні актуальні дані з вебу або передові можливості міркування, оркестратор зупиняється й запитує дозвіл, перш ніж передати саме цей крок одній із понад 15 хмарних моделей.

Чи можна це розгорнути?

Так, але з жорсткими вимогами до обладнання. Це готове програмне забезпечення, а не тестова збірка, однак для його роботи потрібен комп’ютер класу GB10 або RTX-GPU з 24 ГБ відеопам’яті.

• Рівень компаній: підприємства та команди середнього бізнесу, які вже мають робочі станції NVIDIA, а також добре профінансовані AI-стартапи. Для звичайного малого та середнього бізнесу це невигідно — машина є вхідним бар’єром.
• Галузі: фінанси, право, охорона здоров’я, державний сектор і оборона, а також інженерні сфери з великим обсягом інтелектуальної власності — усюди, де вимоги до локалізації даних або договірна конфіденційність блокують хмарний інференс.
• Застосування: перевірка комісій і розкриття інформації в наборах документів, дослідження з обмеженнями щодо персональних даних, міграції репозиторіїв, пакетне узагальнення локальних корпусів і сортування PR, яке завершується у Slack.

Що насправді постачається на пристрої

Portable Computer — це не локальний чат-застосунок із вибором файлів. Perplexity об’єднує локальну модель, рушій інференсу, агентський рушій, пісочницю інструментів і конектори застосунків в одну систему, усуваючи звичну потребу розгортати сервер інференсу та вручну підключати інструменти. Користувачі можуть вибрати Qwen 3.8 27B або PPLX 27B — донавчену версію Perplexity, оптимізовану для власного рушія, — тоді як NVIDIA Nemotron 3.5 Lightning, відкрита MoE-модель на 30 млрд параметрів, зазначена як така, що з’явиться незабаром. Також підтримується використання власної моделі та сервера інференсу.

Код і виклики інструментів виконуються всередині пісочниці, обмеженої на рівні ОС, яка контролює процеси, шляхи файлової системи та мережевий доступ. Якщо пісочниця недоступна, виконання інструментів вимикається, а не непомітно переводиться в обмежений режим. Конектори Gmail, Outlook, Slack і GitHub проходять через локальний оркестратор.

Шлюз ескалації — це ключове проєктне рішення

Локальна орієнтація не означає роботи лише локально. Коли для певного кроку потрібні актуальні дані з вебу або передові можливості міркування, оркестратор зупиняється й запитує дозвіл. Перед кожним викликом рушій вибирає відповідний контекст, запускає на ньому класифікатор персональних даних і показує користувачеві, що саме залишить пристрій. Схвалений крок передається одній із понад 15 хмарних моделей; віддалений радник повертає текстові рекомендації та ніколи не отримує прямого доступу до локальних файлів, інструментів або розмови.

Perplexity також оптимізувала систему з урахуванням обмежень контексту малих моделей. Qwen 3.8 27B заявляє контекстне вікно на 260 тис. токенів, але його якість погіршується після приблизно 100 тис., тому рушій зберігає невеликими системний запит і набір інструментів, завантажує спеціалізовані навички на вимогу, представляє конектори як компактні інструменти CLI замість повних визначень MCP і стискає застарілий контекст під час виконання.

Бенчмарки

У своєму тесті Local Knowledge Work Bench із 53 завдань — що охоплює глибокі дослідження, фінансовий аналіз і створення документів та, за словами Perplexity, має бути опублікований у відкритому доступі, — Computer із Qwen 3.8 27B на DGX Spark набрав 82,6% проти 77,6% у відкритого рушія Pi та 74,0% у Hermes на ідентичній моделі. PPLX 27B підвищила результат до 85,4%.

У BrowseComp Computer набрав 66,7% проти 50,2% (Pi) і 43,9% (Hermes), використавши на 51% менше загального часу та на 70% менше токенів, ніж Pi. У ParseBench-100 для візуального розуміння документів результат становив 65,1% проти 34,6% і 13,9%.

Найінформативнішим є гібридний результат. У Terminal Bench 2.1 повністю локальний запуск набрав 59,6% за фактично нульової граничної вартості; ескалація до радника підвищила результат до 73,0% за приблизно 0,415 долара за запуск, тоді як 82,4% коштували близько 0,65 долара у разі використання лише Claude Opus 5. Ескалація скорочує відставання від передових моделей, але не усуває його.

Обладнання, модель оплати та обмеження

Для встановлення на DGX Spark потрібні суперчип GB10, 128 ГБ пам’яті та щонайменше 1 ТБ сховища. Оркестратор Qwen 3.8 27B постачається з 3-бітовим квантуванням, завантаженням обсягом 17,4 ГБ і потребує 32 ГБ оперативної пам’яті; Nemotron 3.5 Lightning використовує 4-бітове квантування, має обсяг 19 ГБ і потребує 36 ГБ. Іншим системам потрібна DGX OS або Ubuntu на ARM чи x64 із RTX-GPU, що має щонайменше 24 ГБ відеопам’яті. Встановлення виконується стандартним додаванням репозиторію apt.

Для передплатників Pro, Max, Enterprise Pro та Enterprise Max доступність спочатку передбачена для Linux; Windows з’явиться у вересні, а macOS не входить до планів. На момент запуску підтримується лише один DGX Spark — кластеризація є планом на майбутнє, а не доступною функцією. Робота, яку виконують локальні моделі, не передбачає оплати за токени, що робить масштабні міграції репозиторіїв і тривалі цикли перевірки економічно доцільними на власному обладнанні.

Основні висновки

• Portable Computer запускає повний агентський рушій, оркестратор і пісочницю локально на DGX Spark — це не просто локальна LLM.
• Кожен крок починається на пристрої; ескалація до понад 15 хмарних моделей потребує явного схвалення для кожного кроку після перевірки персональних даних.
• Власні тести Perplexity: 85,4% із PPLX 27B у тесті з 53 завдань проти 77,6% у Pi на тій самій моделі.
• Terminal Bench 2.1: 59,6% локально, 73,0% із радником за приблизно 0,415 долара за запуск проти 82,4% за приблизно 0,65 долара лише для Opus 5.

---

Ознайомтеся з Perplexity Portable Computer та блогом NVIDIA про локальний ШІ.

Також підписуйтеся на нас у Twitter і не забудьте приєднатися до нашого сабреддіту про машинне навчання зі 150 тис.+ учасників та підписатися на нашу розсилку. Стривайте! Ви є в Telegram? Тепер ви також можете приєднатися до нас у Telegram.