Perplexity випустила гібридні обчислення для Mac: хмарні агенти координують роботу аж до локальної моделі, а доступ контролюється на пристрої

Агентні асистенти мають структурну проблему: контекст, який робить їх корисними — документи щодо угод, захищені файли, записи клієнтів — це саме той контекст, який користувачі не можуть надсилати на хмарну кінцеву точку. Цього тижня Perplexity представила своє рішення для Mac. Гібридні обчислення розподіляють одне завдання Perplexity Computer між передовими моделями у хмарі та компактною моделлю на Mac користувача, причому встановлений на пристрої шлюз конфіденційності визначає, що саме може перетнути цю межу. Perplexity також відкрила вихідний код класифікатора, який працює за цим шлюзом.

Чи можна це розгорнути? Так, гібридні обчислення вже доступні для передплатників Pro, Max і Enterprise на будь-якому Mac із чипом Apple silicon під керуванням macOS 15 або новішої версії та щонайменше 24 ГБ уніфікованої пам’яті (рекомендовано 32 ГБ). Локальна модель встановлюється одним натисканням у застосунку для Mac — без Ollama, окремого середовища виконання чи ключа API, а локальна робота не споживає хмарні кредити.

Що насправді роблять гібридні обчислення

Ключовим проєктним рішенням є напрямок оркестрації. Computer починає кожне завдання у хмарі, де передові моделі виконують вебпошук, планування та міркування на довгому горизонті. Коли певний крок стосується приватних файлів або конфіденційних даних, Computer передає цей крок локальній моделі на Mac, не перезапускаючи завдання й не втрачаючи контекст, а потім об’єднує обидві частини в один результат.

Це інвертує режим локальних обчислень, який Perplexity представила на NVIDIA DGX Spark тижнем раніше: він починає роботу на обладнанні користувача, а за дозволом передає її хмарним моделям. Той самий оркестратор, протилежне налаштування за замовчуванням.

Оскільки Computer працює з iPhone, завдання можна запустити віддалено, тоді як конфіденційні кроки виконуватимуться на Mac за робочим столом. Perplexity позиціонує постійно ввімкнений Mac mini як виділений вузол локального виведення саме для такого сценарію.

Шлюз конфіденційності — ключовий компонент

Перш ніж будь-яка інформація із захищеного файлу потрапить у хмару, класифікатор на пристрої перевіряє її, а шлюз застосовує один із чотирьох варіантів: залишити локально, замаскувати конфіденційні фрагменти, відхилити дію або попросити користувача надати згоду. Облікові дані, номери платіжних карток і державні посвідчення особи обробляються найсуворіше. Замасковані значення замінюються на умовні позначення під час передавання, а після повернення відповіді з хмари відновлюються.

PII-Tracer — це двонапрямлений енкодер із 0,6 млрд параметрів, адаптований із базової моделі Qwen3, у якому причинну маску замінено на двонапрямлену увагу з урахуванням доповнення у вікні на 4 096 токенів. Лінійна голова тегування видає 37 міток: одну мітку для позицій поза фрагментом і позиційні мітки BIOES для кожного з дев’яти типів персональних даних, а допоміжна голова прогнозує, чи містить розмова конфіденційні матеріали. Навчання тривало три епохи на приблизно 714 000 зразків; під час виведення послідовність міток визначається обмеженим декодером Вітербі.

PII-TRACE, супровідний бенчмарк, містить 13 148 синтетичних розмов 13 мовами та 10 системами письма, а також 37 431 згадку ідентифікаторів на рівні символів. Його основне твердження полягає в тому, що знаходити більшість персональних даних у довгій розмові — не те саме, що знаходити кожну копію цих даних.

Щодо результатів: серед 12 детекторів PII-Tracer демонструє найвищий символьний F1 (0,629) і другий найкращий F1 за перекриттям і включенням фрагментів, поступаючись GPT-5.6-sol. За узгодженістю він значно випереджає інших — знаходить кожну згадку для 79,4% повторюваних ідентифікаторів і 77,6% ідентифікаторів між репліками, тоді як для GPT-5.6-sol ці показники становлять 57,0% і 55,1%. У найскладнішій категорії (6–10 згадок) він набирає 0,691 проти 0,464 у GPT-5.6-sol, 0,073 у GLiNER2-PII та 0,045 у Claude Opus 4.8.

Дуже цікаво, що повнота в межах одного вікна знижується з 0,975 для розмов довжиною менш ніж 1 000 символів до 0,687 для розмов довжиною 10 000 символів і більше. Рішення Perplexity полягає в декодуванні, а не в повторному навчанні: ковзні вікна з 50-відсотковим перекриттям підвищують загальну символьну повноту з 0,830 до 0,965, а узгоджене виявлення кількох згадок — з 0,794 до 0,954 на тій самій контрольній точці.

Пояснення: як одне завдання розподіляється між хмарою та Mac

Моделі, елементи керування та доступність

В анонсі Perplexity перелічено три локальні моделі, доступні на момент запуску: Gemma 4 E4B, Qwen3.6 35B-A3B і модель Perplexity, донавчену для Computer. На сторінці продукту в процесі налаштування пропонується завантаження PPLX Qwen 3.8 27B одним натисканням; організація Perplexity на Hugging Face містить відповідні збірки pplx-computer-qwen-3-8-27b разом із pplx-pii-masking-vllm — моделлю класифікації токенів із 0,6 млрд параметрів, яка працює за шлюзом.

Для Enterprise адміністратори можуть встановлювати загальноорганізаційні правила щодо того, що має залишатися на пристрої, що можна маскувати, а що потребує явного схвалення, а також журнали аудиту, які фіксують, коли інформація залишає машину. Саме це робить рішення придатним для юридичних, медичних і фінансових команд, а не просто цікавим.

Ключові висновки

• Гібридні обчислення починають завдання у хмарі, а під час його виконання передають конфіденційні кроки локальній моделі на Mac.
• Класифікатор персональних даних на пристрої контролює межу: залишити локально, замаскувати, відхилити або запитати.
• PII-Tracer (0,6 млрд параметрів) випереджає 12 детекторів за символьним F1 (0,629) і за здатністю знаходити кожну повторювану згадку (79,4%).
• Повнота в довгому контексті падає до 0,687 після 10 тисяч символів; декодування за допомогою ковзного вікна відновлює її до 0,965.
• Працює на Mac із чипами Apple silicon і macOS 15+, потребує щонайменше 24 ГБ уніфікованої пам’яті та доступне для Pro, Max і Enterprise.

---

Ознайомтеся з анонсом Perplexity, дослідницькою публікацією про PII-TRACE та моделлю на Hugging Face. Також підписуйтеся на нас у Twitter і не забудьте приєднатися до нашого сабреддіту про машинне навчання з понад 150 тисячами учасників та підписатися на нашу розсилку. Зачекайте! Ви є в Telegram? тепер ви також можете приєднатися до нас у Telegram.

Потрібно співпрацювати з нами для просування вашого репозиторію GitHub, сторінки на Hugging Face, випуску продукту, вебінару тощо? Зв’яжіться з нами