Perplexity пусна хибридни изчисления за Mac: облачни агенти координират работата до локален модел, а достъпът се контролира на устройството

Агентните асистенти имат структурен проблем: контекстът, който ги прави полезни — документи по сделки, защитени файлове, клиентски записи — е именно контекстът, който потребителите не могат да изпращат към облачна крайна точка. Тази седмица Perplexity представи своя отговор за Mac. Хибридното изчисление разделя една задача на Perplexity Computer между авангардни модели в облака и компактен модел на Mac-а на потребителя, като локален механизъм за поверителност решава какво може да премине границата. Perplexity също публикува като отворен код класификатора зад този механизъм.

Може ли да бъде внедрено? Да, хибридното изчисление е достъпно за абонати на Pro, Max и Enterprise на всеки Mac с Apple silicon, работещ с macOS 15 или по-нова версия и поне 24 GB обединена памет (препоръчват се 32 GB). Локалният модел се инсталира с едно кликване от приложението за Mac, без Ollama, отделна среда за изпълнение или API ключ, а локалната работа не изразходва облачни кредити.

Какво всъщност прави хибридното изчисление

Посоката на оркестрацията е ключовото проектантско решение. Computer започва всяка задача в облака, където авангардните модели се справят с уеб търсене, планиране и дългосрочно разсъждение. Когато дадена стъпка засяга лични файлове или чувствителни данни, Computer предава тази стъпка на локалния модел на Mac-а, без да рестартира задачата или да губи контекста, след което обединява двете части в един резултат.

Това обръща режима на локално изчисление, който Perplexity представи на NVIDIA DGX Spark седмица по-рано и който започва от хардуера на потребителя, а при необходимост ескалира към облачни модели с разрешение. Същият оркестратор, противоположна настройка по подразбиране.

Тъй като Computer работи с iPhone, задачата може да бъде стартирана дистанционно, докато чувствителните стъпки се изпълняват на Mac-а на бюрото. Perplexity позиционира постоянно включен Mac mini като специален локален възел за извеждане на резултати именно за този модел на работа.

Механизмът за поверителност е основният компонент

Преди каквото и да е от защитен файл да достигне до облака, локален класификатор го проверява, а механизмът прилага един от четири резултата: да го запази локално, да маскира чувствителните части, да откаже действието или да поиска съгласието на потребителя. Идентификационните данни, номерата на платежни карти и държавните идентификатори се обработват най-строго. Маскираните стойности се заменят със заместители при изпращането и се възстановяват, когато облачният отговор се върне.

PII-Tracer е двупосочен енкодер с 0,6 милиарда параметъра, адаптиран от архитектурата Qwen3, който заменя каузалната маска с двупосочно внимание, съобразено с допълването, в прозорец от 4096 токена. Линейна глава за етикетиране извежда 37 етикета: един етикет за позиция извън обхвата плюс BIOES етикети за позиция за всеки от деветте типа лична информация, а допълнителна глава прогнозира дали даден разговор съдържа чувствителен материал. Обучението е проведено в продължение на три епохи върху приблизително 714 000 образеца; ограничен декодер на Витерби разрешава последователността от етикети при извеждане.

PII-TRACE, придружаващият бенчмарк, съдържа 13 148 синтетични разговора на 13 езика и 10 писмени системи, с 37 431 споменавания на идентификатори на ниво символ. Основното му твърдение е, че откриването на повечето лични данни в дълъг разговор не е същото като откриването на всяко копие от тях.

Що се отнася до резултатите: сред 12 детектора PII-Tracer регистрира най-висок F1 резултат на ниво символ (0,629) и втория най-добър F1 резултат при припокриване и включване на обхват, след GPT-5.6-sol. По отношение на последователността той води с голяма преднина — всяко споменаване е открито при 79,4% от повтарящите се идентификатори и 77,6% от идентификаторите, срещащи се в различни реплики, в сравнение с 57,0% и 55,1% за GPT-5.6-sol. В най-трудната категория (6–10 споменавания) той постига 0,691 спрямо 0,464 за GPT-5.6-sol, 0,073 за GLiNER2-PII и 0,045 за Claude Opus 4.8.

Много интересно е да се отбележи, че пълнотата при извличане в един прозорец спада от 0,975 при разговори под 1000 символа до 0,687 при 10 000 или повече символа. Решението на Perplexity е декодиране, а не повторно обучение: плъзгащите се прозорци с 50% припокриване повишават общата пълнота на ниво символ от 0,830 до 0,965, а последователното откриване на множество споменавания — от 0,794 до 0,954 при същата контролна точка.

Обяснение: как една задача се разделя между облака и Mac-а

Модели, контроли и наличност

В съобщението си Perplexity посочва три локални модела при старта: Gemma 4 E4B, Qwen3.6 35B-A3B и модел на Perplexity, дообучен за Computer. Страницата на продукта за настройка насочва към изтегляне с едно кликване на PPLX Qwen 3.8 27B; организацията на Perplexity в Hugging Face съдържа съответстващи компилации pplx-computer-qwen-3-8-27b, наред с pplx-pii-masking-vllm, модела за класификация на токени с 0,6 милиарда параметъра, който стои зад механизма.

За Enterprise администраторите могат да задават правила за цялата организация относно това какво трябва да остане на устройството, какво може да бъде маскирано и за какво е необходимо изрично одобрение — както и одитни журнали за моментите, в които информацията напуска машината. Именно това прави решението приложимо за правни, здравни и финансови екипи, а не просто интересно.

Основни изводи

• Хибридното изчисление започва задачите в облака и по време на изпълнението предава чувствителните стъпки на локален модел на Mac-а.
• Локален класификатор за лична информация контролира границата: запазване локално, маскиране, отказ или запитване.
• PII-Tracer (0,6 милиарда параметъра) води сред 12 детектора по F1 резултат на ниво символ (0,629) и при откриването на всяко повтарящо се споменаване (79,4%).
• Пълнотата при дълъг контекст спада до 0,687 след 10 000 символа; декодирането с плъзгащ се прозорец я възстановява до 0,965.
• Работи на Apple silicon, macOS 15+, с минимум 24 GB обединена памет, за Pro, Max и Enterprise.

---

Разгледайте съобщението на Perplexity, публикацията за изследването PII-TRACE и модела в Hugging Face. Също така, следвайте ни в Twitter и не забравяйте да се присъедините към нашия SubReddit за машинно обучение с над 150 хиляди членове и да се абонирате за нашия бюлетин. Чакайте! В Telegram ли сте? Сега можете да се присъедините към нас и в Telegram.

Имате нужда от партньор за популяризирането на вашето GitHub хранилище ИЛИ страница в Hugging Face ИЛИ представяне на продукт ИЛИ уебинар и т.н.? Свържете се с нас