Sakhanda Wire
NVDA MSFT GOOGL META AMZN
← К новостям

Perplexity выпустила гибридные вычисления для Mac: облачные агенты координируют работу вплоть до локальной модели, а доступ контролируется на устройстве

У агентных ассистентов есть структурная проблема: контекст, который делает их полезными — документы по сделкам, защищённые файлы, данные клиентов, — это именно тот контекст, который пользователи не могут отправлять в облачную конечную точку. На этой неделе Perplexity представила своё решение для Mac. Гибридные вычисления разделяют одну задачу Perplexity Computer между передовыми моделями в облаке и компактной моделью на Mac пользователя, а установленный на устройстве шлюз конфиденциальности решает, что может пересекать эту границу. Perplexity также открыла исходный код классификатора, лежащего в основе этого шлюза.

Можно ли это развернуть? Да, гибридные вычисления доступны подписчикам Pro, Max и Enterprise на любом Mac с Apple silicon под управлением macOS 15 или более поздней версии и минимум 24 ГБ объединённой памяти (рекомендуется 32 ГБ). Локальная модель устанавливается одним нажатием из приложения для Mac — без Ollama, отдельной среды выполнения и API-ключа, а локальная работа не расходует облачные кредиты.

Что на самом деле делают гибридные вычисления

Направление оркестрации — ключевое проектное решение. Computer начинает каждую задачу в облаке, где передовые модели выполняют поиск в интернете, планирование и рассуждения на длинном горизонте. Когда один из этапов затрагивает личные файлы или конфиденциальные данные, Computer передаёт этот этап локальной модели на Mac, не перезапуская задачу и не теряя контекст, а затем объединяет обе части в один результат.

Это противоположно режиму локальных вычислений, который Perplexity представила на NVIDIA DGX Spark неделей ранее: он начинает работу на оборудовании пользователя и с его разрешения передаёт её облачным моделям. Тот же оркестратор, но противоположный вариант по умолчанию.

Поскольку Computer работает с iPhone, задачу можно запустить удалённо, пока конфиденциальные этапы выполняются на Mac, находящемся на рабочем столе. Perplexity позиционирует постоянно включённый Mac mini как выделенный локальный узел вывода именно для такого сценария.

Шлюз конфиденциальности — ключевой компонент

Прежде чем что-либо из защищённого файла попадёт в облако, установленный на устройстве классификатор анализирует это, а шлюз выбирает один из четырёх вариантов: оставить локально, скрыть конфиденциальные фрагменты, отклонить действие или запросить согласие пользователя. Учётные данные, номера платёжных карт и государственные удостоверения личности обрабатываются наиболее строго. Скрытые значения по пути наружу заменяются заполнителями, а после возвращения облачного ответа восстанавливаются.

PII-Tracer — двунаправленный кодировщик на 0,6 млрд параметров, адаптированный из основы Qwen3 и заменяющий каузальную маску на двунаправленное внимание с учётом дополнения в окне из 4 096 токенов. Линейная голова тегирования выдаёт 37 меток: одну метку для позиции вне фрагмента и позиционные метки BIOES для каждого из девяти типов персональных данных, а вспомогательная голова предсказывает, содержит ли разговор конфиденциальный материал. Обучение проводилось в течение трёх эпох примерно на 714 000 образцов; ограниченный декодер Витерби разрешает последовательность меток во время вывода.

PII-TRACE, сопутствующий бенчмарк, содержит 13 148 синтетических разговоров на 13 языках и в 10 письменностях, включающих 37 431 упоминание идентификаторов на уровне символов. Его основной вывод заключается в том, что найти большинство персональных данных в длинном разговоре — не то же самое, что найти каждую копию этих данных.

Что касается результатов: среди 12 детекторов PII-Tracer показывает самый высокий символьный F1 (0,629) и второй по величине F1 по перекрытию и включению фрагментов, уступая GPT-5.6-sol. По согласованности он значительно опережает остальные модели — все упоминания найдены для 79,4% повторяющихся идентификаторов и 77,6% идентификаторов, встречающихся в разных сообщениях, по сравнению с 57,0% и 55,1% у GPT-5.6-sol. В самой сложной категории (6–10 упоминаний) он набирает 0,691 против 0,464 у GPT-5.6-sol, 0,073 у GLiNER2-PII и 0,045 у Claude Opus 4.8.

Очень интересно отметить, что полнота обнаружения в одном окне снижается с 0,975 для разговоров короче 1 000 символов до 0,687 для разговоров длиной 10 000 символов и более. Решение Perplexity — не повторное обучение, а декодирование: скользящие окна с перекрытием 50% повышают общую символьную полноту с 0,830 до 0,965, а согласованное обнаружение нескольких упоминаний — с 0,794 до 0,954 на той же контрольной точке.

Объяснение: как одна задача разделяется между облаком и Mac

Модели, элементы управления и доступность

В анонсе Perplexity перечислены три локальные модели, доступные на старте: Gemma 4 E4B, Qwen3.6 35B-A3B и модель Perplexity, дополнительно обученная для Computer. Страница продукта с настройкой предлагает загрузку PPLX Qwen 3.8 27B одним нажатием; организация Perplexity на Hugging Face содержит соответствующие сборки pplx-computer-qwen-3-8-27b вместе с pplx-pii-masking-vllm — моделью классификации токенов на 0,6 млрд параметров, лежащей в основе шлюза.

Для Enterprise администраторы могут устанавливать общие для организации правила: что должно оставаться на устройстве, что может быть скрыто и для чего требуется явное одобрение, а также вести журналы аудита, фиксирующие случаи передачи информации за пределы машины. Именно это делает решение пригодным для юридических, медицинских и финансовых команд, а не просто интересным.

Ключевые выводы

  • Гибридные вычисления начинают задачи в облаке и в середине выполнения передают конфиденциальные этапы локальной модели на Mac.
  • Установленный на устройстве классификатор персональных данных контролирует границу: оставить локально, скрыть, отклонить или спросить.
  • PII-Tracer (0,6 млрд параметров) опережает 12 детекторов по символьному F1 (0,629) и по обнаружению каждого повторяющегося упоминания (79,4%).
  • Полнота обнаружения в длинном контексте падает до 0,687 после 10 тысяч символов; декодирование со скользящим окном восстанавливает её до 0,965.
  • Работает на Mac с Apple silicon и macOS 15+, требует минимум 24 ГБ объединённой памяти и доступен для Pro, Max и Enterprise.

Ознакомьтесь с анонсом Perplexity, исследовательской публикацией о PII-TRACE и моделью на Hugging Face. Также не стесняйтесь подписаться на нас в Twitter и не забудьте присоединиться к нашему ML-сабреддиту с более чем 150 тысячами участников и подписаться на нашу рассылку. Постойте! Вы есть в Telegram? теперь вы также можете присоединиться к нам в Telegram.

Хотите стать нашим партнёром для продвижения своего репозитория на GitHub, страницы на Hugging Face, релиза продукта, вебинара и т. д.? Свяжитесь с нами

Переведено автоматически с английского. Оригинал статьи — по ссылке ниже.

Впервые опубликовано изданием MarkTechPost

Читать оригинал на MarkTechPost ↗

Текст и изображения принадлежат MarkTechPost и приводятся здесь с указанием авторства и ссылкой на оригинальную публикацию.

← К новостям

Ещё новости

Все последние новости