Meta представляет Muse — персонального ИИ-агента, работающего на собственном выделенном защищённом облачном компьютере

Сегодня Meta представила Muse — персонального ИИ-агента, который не просто отвечает на вопросы, а выполняет действия. Muse может отправлять электронные письма, бронировать поездки, договариваться о снижении счетов и работать над долгосрочными целями. Он продолжает работать после закрытия приложения и возвращается только тогда, когда ему требуется одобрение. Для разработчиков ИИ важнее всего архитектура. Каждый пользователь получает выделенную облачную виртуальную машину под названием Muse Secure VM, где агент, его браузер и все учетные данные находятся в изоляции. Можно ли это развернуть? Сама Muse — потребительский сервис, который уже запускается в США на iOS, Android и muse.ai, с бесплатным тарифом и платными планами. Разработчики не могут разместить Muse на собственных серверах, но лежащая в ее основе модель Muse Spark 1.3 уже доступна через Meta Model API и Muse Code, а выпуск модели с открытыми весами заявлен в дорожной карте Meta.

Что на самом деле делает Muse

Muse построена вокруг обмена сообщениями. Пользователи описывают задачу или цель, после чего агент планирует действия и выполняет их. Он может открыть браузер, заполнить формы и вести переговоры от имени человека. Среди примеров Meta — продать автомобиль дороже, снизить счет и адаптировать план тренировок. Muse также сохраняет контекст между разговорами. Она может превратить сохраненный в Instagram ролик с рецептом в список покупок и вспомнить об ограничениях в питании друзей. Чувствительные действия, такие как отправка электронного письма или завершение покупки, всегда приостанавливаются до одобрения пользователя. Полный журнал аудита показывает все, что агент сделал и планирует сделать.

Модель: Muse Spark 1.3

Muse работает на базе Muse Spark 1.3, выпущенной на прошлой неделе Meta Superintelligence Labs. Модель ориентирована на агентские задачи с длинным горизонтом планирования: вызов CLI-инструментов в режиме zero-shot, параллельные рабочие процессы и самостоятельное исправление ошибок при работе с неструктурированными источниками. Во внутренних сравнениях, проведенных инженерами Meta, она использовала примерно на 20% меньше вызовов инструментов и на 25% меньше токенов, чем Muse Spark 1.2. Meta заявляет, что модель близка к передовым решениям по устойчивости к промпт-инъекциям. Разработчики уже могут использовать ее в Muse Code и Meta Model API на сайте dev.meta.ai.

Muse Secure VM и Sentinel

Архитектура безопасности — самая технически интересная часть этого запуска. Среда выполнения агента работает внутри ячейки systemd-nspawn с фильтрацией системных вызовов и ограниченными возможностями ядра. Критически важные для безопасности сервисы находятся за пределами этой ячейки, но на той же виртуальной машине. Отдельный агент Sentinel одобряет каждое действие коннектора и каждый сетевой запрос на уровнях 4 и 7. Muse предлагает, а разрешение дает только Sentinel. Учетные данные обрабатываются с помощью суррогации. Агент видит только токены-заполнители, а Sentinel подставляет реальные секреты на границе сети. Благодаря этому извлечение учетных данных посредством промпт-инъекции становится структурно бессмысленным, поскольку красть нечего. Отслеживание заражения на уровне ядра с помощью eBPF отличает чистые запросы от тех, которые обращались к пользовательским данным, и соответствующим образом регулирует одобрения. Субагент браузера видит дерево доступности, а не исходный DOM, и не может выполнять JavaScript. Коннектор электронной почты по умолчанию также отфильтровывает одноразовые пароли и ссылки для сброса пароля.

Интерактивное объяснение: как одобряется одно действие Muse

Встроенный материал ниже пошагово показывает процесс одобрения в 5 этапов в синей цветовой теме Meta. В нем представлены 2 сценария: обычная покупка и заблокированная попытка промпт-инъекции.

Основные выводы

• Muse — проактивный персональный агент, которым можно пользоваться в собственном приложении или непосредственно внутри WhatsApp
• Агент каждого пользователя работает в изолированной облачной виртуальной машине, выделенной для конкретного пользователя, с полноценным браузером
• Отдельный агент Sentinel является единственным органом, уполномоченным разрешать исходящие сетевые соединения и действия коннекторов
• Агент никогда не видит настоящие учетные данные; суррогатные токены заменяются на границе сети

---

Ознакомьтесь с материалами Muse Spark 1.3, Как Meta встроила безопасность в Muse и Muse в X. Также подписывайтесь на нас в Twitter, не забудьте присоединиться к нашему сабреддиту о машинном обучении с более чем 150 тыс. участников и подписаться на нашу рассылку. Стоп! Вы есть в Telegram? теперь вы также можете присоединиться к нам в Telegram.

Хотите сотрудничать с нами для продвижения вашего репозитория GitHub, страницы на Hugging Face, релиза продукта, вебинара и т. д.? Свяжитесь с нами