У Muse, надзвичайно привілейованого ШІ-асистента Meta, виявлено серйозну вразливість 0-day
Засновник і генеральний директор Meta Марк Цукерберг доклав чималих зусиль, щоб розхвалити безпеку нового ШІ-помічника Muse, заявляючи, що його «створено з нуля з урахуванням конфіденційності та безпеки». Уразливість нульового дня, яка надає локально запущеним застосункам і командам термінала повний контроль над агентом, викликає серйозні сумніви. Ще більше запитань виникло після того, як у неділю Amazon почала блокувати Muse на своєму сайті.
Meta представила Muse кілька тижнів тому. Помічник «бронює зустрічі, заповнює форми та працює зі службою підтримки», «проактивно бере на себе завдання», а також може «здійснювати покупки, генерувати зображення, створювати документи та підключатися до ваших улюблених застосунків і сервісів». Застосунок для macOS (що цікаво, версії для Windows немає) також працює з обліковими записами користувача у WhatsApp, електронній пошті, календарі та соціальних мережах. Коли для виконання завдання потрібен інструмент, якого не існує, Muse створює його на льоту.
Meta надто розхвалює безпеку Muse
Звісно, щоб Muse могла робити все це, користувачі спершу мають надати їй доступ до своїх облікових записів. Це передбачає автентифікацію помічника в кожному сервісі, а оскільки застосунок працює на macOS — надання йому дозволів на широкий спектр ресурсів пристрою, доступ до яких обмежує операційна система, зокрема на запис файлів на диск, доступ до мікрофона й камери, а також відстеження місцезнаходження та календарів. Apple роками розробляла ці засоби захисту, щоб не допустити доступу встановлених застосунків або команд, введених у терміналі, до цих ресурсів, очевидно, вважаючи їх загрозою безпеці. Muse повністю скасовує ці стандартні заходи.
Перекладено автоматично з англійської. Оригінал статті — за посиланням нижче.