Meta оспаривает утверждение, что Muse прочитал личные сообщения пользователя без разрешения

Meta опровергает утверждение журналиста о том, что её ИИ-агент Muse прочитал личные сообщения пользователя без разрешения. После предыдущего материала обозревателя Inc. Джейсона Эйтена, в котором подробно описывалась эта проблема, вице-президент Meta по коммуникациям Энди Стоун выступил с возражениями, ясно дав понять, что компания не считает, будто её продукт сделал это без согласия пользователя.

«Интеграция с приложением “Сообщения” в приложении Muse для Mac полностью активируется по желанию пользователя, — написал Стоун в X, отвечая на утверждения из статьи. — Чтобы Muse мог читать содержимое ваших сообщений, необходимо включить и “Полный доступ к диску”, и коннектор “Сообщения”. Без этого он не может читать ваши сообщения».

Несмотря на отрицание со стороны Meta, многие по-прежнему подозревают, что Meta говорит неправду.

Это неудивительно, учитывая многолетние нарушения технологическим гигантом правил обращения с данными потребителей, что привело к судебным искам, нарушениям требований FTC и штрафам. Например, всего несколько дней назад жюри присяжных в Нью-Мексико установило, что технологический гигант вводил пользователей в заблуждение относительно своих методов работы с данными по делу, возникшему из-за скандала с утечкой данных Cambridge Analytica в 2018 году.

Смогут ли пользователи доверять Muse, станет решающим фактором в том, завоюет ли Meta рынок потребительского ИИ. Хотя сейчас её приложение показывает хорошие результаты и остаётся на первом месте в App Store, репутация Meta может не восстановиться, если появятся новые подобные сообщения — правдивые они или нет. В любом случае компании следовало бы напрямую связаться с журналистом и выяснить, как такое вообще могло произойти, вместо того чтобы просто отрицать сам факт произошедшего.

Официальное заявление Стоуна от имени Meta последовало после более технического ответа руководителя Meta Superintelligence Labs Дэвида Синглтона, который напрямую ответил Эйтену в Threads. Он объяснил, что набор разрешений, которые пользователь должен предоставить, чтобы разрешить Muse читать сообщения на Mac, включает «три отдельных этапа предоставления разрешений на уровне приложения и встроенные системные средства защиты macOS». По его словам, их «нельзя обойти, даже если в приложении Muse есть ошибка».

Эти этапы включают явный выбор пользователем пункта, предоставляющего Muse «Полный доступ к диску», после чего пользователь может выбрать, какой уровень доступа Muse будет предоставлен к приложению «Сообщения» (то есть «Нет», «Только чтение» или «Чтение»). Если «Полный доступ к диску» не включён, эти параметры отображаются серым цветом.

Кроме того, при предоставлении «Полного доступа к диску» открывается интерфейс настроек macOS, где пользователь должен ещё раз вручную подтвердить, что действительно намерен выполнить это действие. По словам Синглтона, это приводит к полной перезагрузке приложения Muse, что делает ещё менее вероятным случайное выполнение такого выбора без ведома пользователя.

Однако в материале Эйтена утверждалось, что в момент, когда Muse прочитал его сообщения, «Полный доступ к диску» был отключён. Он также сообщил, что, когда попросил Muse объяснить, как это произошло, ИИ заявил, что синхронизировал «уведомления устройства». По мнению Эйтена, это означает, что Muse передавал ИИ-агенту текст входящих баннерных уведомлений на его Mac.

Синглтон также оспорил это утверждение, заявив, что ИИ запутался и дал неверное объяснение произошедшего. Затем он указал на страницу Meta, посвящённую архитектуре безопасности Muse и программе поиска ошибок.

Короче говоря, ответ компании сводится к тому, что описанное Эйтеном не происходило и не могло произойти.

Это не единственный случай, когда Muse, предположительно, вышел за допустимые рамки, и, вероятно, не последний. Другой пользователь, YouTube-блогер Мэтт Робб, недавно сообщил, что Muse неправильно выполнил задачу, связанную с продажей вещей на Facebook Marketplace: в результате его адрес был раскрыт, и покупатель приехал, когда его даже не было дома. Судя по ответу Синглтона в Threads, он, по всей видимости, разбирается и с этим случаем, что указывает на то, что компания, по крайней мере в данном случае, допускает свою вину.