Meta приостановила функцию публикации в Muse после обнаружения исследователями чатов с ИИ в интернете

Специалисты по безопасности обнаружили чаты Muse, содержащие информацию о доходах маркетинговой компании, календарь рабочего коллектива, заявку на кредит и многое другое.

Специалисты по безопасности обнаружили чаты Muse, содержащие информацию о доходах маркетинговой компании, календарь рабочего коллектива, заявку на кредит и многое другое.

Meta сообщила, что приостановила работу функции Muse, позволяющей делиться беседами с ИИ-ассистентом, после того как исследователи обнаружили, что URL-адреса были общедоступны в интернете, как сообщает Ars Technica. В отчёте, опубликованном на этой неделе, исследователи компании по безопасности Claroc утверждают, что обнаружили более 6800 ссылок Muse через общедоступные записи DNS.

«Пользователи могут делиться отдельными артефактами Muse, в результате чего создаётся страница, доступная всем, у кого есть ссылка», — заявила представительница Muse Трейси Клейтон в электронном письме The Verge. «Однако мы приостановили работу этой функции, пока изучаем данный отчёт и рассматриваем изменения в способе обнаружения этих ссылок».

Рассматриваемая функция позволяет поделиться беседой в Muse с другим человеком посредством ссылки. Однако, как отмечают в Claroc, способ, которым Meta создавала эти ссылки, делал их легко обнаруживаемыми. «Muse формирует веб-адрес каждой публикации из её заголовка, короткой фразы, описывающей беседу, а затем случайного идентификатора, — сообщает Claroc. — Имя хоста обычно выдавало содержимое страницы ещё до того, как мы её открывали, а поскольку ссылка содержит тот же заголовок и идентификатор, имя хоста, полученное из DNS, позволяет восстановить ссылку».

Выполняя поиск в общедоступных записях DNS, которые служат справочником для веб-трафика, специалисты Claroc смогли просмотреть сотни бесед Muse, в том числе содержащих обзор доходов маркетинговой компании, заявку владельца малого бизнеса на кредит, полный годовой календарь сотрудников организации и заметки к разговору кандидата на работу с лабораторией ИИ. Это не первый случай, когда функции обмена данными в ИИ делают чаты более публичными, чем предполагалось: беседы с ChatGPT от OpenAI, Claude от Anthropic и Grok от xAI оказывались в поиске Google.

• Emma Roth