Meta призупинила поширення в Muse після того, як дослідники виявили чати з ШІ у мережі

Фахівці з безпеки виявили чати Muse, що містили дані про доходи маркетингової компанії, календар робочого колективу, заявку на кредит та багато іншого.

Фахівці з безпеки виявили чати Muse, що містили дані про доходи маркетингової компанії, календар робочого колективу, заявку на кредит та багато іншого.

Meta повідомляє, що призупинила роботу функції Muse, яка дає змогу ділитися розмовами з помічником на основі ШІ, після того, як дослідники виявили URL-адреси, доступні публічно в мережі, як повідомляє Ars Technica. У звіті, опублікованому цього тижня, дослідники компанії з кібербезпеки Claroc заявили, що знайшли понад 6800 посилань Muse через публічні записи DNS.

«Користувачі можуть ділитися окремими артефактами Muse, унаслідок чого створюється сторінка, доступна всім, хто має посилання», — заявляє речник Muse Трейсі Клейтон в електронному листі до The Verge. «Однак ми призупинили цю функцію, поки вивчаємо цей звіт і розглядаємо зміни до способу виявлення таких посилань».

Функція, про яку йдеться, дає змогу поділитися розмовою в Muse з іншою людиною за допомогою посилання. Але, як зазначили в Claroc, спосіб, у який Meta розробила ці посилання, зробив їх легкими для пошуку. «Muse створює вебадресу кожного поширення з назви поширення, короткої фрази, що описує розмову, а потім випадкового ідентифікатора, — зазначають у Claroc. — Ім’я хоста зазвичай розкривало вміст сторінки ще до її відкриття, а оскільки посилання містить ту саму назву та ідентифікатор, ім’я хоста, отримане з DNS, відновлює посилання».

Шукаючи в публічних записах DNS, які слугують довідником для вебтрафіку, Claroc змогла переглянути сотні розмов Muse, зокрема деякі, що містили огляд доходів маркетингової компанії, заявку власника малого бізнесу на кредит, повний річний календар працівників організації та нотатки до розмови кандидата на роботу з лабораторією ШІ. Це не перший випадок, коли функції поширення ШІ робили чати більш публічними, ніж передбачалося: розмови з ChatGPT від OpenAI, Claude від Anthropic та Grok від xAI опинялися в пошуку Google.

• Emma Roth