Meta спира споделянето в Muse, след като изследователи откриха AI чатове в мрежата

Фирма за сигурност откри чатове в Muse, съдържащи приходите на маркетингова компания, календар на работно място, заявление за кредит и още.

Фирма за сигурност откри чатове в Muse, съдържащи приходите на маркетингова компания, календар на работно място, заявление за кредит и още.

Meta съобщава, че е спряла функция на Muse, която позволява споделяне на разговори с AI асистента, след като изследователи открили, че URL адресите са публично достъпни в интернет, както съобщава Ars Technica. В доклад, публикуван тази седмица, изследователи от фирмата за сигурност Claroc заявяват, че са открили над 6800 връзки към Muse чрез публични DNS записи.

„Хората могат да споделят конкретни артефакти от Muse, което създава страница, достъпна за всеки, който разполага с връзката“, казва говорителят на Muse Трейси Клейтън в изявление, изпратено по имейл до The Verge. „Въпреки това спряхме тази функционалност, докато разглеждаме доклада и обмисляме промени в начина, по който тези връзки могат да бъдат откривани.“

Въпросната функция ви позволява да споделите разговора си в Muse с друг човек чрез връзка. Но както посочват от Claroc, начинът, по който Meta е проектирала тези връзки, ги е направил лесни за откриване. „Muse създава уеб адреса на всяко споделяне от заглавието му, кратка фраза, описваща разговора, и произволен идентификатор“, казват от Claroc. „Името на хоста обикновено издаваше какво съдържа дадена страница, преди да я отворим, а тъй като връзката съдържа същото заглавие и идентификатор, име на хост, извлечено от DNS, възстановява връзката.“

Чрез търсене в публични DNS записи, които служат като указател за уеб трафика, Claroc успяла да прегледа стотици разговори в Muse, включително някои, съдържащи преглед на приходите на маркетингова компания, заявление за кредит на собственик на малък бизнес, целогодишния календар на служителите на работно място и бележки за разговор на кандидат за работа с AI лаборатория. Това не е първият случай, в който функциите за споделяне на AI правят чатовете по-публични от предвиденото, тъй като разговори с ChatGPT на OpenAI, Claude на Anthropic и Grok на xAI са се озовавали в Google Search.

• Ема Рот