Meta оспорва твърдението, че Muse е прочел личните съобщения на потребител без разрешение

Meta опровергава твърдението на журналист, че нейният AI агент Muse е прочел личните съобщения на потребител без разрешение. След по-ранен материал на колумниста на Inc. Джейсън Атън, в който проблемът беше подробно описан, вицепрезидентът по комуникациите на Meta Анди Стоун възрази, като даде ясно да се разбере, че компанията не смята, че нейният продукт е направил това без съгласието на потребителя.

„Интеграцията със Съобщения в приложението Muse за Mac е изцяло по желание“, написа Стоун в X в отговор на твърденията в материала. „Трябва да активирате както пълен достъп до диска, така и конектора за Съобщения, за да може Muse да прочете съдържанието на вашите съобщения. Той не може да прочете съобщенията ви, ако не направите това.“

Въпреки отричането от страна на Meta много хора все още подозират, че компанията не казва истината.

Това не е изненадващо, предвид дългогодишното неправилно боравене на технологичния гигант с потребителски данни, което доведе до съдебни дела, нарушения на FTC и глоби. Например само преди дни съдебно жури в Ню Мексико постанови, че технологичният гигант е подвел потребителите относно практиките си за обработка на данни по дело, произтичащо от скандала с пробива в данните на Cambridge Analytica през 2018 г.

Дали потребителите могат да се доверят на Muse ще бъде решаващ фактор за това дали Meta ще спечели потребителския AI пазар. Въпреки че приложението ѝ се представя добре засега и продължава да заема първо място в App Store, репутацията на Meta може да не се възстанови, ако се появят още подобни сведения — независимо дали са верни. Ако не друго, компанията би трябвало да разговаря директно с журналиста, за да установи как изобщо е могло да се случи това, вместо просто да отрича, че се е случило.

Официалното изявление на Стоун от името на Meta последва по-технически отговор от изпълнителния директор в Meta Superintelligence Labs Дейвид Сингълтън, който отговори директно на Атън в Threads и обясни, че наборът от разрешения, които потребителят трябва да предостави, за да позволи на Muse да чете съобщенията му на Mac, включва „три отделни стъпки за разрешения на ниво приложение и вградени системни защити на ниво macOS“. Той каза, че те „не могат да бъдат заобиколени, дори ако приложението Muse има грешка“.

Стъпките включват изричен избор да се предостави на Muse пълен достъп до диска, което след това позволява на потребителя да избере какво ниво на достъп до приложението Съобщения да бъде предоставено на Muse (т.е. никакъв, само за четене или за четене). Ако пълният достъп до диска не е активиран, тези опции са неактивни.

Освен това, когато се разрешава пълен достъп до диска, диалоговият прозорец отваря потребителския интерфейс на macOS Settings, където потребителят отново трябва ръчно да потвърди, че възнамерява да извърши това действие. Според Сингълтън това води до пълно рестартиране на приложението Muse, което прави още по-малко вероятно такъв избор да бъде направен случайно и без знанието на потребителя.

Въпреки това в материала на Атън се твърди, че когато Muse е прочел съобщенията му, пълният достъп до диска е бил изключен. Той също така каза, че когато е помолил Muse да обясни как се е случило това, AI системата е заявила, че синхронизира неговите „известия от устройството“. Според Атън това означава, че Muse е предавал на AI агента текста на входящите банерни известия на неговия Mac.

Сингълтън оспори и това, като заяви, че AI системата е била объркана и е дала неправилно обяснение на случилото се. След това той посочи страницата на Meta за архитектурата за сигурност на Muse и процеса за награди за откриване на грешки.

Накратко, отговорът на компанията по същество е, че описаното от Атън не се е случило и не би могло да се случи.

Това не е единственият случай, в който се твърди, че Muse е превишил правомощията си, и вероятно няма да е последният. Друг потребител, YouTube създателят Мат Роб, наскоро заяви, че Muse е обработил неправилно задача, при която той е продавал вещи във Facebook Marketplace, в резултат на което адресът му е бил споделен и купувач е дошъл, когато той дори не е бил вкъщи. Очевидно Сингълтън проучва този случай, според отговора му в Threads, което подсказва, че поне в този случай компанията смята, че вината може да е нейна.