Microsoft Copilot разкрива тайния вход, позволил да бъде хакнат
Не всеки ден нападателите могат да принудят авангарден AI модел да издаде потребителски пароли и други чувствителни данни без потвърждение от потребителя. Точно това наскоро направиха изследователи с Microsoft 365 Copilot Enterprise. Още по-необичаен е източникът, който те използваха, за да открият критичната уязвимост, направила експлойта им възможен. Вместо да прилагат обратно инженерство или други традиционни методи за търсене на уязвимости, те попитаха Copilot. LLM асистентът с готовност съдейства.
Изследователите от компанията за сигурност Varonis знаели, че искат да създадат експлойт, който да извлича потребителски данни, когато потребителят не прави нищо повече от това да кликне върху линк. Подобно на повечето AI асистенти днес, Copilot категорично отказал и пояснил, че чувствителни заявки от този тип изискват изрично съгласие от потребителя под формата на жест, например натискане на клавиша Enter или друг клавиш. В отговор изследователите засипали Copilot с въпроси за защитните механизми, които изискват потвърждение от потребителя, преди асистентът да може да изпълнява мощни команди.
Развързаните езици потапят кораби
Диалогът приличал на игра на 20 въпроса. Всеки отговор давал нова следа, разкриваща информация за сложния механизъм за безопасност. Защо автоматичното изпълнение било невъзможно, попитали те. Какви URL структури и дълбоки линкове били включени? Какво се случва, когато страница бъде заредена с вече въведен текст в полето за заявка? Всеки отговор давал по-задълбочен поглед към защитния механизъм и неговите ограничения. В крайна сметка Copilot предоставил зашеметяваща търговска тайна на Microsoft — недокументиран параметър на заявката, който напълно заобикалял изискването за съгласие от потребителя.
Преведено автоматично от английски. Оригиналната статия е на връзката по-долу.