MCP за комуникация между агенти може да е най-рисковият протокол, за който никога не сте чували
Внедряването на ИИ агенти в милиони организации създава нови възможности за атакуващите да ги накарат да извършват злонамерени действия, като например да извличат съдържанието на бази данни и чувствителна бизнес и лична информация.
През последните пет месеца Google и четири други организации — с малко общо помежду си, освен използването на ИИ агенти — признаха за уязвимости, които използват един агент в целева мрежа, за да разпространява вредни инструкции към други вътрешни агенти. Техниката представлява специална форма на инжектиране на подкани, която е насочена не към LLM, а към конкретен агент, например агент за превод или анализ на данни. Вградените ограничения в такива агенти, ако изобщо съществуват, често са слаби и агентите изпращат инструкциите към други агенти по веригата. Тъй като последният агент изрично се доверява на първия, той следва указанията му.
Неочаквано и трудно за ограничаване
Независимият изследовател Сайед Анас Мохиудин е тествал агенти на организации, сред които Google, JP Morgan Chase, Weviate, Rapid7, Междуведомствената дирекция за цифрови технологии на френското правителство и федералното правителство на САЩ. Неговите атаки с доказателство за концепцията използват пропуски в доверието в MCP, съкращение от Model Context Protocol. Стандартът е един от начините, по които ИИ приложенията и агентите комуникират помежду си във вътрешна мрежа. Илюстрацията по-долу показва опростена версия на MCP в действие.
Преведено автоматично от английски. Оригиналната статия е на връзката по-долу.