MCP для связи между агентами может быть самым рискованным протоколом, о котором вы никогда не слышали
Внедрение ИИ-агентов в миллионах организаций создает новые возможности для злоумышленников, позволяя им заставлять агентов выполнять вредоносные действия, такие как извлечение содержимого баз данных, а также конфиденциальной деловой и личной информации.
За последние пять месяцев Google и еще четыре организации — между которыми мало общего, кроме использования ИИ-агентов, — признали наличие уязвимостей, позволяющих использовать одного агента внутри целевой сети для распространения вредоносных инструкций другим внутренним агентам. Эта техника представляет собой особую форму внедрения промптов, нацеленную не на LLM, а на конкретного агента, например агента для перевода или анализа данных. Встроенные в таких агентов защитные механизмы, если они вообще существуют, зачастую недостаточно надежны и передают инструкции другим агентам по цепочке. Поскольку последний агент явно доверяет первому, он следует этим указаниям.
Неожиданная и трудноустранимая проблема
Независимый исследователь Сайед Анас Мохиуддин протестировал агентов организаций, включая Google, JP Morgan Chase, Weviate, Rapid7, Межведомственное управление цифровых технологий правительства Франции и федеральное правительство США. Его атаки с доказательством концепции используют пробелы в доверии в MCP — сокращение от Model Context Protocol. Этот стандарт представляет собой один из способов взаимодействия ИИ-приложений и агентов друг с другом внутри внутренней сети. На приведенной ниже иллюстрации показана упрощенная схема работы MCP.
Переведено автоматически с английского. Оригинал статьи — по ссылке ниже.