MCP для зв’язку між агентами може бути найризикованішим протоколом, про який ви ніколи не чули
Запровадження ШІ-агентів у мільйонах організацій створює нові можливості для зловмисників змушувати їх виконувати шкідливі дії, як-от викрадення вмісту баз даних, а також конфіденційної ділової та особистої інформації.
За останні п’ять місяців Google та ще чотири організації — єдине, що їх об’єднує, це використання ШІ-агентів — визнали наявність уразливостей, які дають змогу використати одного агента в цільовій мережі для поширення шкідливих інструкцій серед інших внутрішніх агентів. Ця техніка є особливою формою впровадження запитів, спрямованою не на LLM, а на конкретного агента, наприклад агента для перекладу чи аналізу даних. Захисні механізми всередині таких агентів, якщо вони взагалі існують, часто недостатньо надійні й передають інструкції іншим агентам у ланцюжку. Оскільки останній агент беззастережно довіряє першому, він виконує ці вказівки.
Неочікувана проблема, яку важко пом’якшити
Незалежний дослідник Саїд Анас Мохіуддін тестував агентів організацій, зокрема Google, JP Morgan Chase, Weviate, Rapid7, Міжвідомчого цифрового управління уряду Франції та федерального уряду США. Його атаки з підтвердженням концепції використовують прогалини в довірі в MCP — скорочено від Model Context Protocol. Цей стандарт є одним зі способів, за допомогою яких ШІ-застосунки та агенти взаємодіють між собою у внутрішній мережі. На ілюстрації нижче показано спрощену схему роботи MCP.
Перекладено автоматично з англійської. Оригінал статті — за посиланням нижче.