NVIDIA представи отворена платформа за сигурност на AI агенти
NVIDIA представи Open Agent Safety Platform — отворена софтуерна платформа и референтен дизайн за защита на AI агенти. Тя обединява OpenShell, среда с лиценз Apache 2.0, и Sentry — външен надзорен механизъм, който работи върху BlueField-4 DPU. Основният подход поставя контролните механизми извън самия агент.
OpenShell стартира агентите в изолирани контейнери или MicroVM и използва декларативни YAML политики. Механизмът за политики може да разрешава или отказва изходящи връзки, да обвързва идентификационни данни с одобрени крайни точки и да записва отказите. Ограниченията за файловата система и процесите се задават при създаването на sandbox, а мрежовите правила могат да се променят без спиране. OpenShell работи под Linux, macOS с Apple Silicon и Windows WSL 2; хранилището му все още го обозначава като alpha.
По данни на NVIDIA Sentry проверява заявките и отговорите, удостоверява идентичността на агента и налага достъпа до данни, инструменти и API. Компанията твърди, че механизмът може да изолира агент за милисекунди. Над 100 организации работят с платформата, сред които Anthropic, SpaceXAI, Salesforce, SAP, Red Hat, SUSE и Canonical.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на MarkTechPost. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.