NVIDIA представила открытую платформу безопасности для ИИ-агентов
NVIDIA представила Open Agent Safety Platform — открытую программную платформу и эталонную архитектуру для защиты ИИ-агентов. В состав входят OpenShell, среда выполнения с лицензией Apache 2.0, и Sentry — независимый от агента наблюдатель на BlueField-4 DPU. Контрольные механизмы при этом размещаются за пределами управляемого агента.
OpenShell запускает агенты в изолированных контейнерах или MicroVM и применяет декларативные политики YAML. Движок политик разрешает или блокирует исходящие соединения, связывает учетные данные с одобренными конечными точками и ведет журнал отказов. Ограничения для файловой системы и процессов задаются при создании sandbox, а сетевые и провайдерские правила можно менять без перезапуска. Среда устанавливается в Linux, macOS на Apple Silicon и Windows WSL 2; репозиторий по-прежнему помечает ее как alpha. BlueField-4 для работы OpenShell не нужен.
По заявлению NVIDIA, Sentry анализирует запросы и ответы, подтверждает личность агента и контролирует доступ к данным, инструментам и API, оставаясь изолированным от хоста. Компания утверждает, что он способен помещать агента в карантин за миллисекунды. С платформой работают более 100 организаций, включая Anthropic, SpaceXAI, Salesforce, SAP, Red Hat, SUSE и Canonical.
Текст подготовлен ИИ Sakhanda Wire по материалу MarkTechPost. Факты, цитаты и полный контекст — в оригинальной статье ниже.