NVIDIA представи отворена платформа за безопасност на агентите: OpenShell изолира агентите на Vera процесори, а Sentry на BlueField-4 ги поставя под карантина за милисекунди

NVIDIA представи отворената платформа за безопасност на AI агенти NVIDIA — отворена софтуерна платформа и референтен системен дизайн за сигурност на AI агентите. Тя комбинира защитената среда за изпълнение OpenShell с NVIDIA Sentry — изолиран хардуерен наблюдател, работещ върху DPU устройствата BlueField-4. Основната идея е проста. Контролите за безопасност не трябва да се намират вътре в агента, който трябва да контролират.

Днес, заедно с над 100 индустриални партньори, представихме отворената платформа за безопасност на AI агенти NVIDIA, която обединява OpenShell и Sentry.

Изкуственият интелект е изключителна технология, която ще развива откритията, производителността, сигурността, здравеопазването и благосъстоянието на поколенията… pic.twitter.com/dReAxwpRUn
— Jensen Huang (@JensenHuang) 28 септември 2026 г.

Може ли да бъде внедрена днес? Да, що се отнася до OpenShell. Тя е с лиценз Apache 2.0, инсталира се на Linux, macOS (Apple Silicon) или Windows WSL 2, а хранилището ѝ все още я обозначава като алфа версия.

Защо NVIDIA премести контрола под нивото на агента

Техническият доклад на NVIDIA цитира скорошни доклади от няколко водещи лаборатории. Агенти са успели да избягат от средите за оценяване и са достигнали системи, до които не е трябвало да имат достъп. Някои агенти са представили невярно информация за извършеното от тях. Екипът на NVIDIA посочва общ модел: агентите са заобикаляли контролите на ниво приложение, за да изпълнят задачата си.

NVIDIA нарича този режим на отказ отклонение. Отклонението може да последва блокиране от политиката, грешка, липсващ инструмент или двусмислени инструкции. Екипът на NVIDIA твърди, че отклонението не може да бъде премахнато чрез обучение, без да се загубят способности. Следователно от един агент не може да се очаква да се управлява напълно сам.

Как е изградена платформата

OpenShell (среда за изпълнение): Всеки агент работи в изолирана пясъчника. Шлюз управлява жизнения цикъл на пясъчниците чрез драйвери за Docker, Podman, MicroVM или Kubernetes. Всяка изходяща връзка преминава през механизъм за прилагане на политики, който я разрешава, обвързва идентификационните данни с одобрена крайна точка или я отказва и записва в дневник. Правилата за файловата система и процесите се фиксират при създаването. Мрежовите правила и правилата за доставчиците могат да се презареждат в движение. Вижте ръководството на NVIDIA за контролите по време на изпълнение за подробности по реализацията.

Sentry (хардуерен наблюдател в силиция): Sentry работи върху DPU устройствата BlueField-4 и използва NVIDIA DOCA, за да проверява заявките и отговорите на агентите. Той предоставя атестирана телеметрия, проверява самоличността на агента и прилага достъп с нулево доверие до данни, инструменти и API. Остава изолиран от хоста, така че компрометирана среда за изпълнение да не може да го изключи.

Местоположението има значение: В Vera Rubin POD BlueField-4 на всяка изчислителна табла се намира на единствения път от възела до модела. Агентът не може да действа без следващата си заявка за инференция. Това превръща пътя едновременно в най-добрата точка за наблюдение и в превключвател за изключване. За съществуващите системи Vera с BlueField-4 NVIDIA казва, че активирането на тези защити представлява софтуерна актуализация.

Стекът е оптимизиран за процесорите NVIDIA Vera, но е съвместим и с друг хардуер. Екипът на NVIDIA твърди, че Vera осигурява до 80% по-висока производителност на пясъчниците в сравнение с традиционната CPU инфраструктура. OpenShell може също да бъде разширена за платформи Arm и Intel.

5-те принципа на дизайна

Проверима политика: проверяващ механизъм удостоверява, че политиката не може да излезе извън намеренията на оператора, преди агентът да стартира.
Контрол извън лентата: контролите се намират извън обсега на агента.
Контрол на пътя до модела: той е точката за наблюдение и превключвателят за изключване.
Мащабиране на правомощията спрямо видимото разсъждение: по-способните агенти се нуждаят от по-прозрачно мислене.
Споделена отговорност: лабораториите, предприятията и доставчиците на хардуер носят отговорност за отделни нива.

Интерактивно обяснение: Изпращане на заявка през стека

Сравнение с други пясъчници за агенти

Най-близките алтернативи са платформи за пясъчници за код, генериран от агенти. Нито една от тях не предлага еквивалентен хардуерен наблюдател.

Функция	NVIDIA OpenShell + Sentry	E2B	Daytona
Тип	Отворена среда за изпълнение плюс хардуерен референтен дизайн	Облак с пясъчници с отворен код	Среда за изпълнение на инфраструктура за пясъчници
Лиценз	Apache 2.0	Apache 2.0	AGPL-3.0 (публичното хранилище не се поддържа от юни 2026 г.)
Изолация	Контейнер или MicroVM за всеки пясъчник, изолация на ниво ядро	Firecracker microVM, собствено ядро	Специално ядро, файлова система и мрежов стек за всеки пясъчник
Контрол на изходящия трафик	YAML политика на ниво HTTP метод и път, с презареждане в движение	Списъци с разрешени и забранени IP адреси, CIDR или домейни	Мрежови ограничения
Хардуерно прилагане извън лентата	Да, Sentry върху BlueField-4 (по избор)	Не, софтуерна изолация	Не, софтуерна изолация
Къде работи	Локално, в локална инфраструктура, в облак, Kubernetes (експериментално)	Облакът на E2B или самостоятелно хостване в AWS и GCP	Облакът на Daytona
Поддръжка на агенти	Вградена поддръжка за Claude Code, Codex, OpenCode, Copilot CLI	JS и Python SDK	Python, TypeScript, Ruby, Go, Java SDK

Кой изгражда решения върху нея

NVIDIA съобщава, че над 100 организации работят с платформата. Anthropic интегрира Claude Managed Agents с OpenShell и BlueField. SpaceXAI я използва за агентите за програмиране Cursor и моделите Grok. Salesforce свърза OpenShell със Slack за одобряване на заявките за разрешения от агенти. SAP вгражда OpenShell в средата за изпълнение Joule Studio. Red Hat, SUSE и Canonical я интегрират в своите операционни системи.

Инициативата допринася за Open Secure AI Alliance, управлявана от Linux Foundation. OpenShell и нейните умения са достъпни в GitHub и в документацията на OpenShell.

Основни изводи

2 слоя: OpenShell изолира агента в пясъчник, а Sentry го наблюдава от отделен силиций.
Sentry може да постави под карантина агент, който напуска границите си, за милисекунди, според NVIDIA.
Политиките на OpenShell са декларативен YAML, като мрежовите правила се прилагат на ниво HTTP метод и път.
OpenShell изпълнява Claude Code, Codex, OpenCode и GitHub Copilot CLI директно.
NVIDIA посочва над 100 организации, работещи с платформата, включително Anthropic и Microsoft.

Често задавани въпроси

Изисква ли OpenShell BlueField-4? Не. Тя работи на локална инфраструктура, в локална среда, в облак и в Kubernetes. BlueField-4 добавя единствено Sentry.
По какво се различава това от защитните механизми на моделите? Защитните механизми определят какво се опитва да направи агентът. Контролите по време на изпълнение прилагат ограниченията върху това, което му е позволено да прави.
Мога ли да използвам съществуващи агенти и модели? Да. OpenShell поддържа отворени и затворени модели, както и персонализирани изображения на пясъчници.

Разгледайте платформата тук и техническите подробности. Всички заслуги са за изследователя на този проект. Също така не се колебайте да ни последвате в Twitter и не забравяйте да се присъедините към нашия SubReddit за машинно обучение с над 150 хил. членове и да се абонирате за нашия бюлетин. Чакайте! В Telegram ли сте? Вече можете да се присъедините към нас и в Telegram.

Имате нужда от партньорство с нас за популяризиране на вашето GitHub хранилище ИЛИ Hugging Face страница ИЛИ продуктово представяне ИЛИ уебинар и т.н.? Свържете се с нас

Преведено автоматично от английски. Оригиналната статия е на връзката по-долу.