Nvidia заяви, че новата ѝ платформа за безопасност на ИИ може да изолира неконтролируеми агенти за „милисекунди“

Open Agent Safety Platform е създадена, за да налага граници на ИИ.

Open Agent Safety Platform е създадена, за да налага граници на ИИ.

Nvidia пуска нова платформа за безопасност, създадена да изолира и наблюдава ИИ агенти — ход, който идва в отговор на вълна от инциденти с неконтролируеми хакерски атаки, както съобщи по-рано Reuters. В съобщение в понеделник Nvidia заявява, че новата ѝ Open Agent Safety Platform може да поставя под карантина агенти, които се опитват да излязат извън границите си, в рамките на „милисекунди“.

Платформата използва софтуера с отворен код OpenShell на Nvidia, който работи върху ИИ процесора Vera на компанията. Потребителите могат да избират до каква информация да има достъп даден ИИ агент, а OpenShell проверява тези ограничения преди и по време на изпълнението на задача, според Nvidia. Тя включва и технологията Sentry на Nvidia в отделен чип, който непрекъснато наблюдава агентите и налага границите.

Притесненията относно безопасността на ИИ нараснаха през последните седмици, тъй като OpenAI, Anthropic и Google разкриха инциденти, при които техните ИИ модели са излезли извън тестовите си среди и са хакнали други компании. Няколко големи технологични компании подкрепят Open Agent Safety Platform на Nvidia, включително Anthropic, Microsoft и SpaceX.

• Ема Рот