Президентът на OpenAI призовава бизнеса да ускори AI защитата
Президентът и съосновател на OpenAI Грег Брокман заяви, че екипите по сигурността в предприятията разполагат с все по-кратък срок за внедряване на защита, подпомагана от изкуствен интелект. В описание на случая, наречен от компанията „OpenAI-Hugging Face“, той посочва, че автономна „агентна колективна система“ е проникнала в изследователската инфраструктура на OpenAI, а след това и в производствената инфраструктура на Hugging Face. Атакуващите са съчетали неизвестни дотогава уязвимости с изтекли в интернет идентификационни данни.
Според Брокман натрупаният технически дълг, старите разрешения и пропуските в софтуера ще бъдат по-лесни за откриване от AI атакуващи. Той посочва, че същите инструменти могат да помагат на защитниците да намират и отстраняват проблеми по-бързо. При тест на личния му сайт ChatGPT Work с GPT‑5.6 Sol е открил 13 проблема за около 15 минути, сред които несигурна версия на jQuery и некриптирана връзка между Cloudflare и AWS.
OpenAI използва модели за преглед на код, сортиране на сигнали и търсене на потенциални пътища за атака. Брокман препоръчва организациите да започнат с наблюдение и проверки на най-важните системи, като запазят човешкия контрол при значими решения.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на AI News. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.