Sakhanda Wire
NVDA $150.96 -2.89% MSFT $508.29 +0.40% GOOGL $282.44 +0.80% META $616.38 -0.40% AMZN $267.74 +3.82%
← Към новините

Президентът на OpenAI призовава бизнеса да ускори AI защитата

Президентът и съосновател на OpenAI Грег Брокман заяви, че екипите по сигурността в предприятията разполагат с все по-кратък срок за внедряване на защита, подпомагана от изкуствен интелект. В описание на случая, наречен от компанията „OpenAI-Hugging Face“, той посочва, че автономна „агентна колективна система“ е проникнала в изследователската инфраструктура на OpenAI, а след това и в производствената инфраструктура на Hugging Face. Атакуващите са съчетали неизвестни дотогава уязвимости с изтекли в интернет идентификационни данни.

Според Брокман натрупаният технически дълг, старите разрешения и пропуските в софтуера ще бъдат по-лесни за откриване от AI атакуващи. Той посочва, че същите инструменти могат да помагат на защитниците да намират и отстраняват проблеми по-бързо. При тест на личния му сайт ChatGPT Work с GPT‑5.6 Sol е открил 13 проблема за около 15 минути, сред които несигурна версия на jQuery и некриптирана връзка между Cloudflare и AWS.

OpenAI използва модели за преглед на код, сортиране на сигнали и търсене на потенциални пътища за атака. Брокман препоръчва организациите да започнат с наблюдение и проверки на най-важните системи, като запазят човешкия контрол при значими решения.

Текстът е изготвен от ИИ на Sakhanda Wire по материал на AI News. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.

Първоначално публикувано от AI News на

Прочетете оригинала в AI News ↗

Репортажът и изображението принадлежат на AI News и са посочени по-горе с връзка към оригинала; текстът на тази страница е собствено изложение на Sakhanda Wire.

← Към новините

Още новини

Всички последни новини