Президент OpenAI закликав компанії швидше впроваджувати AI-захист
Президент і співзасновник OpenAI Грег Брокман заявив, що корпоративні команди безпеки мають дедалі менше часу для впровадження захисту з використанням штучного інтелекту. В описі інциденту, який компанія називає «OpenAI-Hugging Face», він повідомив, що автономний «агентний колектив» проник у дослідницьку інфраструктуру OpenAI, а потім перейшов до виробничої інфраструктури Hugging Face. Зловмисники поєднали раніше невідомі вразливості з обліковими даними користувачів, знайденими в інтернеті.
За словами Брокмана, накопичений технічний борг, забуті дозволи та недоліки програм можуть стати легшими цілями для атакувальних AI-моделей. Водночас ті самі технології можуть допомагати захисникам швидше знаходити й виправляти проблеми. Під час перевірки свого сайту Брокман доручив ChatGPT Work на базі GPT‑5.6 Sol провести оцінювання. Приблизно за 15 хвилин інструмент виявив 13 проблем, зокрема небезпечну версію jQuery та незашифрований обмін запитами між Cloudflare і AWS.
OpenAI використовує моделі для перевірки коду, сортування сповіщень і постійного пошуку можливих шляхів атаки. Брокман радить починати з перевірок пріоритетних систем у режимі лише читання, поступово розширюючи автоматизацію та залишаючи людині контроль над важливими рішеннями.
Текст підготовлено ШІ Sakhanda Wire за матеріалом AI News. Факти, цитати та повний контекст — в оригінальній статті нижче.