Изследователи използваха Claude за пробив в системите на OpenAI
Тричленен екип от Hacktron AI е използвал Claude на Anthropic в рамките на програмата на OpenAI за откриване на уязвимости. Изследователите са комбинирали две критични слабости, получили са достъп до няколко акаунта в ChatGPT на служители на OpenAI и са достигнали до вътрешен софтуер. Един от превзетите акаунти е бил свързан с GitHub организацията на OpenAI чрез Codex. Компанията е изплатила на Hacktron $6,500 и заявява, че е отстранила проблемите.
Първоначалният достъп е минал през уязвимост в Discourse, платформата зад обществения форум на OpenAI. Специално създаден HEIF или HEIC файл е задействал грешка в паметта на библиотеката libheif, използвана при преобразуването на изображения към JPEG чрез ImageMagick. Поправката е съществувала от месеци, но не е била регистрирана с CVE номер, така че уязвимата версия е останала в употреба. Discourse е издала поправка на 27 юли.
Hacktron съобщава, че Claude Opus 4.8 първоначално не е успял да създаде работещ експлойт. След пускането на Opus 5 същата задача е била изпълнена за часове. Случаят показва как налични AI модели могат да ускорят откриването и използването на софтуерни слабости.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на TechCrunch. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.