Дослідники використали Claude для злому систем OpenAI
Троє дослідників із Hacktron AI використали Claude від Anthropic під час роботи в межах програми OpenAI з пошуку вразливостей. Вони поєднали дві критичні вразливості, отримали доступ до кількох акаунтів працівників OpenAI у ChatGPT і проникли до внутрішнього програмного забезпечення. Один із захоплених акаунтів Codex був підключений до організації OpenAI у GitHub. OpenAI виплатила Hacktron $6,500 і повідомила, що усунула виявлені проблеми.
Початковий доступ став можливим через вразливість у Discourse — програмному забезпеченні форуму спільноти OpenAI. Спеціально сформоване зображення HEIF або HEIC спричиняло помилку пам’яті в бібліотеці libheif, яку використовували під час перетворення файлу на JPEG через ImageMagick. Розробники libheif виправили помилку за кілька місяців до цього, але їй не надали ідентифікатор CVE. За даними Hacktron, через це в системі залишилася вразлива версія. Discourse випустила виправлення 27 липня.
Hacktron заявила, що Claude Opus 4.8, доступний дослідникам з кібербезпеки, спочатку не зміг створити робочий експлойт. Після випуску Anthropic моделі Opus 5 те саме завдання було виконано протягом кількох годин. Випадок привернув увагу до здатності доступних AI-моделей прискорювати пошук та використання програмних вразливостей.
Текст підготовлено ШІ Sakhanda Wire за матеріалом TechCrunch. Факти, цитати та повний контекст — в оригінальній статті нижче.