Исследователи в области безопасности использовали Claude, чтобы взломать OpenAI

Команда из трёх исследователей использовала повреждённый файл изображения и форумное ПО, чтобы взломать OpenAI.

Команда из трёх исследователей использовала повреждённый файл изображения и форумное ПО, чтобы взломать OpenAI.

Команда из трёх независимых исследователей по безопасности из Hacktron утверждает, что им потребовалось менее 72 часов, чтобы взломать аккаунты сотрудников OpenAI с помощью Claude Opus 4.8 и 5 от Anthropic, сообщает Wall Street Journal. Им удалось получить доступ к репозиторию OpenAI на GitHub под названием «Monorepo», который, согласно источникам Wall Street Journal, содержит «алгоритмические секреты OpenAI».

Они не стали самостоятельно получать доступ к внутреннему коду в Monorepo, но отправили pull request из аккаунта Codex сотрудника, чтобы доказать, что получили доступ. Им удалось проникнуть через Discourse — сторонний сервис, на котором размещены форумы сообщества OpenAI, — воспользовавшись уязвимостью в системе обработки изображений HEIF. По данным Hacktron, Claude Opus 5 был запущен вечером 24 июля, а к 10 часам утра следующего дня исследователи уже использовали его для достижения удалённого выполнения кода в Discourse Cloud и получения доступа к экземпляру OpenAI.

Для адаптации проекта HEIF Heist под разные компании, включая OpenAI, Slack, Meta, GitHub Ent, Rails, Next.js, ImageMagick и другие, им потребовалось «всего один или два дня» и менее 3000 долларов в токенах. Насколько им известно, обнаружила их только одна цель — Shopify. Уязвимости, о которых Hacktron сообщила Discourse и OpenAI, с тех пор были устранены. Hacktron утверждает, что OpenAI заплатила ей 6500 долларов за обнаружение ошибки, однако, как сказал технический директор Hacktron Мохан Педхапати в интервью WSJ: «Я не думаю, что мы настолько же сильны, как китайские субъекты угроз… Мы всего лишь трое парней с подписками на Claude и Codex».

• Stevie Bonifield