Изследователи по сигурността са използвали Claude, за да проникнат в OpenAI

Екип от трима изследователи е използвал повреден графичен файл и форумен софтуер, за да хакне OpenAI.

Екип от трима изследователи е използвал повреден графичен файл и форумен софтуер, за да хакне OpenAI.

Екип от трима независими изследователи по сигурността от Hacktron твърди, че са им били нужни по-малко от 72 часа, за да хакнат акаунти на служители на OpenAI, използвайки Claude Opus 4.8 и 5 на Anthropic, съобщава Wall Street Journal. Те са успели да получат достъп до GitHub хранилището на OpenAI, наречено „Monorepo“, което според източниците на Wall Street Journal съдържа „алгоритмичните тайни на OpenAI“.

Те не са стигнали дотам сами да получат достъп до вътрешния код в Monorepo, но са изпратили pull request от Codex акаунта на служител, за да докажат, че са получили достъп. Те са успели да проникнат чрез Discourse — услугата на трета страна, която хоства обществените форуми на OpenAI — като са използвали проблем в системата, която обработва HEIF изображения. Според Hacktron Claude Opus 5 е бил пуснат вечерта на 24 юли, а до 10:00 ч. на следващия ден те са го използвали, за да постигнат RCE в Discourse Cloud и да получат достъп до инстанцията на OpenAI.

Проектът им HEIF Heist е отнел „само ден или два“, за да бъде адаптиран за различни компании, включително OpenAI, Slack, Meta, GitHub Ent, Rails, Next.js, ImageMagick и други, като са използвали токени на стойност под 3000 долара, и по тяхна информация е бил засечен само от една от набелязаните цели — Shopify. Уязвимостите, за които Hacktron е съобщила на Discourse и OpenAI, оттогава са отстранени, а Hacktron твърди, че OpenAI ѝ е платил 6500 долара за откриването на грешката, но както каза техническият директор на Hacktron Мохан Педхапати пред WSJ: „Не мисля, че сме толкова силни, колкото китайските заплахови актьори... Ние сме просто трима души с абонаменти за Claude и Codex.“

• Стиви Бонифийлд