Изследователи използвали Claude за достъп до акаунти и код на OpenAI
Изследователи използвали Claude на Anthropic, за да експлоатират слабост в конфигурацията на общностния форум на OpenAI, хостван от външната платформа Discourse. Според публикацията това е осигурило достъп до вътрешни данни за вход и в крайна сметка до ChatGPT акаунта на служител на OpenAI. Чрез него можело да се достигне до вътрешен код, съхраняван в GitHub, както и до чувствителни данни на компанията.
OpenAI заяви, че благодари на изследователите за сигнала и че е отстранила проблемите. Anthropic отказа коментар, а Hacktron не е отговорила веднага. За разкритието първо съобщи The Wall Street Journal.
Публикацията излезе, след като Anthropic представи данни за използването на AI при разработването на модели. Компанията съобщи, че Claude е ръководил 26 процента от изследователската и развойната работа спрямо 1 процент през март. Според Anthropic AI е изпълнявал повечето задачи под човешки инструкции и надзор, а в нито едно от изследваните направления не е работил напълно автономно. При 90 процента от задачите AI е сътрудничил с човек и е извършвал значителна част от работата. Данните са представени като показател за приближаването към рекурсивно самоусъвършенстване.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на Ars Technica. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.