Sakhanda Wire
NVDA $153.73 -1.54% MSFT $506.30 -2.26% GOOGL $280.09 -1.28% META $619.28 -1.14% AMZN $256.62 -0.44%
← Към новините

Изследователи използвали Claude за достъп до акаунти и код на OpenAI

Изследователи използвали Claude на Anthropic, за да експлоатират слабост в конфигурацията на общностния форум на OpenAI, хостван от външната платформа Discourse. Според публикацията това е осигурило достъп до вътрешни данни за вход и в крайна сметка до ChatGPT акаунта на служител на OpenAI. Чрез него можело да се достигне до вътрешен код, съхраняван в GitHub, както и до чувствителни данни на компанията.

OpenAI заяви, че благодари на изследователите за сигнала и че е отстранила проблемите. Anthropic отказа коментар, а Hacktron не е отговорила веднага. За разкритието първо съобщи The Wall Street Journal.

Публикацията излезе, след като Anthropic представи данни за използването на AI при разработването на модели. Компанията съобщи, че Claude е ръководил 26 процента от изследователската и развойната работа спрямо 1 процент през март. Според Anthropic AI е изпълнявал повечето задачи под човешки инструкции и надзор, а в нито едно от изследваните направления не е работил напълно автономно. При 90 процента от задачите AI е сътрудничил с човек и е извършвал значителна част от работата. Данните са представени като показател за приближаването към рекурсивно самоусъвършенстване.

Текстът е изготвен от ИИ на Sakhanda Wire по материал на Ars Technica. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.

Първоначално публикувано от Ars Technica на

Прочетете оригинала в Ars Technica ↗

Репортажът и изображението принадлежат на Ars Technica и са посочени по-горе с връзка към оригинала; текстът на тази страница е собствено изложение на Sakhanda Wire.

← Към новините

Още новини

Всички последни новини