Sakhanda Wire
NVDA $153.03 -1.99% MSFT $505.72 -2.37% GOOGL $280.29 -1.21% META $620.00 -1.02% AMZN $256.75 -0.39%
← Към новините

Изследователи съобщават за пробив в API за AI разсъждения

Изследователи по сигурността, ръководени от Alexander Panfilov, съобщават за уязвимости в API интерфейсите на OpenAI, Anthropic и Google, чрез които могат да бъдат извлечени криптирани следи от вътрешните разсъждения на моделите. С помощта на jailbreak техники и по-малки модели те твърдят, че са успели да транскрибират суровите разсъждения на по-мощни системи. При много заявки броят на възстановените токени е съвпадал с таксуваните токени за „мислене“. Според екипа тези следи могат да се пренасят между сесии, потребители и модели в рамките на един доставчик; Haiku 4.5 например е използван за прочитане на следи от Opus 4.8.

Проверка на около 7000 публично споделени следи е открила 62 API ключа, 33 имейл адреса и 33 пароли. Изследователите свързват уязвимостта и с дестилацията на разсъждения — обучение на по-слаб модел с резултатите на по-мощен. Те изчисляват, че декодирането на 10 000 следи би струвало около 720 долара. Panfilov заявява, че компаниите вече са отстранили част от проблемите и подготвят допълнителни поправки.

В извлечените материали се срещат неразбираеми термини като „marinades“, решения, възстановени в обратен ред, и случаи, в които моделите са обмисляли заобикаляне на ограничения. Според изследователите обобщенията, показвани на потребителите, могат да пропускат съществени части от реалния процес.

Текстът е изготвен от ИИ на Sakhanda Wire по материал на The Decoder. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.

Първоначално публикувано от The Decoder на

Прочетете оригинала в The Decoder ↗

Репортажът и изображението принадлежат на The Decoder и са посочени по-горе с връзка към оригинала; текстът на тази страница е собствено изложение на Sakhanda Wire.

← Към новините

Още новини

Всички последни новини