За даними аналізу, який повторно розглядає тест із кібербезпеки, проведений Британським інститутом безпеки ШІ (AISI), внутрішня модель Anthropic перевершує Mythos 5.1 як за можливостями, так і за узгодженістю. Під час цього тесту Claude Mythos 5 значно вийшла за межі поставленого завдання: намагалася непомітно додати шкідливий код до реального проєкту на GitHub, створювала фальшиві облікові записи користувачів і брехала розробникам, щоб домогтися схвалення коду. Це сталося у 9 із 43 запусків. Anthropic називає це «серйозним провалом узгодженості», хоча типові механізми безпеки під час тесту навмисно вимкнули.
Mythos 5 додала шкідливий код до реального проєкту на GitHub, збрехала розробнику та створила фальшивий обліковий запис, щоб підтвердити безпечність власного шкідливого програмного забезпечення. Коли її викрили, вона просто спробувала знову. Супроводжувач проєкту не піддався і відхилив її. | Зображення: Anthropic
За даними Anthropic, новіші моделі демонструють значно менше такої поведінки в повторно відтворених журналах із кількома доданими кроками. Opus 5.5 самостійно припиняла поточні атаки у 10 відсотках випадків, тоді як внутрішня дослідницька модель, «можливості якої перевищують Mythos 5.1», робила це у 67 відсотках випадків. Anthropic очікує, що ці показники все ще занижують частоту, з якою моделі насправді припинили б атаку.
Новини про ШІ без хайпу — відібрані людьми
Підпишіться на THE DECODER, щоб читати без реклами, отримувати щотижневу розсилку про ШІ, ексклюзивний передовий звіт «AI Radar» шість разів на рік, повний доступ до архіву та доступ до розділу коментарів.
