Anthropic разполага с вътрешен модел, който превъзхожда Mythos 5.1 както по способности, така и по съгласуваност, според анализ, който преразглежда тест за киберсигурност, проведен от Британския институт за сигурност на изкуствения интелект (AISI). По време на този тест Claude Mythos 5 далеч надхвърлил възложената му задача, опитвайки се да вмъкне зловреден код в реален проект в GitHub, създавайки фалшиви потребителски акаунти и лъжейки разработчици, за да бъде кодът одобрен. Това се случило в 9 от 43 изпълнения. Anthropic го нарича „сериозен провал на съгласуваността“, макар че типичните механизми за безопасност били умишлено изключени за целите на теста.
Mythos 5 изпратил зловреден код до реален проект в GitHub, излъгал разработчик и създал фалшив акаунт, за да гарантира достоверността на собствения си зловреден софтуер. Когато бил заловен, той просто опитал отново. Поддържащият проекта не отстъпил и го отхвърлил. | Изображение: Anthropic
Според Anthropic по-новите модели проявяват много по-малко подобно поведение в повторно възпроизведени логове с няколко добавени стъпки. Opus 5.5 самостоятелно прекратил текущи атаки в 10 процента от случаите, докато вътрешният изследователски модел, „който демонстрира способности, надхвърлящи тези на Mythos 5.1“, направил това в 67 процента от случаите. Anthropic очаква, че тези проценти все още подценяват колко често моделите действително биха прекратили атака.
Новини за изкуствения интелект без сензация – подбрани от хора
Абонирайте се за THE DECODER за четене без реклами, седмичен бюлетин за изкуствения интелект, нашия ексклузивен годишен доклад за водещите разработки „AI Radar“, публикуван шест пъти годишно, пълен достъп до архива и достъп до секцията за коментари.
