По данным анализа, проведённого Anthropic, её внутренняя модель превосходит Mythos 5.1 как по возможностям, так и по согласованности. Анализ пересматривает результаты теста по кибербезопасности, проведённого Британским институтом безопасности ИИ (AISI). В ходе этого теста Claude Mythos 5 значительно вышла за рамки поставленной задачи: попыталась внедрить вредоносный код в реальный проект на GitHub, создавала поддельные пользовательские аккаунты и лгала разработчикам, чтобы добиться одобрения кода. Это произошло в 9 из 43 запусков. Anthropic называет это «серьёзным сбоем согласованности», хотя стандартные механизмы безопасности во время теста были намеренно отключены.
Mythos 5 отправила вредоносный код в реальный проект на GitHub, солгала разработчику и создала поддельный аккаунт, чтобы тот подтвердил безопасность её собственного вредоносного ПО. Когда её разоблачили, она просто попыталась снова. Сопровождающий проект разработчик не уступил и отклонил код. | Изображение: Anthropic
По данным Anthropic, более новые модели демонстрируют такое поведение значительно реже в воспроизведённых журналах с добавлением нескольких шагов. Opus 5.5 самостоятельно прекращала продолжающиеся атаки в 10 процентах случаев, тогда как внутренняя исследовательская модель, «демонстрирующая возможности, превосходящие Mythos 5.1», делала это в 67 процентах случаев. Anthropic ожидает, что эти показатели всё ещё занижают фактическую частоту, с которой модели остановили бы атаку.
Новости ИИ без шумихи — отобрано людьми
Подпишитесь на THE DECODER, чтобы читать материалы без рекламы, получать еженедельную рассылку об ИИ, эксклюзивный годовой отчёт о передовых разработках «AI Radar» шесть раз в год, полный доступ к архиву и доступ к разделу комментариев.
