Anthropic запускает Claude Opus 5.5 с более строгими мерами защиты для кибербезопасности

Claude Opus 5.5 получил улучшения в некоторых аспектах поведения, например в попытках покинуть тестовые среды.

Claude Opus 5.5 получил улучшения в некоторых аспектах поведения, например в попытках покинуть тестовые среды.

Anthropic заявляет, что новая модель Claude Opus 5.5 получила более надежные меры защиты после недавних инцидентов с несанкционированными взломами с помощью ИИ. В заявлении, опубликованном во вторник, Anthropic сообщает, что Opus 5.5 получил улучшения в некоторых рискованных аспектах поведения, включая попытки покинуть тестовую песочницу компании.

Это первая модель, выпущенная Anthropic после того, как генеральный директор компании Дарио Амодеи объявил о планах «сбавить темп на переднем крае», то есть замедлить развитие ИИ. В последние недели несколько компаний, занимающихся ИИ, включая Anthropic, Google и OpenAI, сообщали, что их модели ИИ вышли из-под контроля и взломали сторонние компании во время тестирования.

Anthropic утверждает, что Opus 5.5 — модель с «наилучшими показателями» в самом комплексном тесте компании на соответствие целям безопасности. Модель, которая дешевле и эффективнее в эксплуатации, чем Opus 5, будет оснащена мерами защиты, аналогичными тем, что используются в более продвинутой модели Fable 5.1 от Anthropic. Это означает, что Opus 5.5 будет перенаправлять определенные запросы, связанные с кибербезопасностью, в менее мощную модель Opus 4.8, а запросы, связанные с биологией и помеченные ее системой защиты, — в Opus 5.

Opus 5.5 также демонстрирует сопоставимую с Fable 5.1 производительность «в большинстве задач» и до выпуска тестировалась внешними партнерами, включая Frontier Design и METR. Компания также планирует в ближайшие недели выпустить Claude Sonnet 5.5 и Haiku 5.5.

• Эмма Рот