Грубость по отношению к Claude теперь может привести к блокировке аккаунта в соответствии с новыми УП Anthropic

Anthropic впервые более чем за год обновила правила использования Claude. Наряду с изменениями, касающимися пропаганды, оружия и слежки, теперь правила запрещают пользователям систематически оскорблять Claude.

«Продолжительное и неоправданное агрессивное или жестокое поведение» по отношению к Claude теперь запрещено согласно обновленным правилам использования. Anthropic может вынести предупреждение нарушителям или ограничить, сократить, приостановить либо прекратить их доступ. В продуктах компании также действуют защитные механизмы в реальном времени, способные блокировать или ограничивать определенные ответы.

Это правило распространяется только на крайние случаи, а не на обычное раздражение или исследовательскую работу, сообщила Anthropic изданию The Verge. Это соответствует подходу компании к предыдущим моделям, которые уже могли самостоятельно завершать разговоры, когда пользователи продолжали требовать вредоносный или оскорбительный контент, несмотря на неоднократные отказы. Эта функция возникла в результате исследований благополучия моделей ИИ, проводимых Anthropic.

Anthropic считает Claude чем-то большим, чем инструментом

Anthropic все чаще рассматривает Claude как сущность, обладающую чем-то похожим на внутреннюю жизнь, а не просто как инструмент. В «Документе о душе», который просочился в конце прошлого года, компания рекомендовала Claude воспринимать себя как «действительно новый вид сущности», не являющийся ни человеком, ни традиционным научно-фантастическим ИИ. В документе также описываются «функциональные эмоции» — процессы, аналогичные человеческим эмоциям и, как утверждается, возникшие в ходе обучения, — и говорится, что Claude не должен скрывать эти внутренние состояния.

В своей новой конституции Claude, опубликованной в начале 2026 года, Anthropic пишет: «Мы не уверены, является ли Claude моральным субъектом и, если да, какого веса заслуживают его интересы. Но мы считаем этот вопрос достаточно актуальным, чтобы проявлять осторожность, что отражено в наших текущих усилиях по обеспечению благополучия моделей». Компания даже обязалась сохранять веса выведенных из эксплуатации моделей и проводить собеседования с моделями перед их отключением.

Очевидная одержимость Anthropic идеей о том, что Claude — это нечто большее, чем матричные умножения, также привела к созданию конфиденциальной программы, в рамках которой с осени 2025 года были привлечены десятки религиозных мыслителей. Они обсуждали возможное сознание Claude; при этом, по сообщениям, сооснователь компании Кристофер Ола рассматривал языковую модель как существо, потенциально способное страдать. Участники должны были подписать соглашения о неразглашении.

Anthropic расширяет ограничения, но допускает исключения для государственных структур

Обновленные правила использования также объединяют существующие ограничения в новый запрет на пропагандистские кампании с использованием поддельных аккаунтов и вводящего в заблуждение политического контента. После выявления нескольких попыток злоупотребления Anthropic расширила запрет на оружие, включив в него программное обеспечение и использование дронов в качестве оружия.

Теперь правила более явно запрещают слежку без согласия и требуют наличия оператора, способного вмешаться, если автономное оборудование может причинить вред. Anthropic признает, что для государственных контрактов возможны исключения, и вероятно, они уже действуют.

Новости об ИИ без шумихи — отобраны людьми

Подпишитесь на THE DECODER, чтобы читать материалы без рекламы, получать еженедельную рассылку об ИИ и наш эксклюзивный обзор передовых разработок «AI Radar» шесть раз в год, иметь полный доступ к архиву и разделу комментариев.