Anthropic создаст API для выявления текстов, написанных Claude
Anthropic сообщила, что вскоре выпустит API, с помощью которого сторонние разработчики смогут проверять, был ли текст создан при участии Claude. Технология основана на варианте метода SynthID Text, разработанного Google DeepMind и опубликованного в Nature в 2024 году. При выборе слов система меняет источник случайности, формируя распознаваемый узор. По утверждению Anthropic, это не влияет на содержание, творческий уровень и удобство чтения текста.
Водяной знак менее надежен в коротких и насыщенных фактами материалах, а также в коде. Исправления, при которых человек самостоятельно выбирает каждое слово, его не получают. В переводах метка может сохраняться, поскольку все слова выбирает Claude, тогда как глубокая переработка способна ее удалить. Проверка лишь указывает на вероятное участие Claude и не показывает, написал ли он весь материал или только существенно его отредактировал. Отличить такой текст от созданного человеком или другой AI-моделью она не может.
Anthropic связывает запуск с требованиями Закона ЕС об искусственном интеллекте и подписанием в июле 2026 года Кодекса практики ЕС о прозрачности контента, созданного AI, вместе примерно со 190 другими участниками. Поскольку технически ограничить функцию отдельными регионами нельзя, она будет доступна по всему миру. Модели, выпущенные после 2 августа 2025 года, уже поддерживают маркировку, а более старые получат ее в ближайшие месяцы. Для файлов компания применяет метаданные открытого стандарта C2PA.
Текст подготовлен ИИ Sakhanda Wire по материалу The Decoder. Факты, цитаты и полный контекст — в оригинальной статье ниже.