Anthropic пояснила принцип роботи невидимих водяних знаків у текстах Claude
Anthropic розкрила деталі запланованої системи невидимого маркування текстів, створених Claude. Компанія повідомляє, що цей механізм має допомогти виконувати європейські вимоги щодо прозорості штучного інтелекту. У п’ятницю Anthropic заявила, що система є версією підходу SynthID-Text.
Метод використовує вибори, які майже не впливають на зміст речення. Наприклад, після слів «The weather today was cold and…» продовження «overcast» або «grey» є ймовірними, тоді як «sugary» — ні. Зазвичай модель визначає наступне слово за допомогою випадкового числа. За наявності водяного знака вибір також залишається випадковим, але залежить від ключа та кількох слів попереднього контексту. Повторення цього процесу в різних місцях тексту створює певний шаблон. Читач його не бачить, але виявити маркування може той, хто має відповідний ключ.
Текст підготовлено ШІ Sakhanda Wire за матеріалом The Verge. Факти, цитати та повний контекст — в оригінальній статті нижче.