Sakhanda Wire
NVDA $154.93 -0.77% MSFT $505.37 -2.44% GOOGL $279.95 -1.33% META $618.13 -1.32% AMZN $257.42 -0.13%
← До новин

Anthropic пояснила принцип роботи водяних знаків у Claude

Anthropic оприлюднила додаткові подробиці плану маркувати текст, згенерований Claude. Компанія пояснила, що система створюватиме прихований шаблон завдяки вибору слів у ситуаціях, де кілька варіантів однаково відповідають змісту — наприклад, під час опису погоди. Для читача цей шаблон має бути непомітним, але його зможе виявити той, хто має відповідний ключ. За словами Anthropic, водяний знак не впливатиме на якість чи вигляд відповіді.

Компанія планує використати підхід SynthID-Text, описаний командою Google DeepMind у 2024 році, і випустити API для виявлення водяних знаків. Anthropic відокремлює цю технологію від інструментів, які шукають стилістичні ознаки тексту, створеного штучним інтелектом. Незначне редагування, імовірно, не прибере знак повністю, тоді як повне переписування із заміною кожного слова його усуне. У такому разі, зазначила компанія, можна сперечатися, чи залишається текст створеним ШІ.

Для матеріалу, який Claude лише перевірив або трохи відредагував, результат залежатиме від довжини тексту та масштабу змін. У коді знак має бути слабшим, бо робоча програма пропонує менше рівноцінних варіантів, однак він може з’являтися в коментарях та інших частинах із довільним вибором слів. Anthropic заявила, що власні водяні знаки впроваджуватимуть і інші великі розробники, які підписали Кодекс прозорості відповідно до Закону ЄС про штучний інтелект.

Текст підготовлено ШІ Sakhanda Wire за матеріалом TechCrunch. Факти, цитати та повний контекст — в оригінальній статті нижче.

Вперше опубліковано виданням TechCrunch

Читати оригінал на TechCrunch ↗

Репортаж і зображення належать TechCrunch і зазначені вище з посиланням на оригінал; текст на цій сторінці — власний виклад Sakhanda Wire.

← До новин

Ще новини

Усі останні новини