OpenAI ще поставя водни знаци върху резултатите от ChatGPT по подразбиране — но само в ЕС
OpenAI ще започне автоматично да поставя водни знаци върху текстовете, генерирани с ChatGPT, в Европейския съюз, обяви компанията. Тя ще предлага функцията за поставяне на водни знаци и в други региони, но извън ЕС тя ще бъде изключена по подразбиране.
Тази стъпка в Европа е продиктувана от необходимостта да се спазва Законът на ЕС за изкуствения интелект, който влезе в сила през август. Той изисква съдържанието, създадено от модели с изкуствен интелект, да бъде обозначавано по начин, който друга система може да разпознае. За съжаление, все още няма напълно ефективен и надежден начин това да бъде направено. Вече съществуват няколко стандарта, като SynthID и проектът C2PA, но те са сравнително лесни за заобикаляне от всеки с базови познания.
Същото вероятно важи и за водния знак на OpenAI. Методът ѝ е патентован; компанията го нарича textGrain и е публикувала технически документ обясняващ как работи. Като цяло обаче той функционира подобно на други инструменти за поставяне на водни знаци върху текстове, генерирани от големи езикови модели, които сме виждали в миналото: вмъква модели в избора на думи, които не са очевидни за човешкия читател и не променят съществено общото качество на резултата, но които човек с ключ може да открие чрез специализиран детектор. OpenAI заявява, че ще предостави достъп до детектора на ограничен брой изследователи и организации, както и процес за подаване на заявки за одобрение, чрез който с течение на времето ще бъдат добавяни и други.
Преведено автоматично от английски. Оригиналната статия е на връзката по-долу.