Мітки ШІ в Instagram знову викликають сумніви в точності
Видимі позначки в Instagram мають допомагати користувачам швидко розпізнавати контент, створений за допомогою штучного інтелекту. Однак протягом останніх тижнів користувачі повідомляють, що система автоматично додає такі мітки у випадках, які вони вважають помилковими. Це знову привернуло увагу до того, як Meta визначає використання ШІ.
Подібна проблема вже виникала з фотографіями у 2024 році, через кілька місяців після запуску функції. У лютому того року Meta заявила, що перевірятиме метадані IPTC і C2PA. Вони можуть із достатньо високою ймовірністю показати, чи застосовували генеративний ШІ для створення або зміни зображення. Водночас компанія не розкрила всіх деталей своєї системи виявлення.
Повідомлення за 2024 рік свідчили, що фотографії іноді отримували мітку через метадані Adobe, які вказували на редагування за допомогою генеративних інструментів ШІ. Це траплялося навіть за незначних змін, коли результат загалом залишався тією самою фотографією. Meta пообіцяла змінити підхід, щоб точніше враховувати «обсяг ШІ, використаного в зображенні». Компанія також згадувала галузеві стандартні індикатори, які інші компанії додають до матеріалів своїх інструментів, але не пояснила, які саме ознаки використовує і коли їх перевіряє. Meta не відповіла на запит про роз’яснення.
Текст підготовлено ШІ Sakhanda Wire за матеріалом The Verge. Факти, цитати та повний контекст — в оригінальній статті нижче.