Метки ИИ в Instagram снова вызывают вопросы о точности
Видимые метки в Instagram должны помогать пользователям быстро распознавать контент, созданный с помощью искусственного интеллекта. Однако в последние недели пользователи сообщают, что система автоматически присваивает такие обозначения в случаях, которые они считают ошибочными. Это вновь привлекло внимание к тому, как Meta определяет использование ИИ.
Похожая проблема уже возникала с фотографиями в 2024 году, через несколько месяцев после запуска функции. В феврале того года Meta заявила, что будет проверять метаданные IPTC и C2PA. Они могут с достаточно высокой степенью уверенности показать, применялся ли генеративный ИИ для создания или изменения изображения. При этом компания не раскрыла все детали своей системы обнаружения.
Сообщения за 2024 год указывали, что фотографии иногда получали метку из-за метаданных Adobe, свидетельствовавших о редактировании с помощью генеративных инструментов ИИ. Это происходило даже при незначительных изменениях, когда результат в основном оставался той же фотографией. Meta пообещала изменить подход, чтобы точнее учитывать «объём ИИ, использованного в изображении». Компания также ссылалась на отраслевые стандартные индикаторы, которые другие компании добавляют в материалы своих инструментов, но недавно не уточняла, какие именно признаки использует и когда проверяет их. Meta не ответила на запрос о разъяснениях.
Текст подготовлен ИИ Sakhanda Wire по материалу The Verge. Факты, цитаты и полный контекст — в оригинальной статье ниже.