Instagram вводит новые ограничения для профилей с нераскрытым использованием ИИ

Instagram объявила в понедельник, что меняет способ маркировки профилей, созданных с помощью ИИ, и начнёт ограничивать охват аккаунтов, на которых представлены созданные ИИ люди, если это не будет указано.

Платформа сообщила, что переименовывает существующую отметку «создатель с ИИ» в «профиль, созданный с помощью ИИ» — по мнению Instagram, это должно сделать информацию о происхождении профиля более понятной. Новая отметка призвана сообщать пользователям, что человек, представленный в профиле, был создан или в значительной степени воссоздан с помощью ИИ.

Согласно новой политике, создатели, которые не будут должным образом маркировать профиль, созданный с помощью ИИ, могут столкнуться со снижением охвата. При этом создатели, использующие новую отметку, не будут подвергаться санкциям только за то, что в качестве субъекта их профиля представлен созданный ИИ человек.

Эта отметка также не предназначена для каждого случая использования ИИ. Instagram заявляет, что людям, которые используют ИИ для редактирования фотографий, улучшения подписей, создания графики или внесения других творческих изменений, не нужно использовать отметку профиля, созданного с помощью ИИ.

Instagram сообщает, что это изменение отчасти стало ответом на обращения пользователей, которые натыкались на профили, выглядевшие как страницы реальных людей, а позже узнавали, что представленный человек был полностью создан с помощью ИИ.

«По мере того как генеративный ИИ становится всё более важной частью процесса создания контента, мы слышали от пользователей, что им не нравится видеть профиль, который кажется принадлежащим реальному человеку, а позже узнавать, что представленный в нём человек создан с помощью ИИ, — написала Instagram. — Они хотят знать, когда в профиле представлен созданный ИИ человек».

Время объявления примечательно. Недовольство контентом, созданным с помощью ИИ, растёт по мере того, как ИИ-инфлюенсеры становятся всё более распространёнными на платформах социальных сетей.

Например, в начале этого года гей-знакомства приложение Goose стало объектом расследования Wired после того, как сеть предположительно созданных с помощью ИИ мужчин-инфлюенсеров начала продвигать приложение в Instagram. Wired обнаружил более двух десятков аккаунтов, на которых, по всей видимости, были представлены ИИ-инфлюенсеры; некоторые из них, как сообщается, связывались с потенциальными пользователями через личные сообщения, чтобы побудить их зарегистрироваться.

Контент о здоровье и благополучии — ещё один особенно тревожный пример. The New York Times сообщила в июле, что обнаружила в социальных сетях сотни созданных с помощью ИИ врачей, целителей и специалистов по здоровому образу жизни, рекламировавших пищевые добавки или делавших заявления о здоровье для пользователей. 

Объявление последовало после того, как Instagram столкнулся с критикой из-за инструмента на базе ИИ, позволявшего пользователям создавать изображения с использованием внешности других людей. Пользователи возражали против того, чтобы их общедоступный контент в Instagram использовался без явного согласия. После этого Meta удалила эту функцию.

На прошлой неделе Meta заключила соглашение на сумму 18 миллиардов долларов со штатами США по обвинениям, связанным с влиянием Facebook и Instagram на детей и подростков. В рамках соглашения Meta введёт для подростков двухчасовой ежедневный лимит использования Facebook и Instagram по умолчанию, блокировку в режиме «Ночь», отключение уведомлений в школьные часы и другие ограничения.