Instagram въвежда нови ограничения за профили с неразкрита употреба на AI

Instagram обяви в понеделник, че променя начина, по който обозначава профилите, генерирани от ИИ, и ще започне да ограничава обхвата на акаунтите, в които присъстват генерирани от ИИ хора, без това да е посочено.

Платформата заяви, че преименува съществуващия етикет „Създател с ИИ“ на „Профил, генериран от ИИ“, което според Instagram ще направи обозначението по-лесно за разбиране. Новият етикет има за цел да информира потребителите, че човекът, представен в даден профил, е генериран или до голяма степен създаден с помощта на ИИ.

Съгласно новата политика създателите, които не обозначат правилно профил, генериран от ИИ, може да видят намаляване на обхвата си. От друга страна, създателите, които използват новия етикет, няма да бъдат санкционирани само заради това, че в профила им е представен генериран от ИИ човек.

Етикетът не е предназначен за всяка употреба на ИИ. Instagram заяви, че хората, които използват ИИ, за да редактират снимки, да изглаждат надписи, да създават графики или да правят други творчески корекции, не трябва да използват етикета за профил, генериран от ИИ.

Instagram заяви, че промяната отчасти е в отговор на потребители, които са попадали на профили, изглеждащи така, сякаш принадлежат на реални хора, само за да разберат по-късно, че човекът е изцяло генериран от ИИ.

„С навлизането на генеративния ИИ като все по-важна част от начина, по който хората създават съдържание, чухме, че хората не обичат да виждат профил, който изглежда човешки, само за да разберат по-късно, че представеният човек е генериран от ИИ“, написа Instagram. „Те искат да знаят, когато в даден профил е представен генериран от ИИ човек.“

Моментът на обявяването е показателен. Разочарованието от съдържанието, генерирано от ИИ, нараства, тъй като инфлуенсърите с ИИ стават все по-разпространени в социалните платформи.

Например по-рано тази година приложението за гей запознанства Goose стана обект на разследване на Wired, след като мрежа от привидно генерирани от ИИ мъже инфлуенсъри рекламира приложението в Instagram. Wired установи повече от две дузини акаунти, които изглеждаха като профили на инфлуенсъри с ИИ, като според информацията някои от тях са се свързвали с потенциални потребители чрез директни съобщения, за да ги убедят да се регистрират.

Съдържанието за здраве и уелнес е друг особено тревожен пример. The New York Times съобщи през юли, че е открил стотици генерирани от ИИ лекари, лечители и личности, свързани с уелнес теми, в социалните мрежи, които рекламират хранителни добавки или отправят здравни твърдения към потребителите. 

Съобщението идва, след като Instagram се сблъска с негативна реакция заради инструмент с ИИ, който позволяваше на потребителите да генерират изображения, използвайки образа на други хора. Потребителите възразиха срещу използването на публичното им съдържание в Instagram без изрично съгласие. След това Meta премахна функцията.

Миналата седмица Meta постигна споразумение за 18 милиарда долара с американски щати по обвинения, свързани с въздействието на Facebook и Instagram върху децата и тийнейджърите. Като част от споразумението Meta ще въведе стандартно ограничение от два часа дневно за използването на Facebook и Instagram от тийнейджъри, блокиране в режим „Нощен режим“, заглушени известия през учебните часове и други ограничения.