Meta размещала рекламу приложения, обещавшего «раздевать» женщин-политиков
Платформы Meta недавно размещали рекламу инструмента для создания порнографии с помощью ИИ, которая, по всей видимости, побуждала пользователей создавать дипфейковые видео с изображением американских женщин-политиков, несмотря на действующие в компании правила, запрещающие рекламу с сексуальным содержанием. Это последний пример из серии провалов Meta, которая не смогла удалить со своих платформ рекламу инструментов для создания интимных изображений без согласия.
Инструмент под названием Kromix позиционирует себя как «стайлер изображений на базе ИИ». В закадровом голосе одной из видеореклам, просмотренной WIRED, инструмент рекламируется как не имеющий «никаких ограничений»; в ролике говорится, что «все персонажи — реальные люди», и он называется «ИИ, которым действительно пользуются мужчины». В одной из реклам женщина, очень похожая на известную американскую женщину-политика, стоит на фоне флага США и флага президента США, а надпись гласит: «Что, если бы она пошевелилась?» Затем она подмигивает, после чего ролик сменяется сценой, где женщина с тем же лицом снимается в порнографическом видео.
Приложение Kromix, размещавшееся в App Store компании Apple до того, как WIRED направил запрос о комментарии, предлагает платным пользователям загружать фотографии, чтобы использовать их в таких сценариях, как «изнасилование в спальне» и «любовь Диснея». Видеоролики в приложении также содержат созданные ИИ порнографические видео с женщинами в костюмах Человека-паука. На запрос о комментарии, отправленный по контактным данным, указанным в приложении, ответа не поступило.
Переведено автоматически с английского. Оригинал статьи — по ссылке ниже.