Meta запускает новые инструменты ИИ для выявления рекламы, которая тайно ведёт к материалам с сексуальным насилием над детьми

Meta сообщила в среду, что в первой половине 2026 года приняла меры в отношении 33,2 млн единиц материалов о сексуальной эксплуатации детей в Facebook и Instagram. Одновременно компания внедряет новые инструменты на основе ИИ для поиска рекламы и аккаунтов, которые могут использоваться для тайного перенаправления людей к незаконным материалам о жестоком обращении с детьми.

По словам компании, более 97% материалов, в отношении которых Meta приняла меры, были обнаружены ее системами до того, как на них пожаловались пользователи. В Индии за тот же период Meta приняла меры в отношении 5,3 млн единиц материалов о сексуальной эксплуатации детей, причем более 98% из них были обнаружены до жалоб пользователей.

Meta заявила, что ее новейшие инструменты на основе ИИ предназначены для выявления людей, использующих безобидную на вид рекламу для перенаправления пользователей к незаконным материалам за пределами платформ Meta.

Компания внедрила новую систему на основе большой языковой модели (LLM) для выявления того, что она называет «сигнализацией». Речь идет о рекламе, которая может выглядеть обычной, но, предположительно, направляет пользователей к незаконному контенту или другой вредоносной активности в интернете. Meta утверждает, что недавно заметила использование этой тактики злоумышленниками, которые продолжают менять свои методы, чтобы избежать обнаружения. Хотя сама реклама может не содержать незаконных материалов, она все равно может служить входом на сайты, где размещаются материалы о сексуальном насилии над детьми.

Поэтому Meta заявила, что теперь изучает, куда направляет пользователей реклама, а не только то, что в ней содержится. Компания может использовать эту информацию, чтобы блокировать сайты или другие направления, нарушающие ее правила, и принимать меры в отношении связанных с ними аккаунтов.

Meta также использует дополнительные сканирования на основе ИИ для поиска материалов об эксплуатации детей, которые могли не обнаружить более ранние системы. Компания заявила, что продолжит добавлять новые сигналы по мере того, как будет больше узнавать о работе таких сетей.

Еще один новый инструмент — «ИИ-агент для красной команды», который тестирует собственные меры безопасности Meta. Он ищет уязвимости, которыми злоумышленники могут воспользоваться, чтобы обойти защиту компании. Meta заявила, что это может помочь ей выявлять новые методы злоупотреблений до того, как они получат широкое распространение.

Кроме того, компания совершенствует системы выявления людей, которые возвращаются на ее платформы с новыми аккаунтами после удаления их прежних аккаунтов.

Новые меры принимаются в то время, когда Meta продолжает сталкиваться с давлением из-за безопасности детей на своих платформах. Компания подвергалась судебным искам и критике со стороны законодателей из-за рисков, которые ее социальные сервисы могут представлять для юных пользователей. В августе Meta достигла соглашения о выплате до 18 млрд долларов для урегулирования иска о безопасности детей, поданного 29 штатами США, и снятия обеспокоенности по поводу защиты детей в интернете.

В этом году Meta представила несколько функций для обеспечения безопасности детей, включая родительский контроль для Meta AI, аккаунты для детей младше подросткового возраста в WhatsApp и уведомления для родителей, когда дети ищут в Instagram материалы о причинении себе вреда.

В сентябре WhatsApp добавил дополнительные элементы контроля для родителей. Они могут ограничивать использование подростками каналов, контролировать, кто может видеть обновления их статуса, и решать, кто может добавлять их детей в группы. Родители также могут выбрать получение уведомлений об определенной активности в группах.