Meta пуска нови AI инструменти за откриване на реклами, които тайно водят до материали със сексуално насилие над деца

Meta обяви в сряда, че е предприела действия срещу 33,2 милиона публикации, съдържащи материали за сексуална експлоатация на деца, във Facebook и Instagram през първата половина на 2026 г. Същевременно компанията въвежда нови инструменти с изкуствен интелект за откриване на реклами и акаунти, които може да се използват за тайно насочване на хора към незаконни материали със сексуално насилие над деца.

Според компанията над 97% от съдържанието, срещу което Meta е предприела действия, е било открито от нейните системи, преди потребителите да го докладват. В Индия Meta е предприела действия срещу 5,3 милиона публикации със съдържание за сексуална експлоатация на деца през същия период, като над 98% от тях са били открити, преди потребителите да ги докладват.

Meta заяви, че най-новите ѝ инструменти с изкуствен интелект са насочени към хора, които използват привидно безобидни реклами, за да изпращат потребители към незаконно съдържание извън платформите на Meta.

Компанията въведе нова система, базирана на голям езиков модел (LLM), за откриване на това, което нарича „насочващи сигнали“. Става дума за реклами, които може да изглеждат нормално, но се подозират, че насочват потребители към незаконно съдържание или други вредни дейности на друго място онлайн. Meta заявява, че това е тактика, която напоследък е наблюдавала при недобросъвестни лица, докато те продължават да променят методите си, за да избегнат откриването. Макар самите реклами да не съдържат незаконни материали, те все пак могат да служат като вход към уебсайтове, на които се хостват материали със сексуално насилие над деца.

Поради това Meta заяви, че вече следи къде води дадена реклама, а не само какво съдържа тя. Компанията може да използва тази информация, за да блокира уебсайтове или други дестинации, които нарушават правилата ѝ, и да предприема действия срещу акаунтите, стоящи зад тях.

Meta използва и допълнителни сканирания, задвижвани от изкуствен интелект, за откриване на съдържание със сексуална експлоатация на деца, което по-ранните системи може да са пропуснали. Компанията заяви, че ще продължи да добавя нови сигнали, докато научава повече за начина, по който действат тези мрежи.

Друг нов инструмент е „агент с изкуствен интелект за червен екип“, който тества собствените мерки за сигурност на Meta. Той търси слабости, които недобросъвестни лица биха могли да използват, за да заобиколят защитите на компанията. Meta заяви, че това може да ѝ помогне да открива нови методи за злоупотреба, преди те да станат по-разпространени.

Освен това компанията подобрява системите си за откриване на хора, които се завръщат в платформите ѝ с нови акаунти, след като предишните им акаунти са били премахнати.

Новите мерки бяха обявени, докато Meta продължава да бъде подложена на натиск заради безопасността на децата в нейните платформи. Компанията е изправена пред съдебни дела и критики от законодатели заради рисковете, които нейните социални услуги може да представляват за младите потребители. През август Meta постигна споразумение да плати до 18 милиарда долара, за да уреди съдебен иск за безопасността на децата, заведен от 29 американски щата, като по този начин отговори на опасенията относно защитата на децата онлайн.

Тази година Meta въведе няколко функции за безопасност на децата, включително родителски контрол за Meta AI, акаунти за деца в предпубертетна възраст в WhatsApp и известия за родители, когато децата търсят съдържание, свързано със самонараняване, в Instagram.

През септември WhatsApp добави още контроли за родители. Те могат да ограничават начина, по който тийнейджърите използват каналите, да контролират кой може да вижда актуализациите на статуса им и да решават кой може да добавя децата им в групи. Родителите могат също да изберат да получават известия за определени действия в групите.