Meta wdraża AI do wykrywania reklam prowadzących do CSAM

Meta ogłosiła nowe narzędzia oparte na sztucznej inteligencji, które mają wykrywać reklamy i konta wykorzystywane do ukrytego przekierowywania użytkowników do materiałów przedstawiających wykorzystywanie seksualne dzieci. Informację tę przekazał serwis TechCrunch, opisując najnowsze działania firmy w zakresie ochrony najmłodszych użytkowników Facebooka i Instagrama.

Kluczowe wnioski

• Meta poinformowała w środę, że w pierwszej połowie 2026 roku podjęła działania wobec 33,2 miliona treści związanych z wykorzystywaniem seksualnym dzieci na Facebooku i Instagramie.
• Ponad 97% tych treści zostało wykryte przez systemy Meta jeszcze przed zgłoszeniem przez użytkowników.
• W Indiach firma podjęła działania wobec 5,3 miliona takich treści w tym samym okresie, przy czym ponad 98% wykryto zanim zgłosili je użytkownicy.
• Nowy system LLM wykrywa „signposting” – reklamy wyglądające niewinnie, które jednak kierują użytkowników do nielegalnych treści poza platformami Meta.
• Firma wprowadza też „red-teaming AI agenta”, który testuje własne zabezpieczenia, oraz lepsze mechanizmy wykrywania osób wracających na platformy pod nowymi kontami po usunięciu poprzednich.

Jak działa nowy system wykrywania „signposting”

Meta wyjaśnia, że nowy model językowy ma na celu identyfikację reklam, które same nie zawierają nielegalnych materiałów, ale służą jako „punkt wyjścia” kierujący użytkowników do stron hostujących treści przedstawiające wykorzystywanie seksualne dzieci. To stosunkowo nowa taktyka, którą firma zaobserwowała u osób próbujących ominąć jej systemy wykrywania – reklama wygląda nieszkodliwie, lecz prowadzi odbiorcę dalej, do nielegalnych zasobów w internecie.

W odpowiedzi na tę metodę Meta zmienia sposób analizy reklam – nie skupia się już wyłącznie na treści samej reklamy, ale bada również to, dokąd ona faktycznie prowadzi użytkownika. Dzięki tym informacjom firma może blokować strony internetowe lub inne miejsca docelowe, które łamią jej zasady, a także podejmować działania wobec kont stojących za takimi działaniami.

Dodatkowo Meta stosuje nowe, oparte na AI skanowanie, które ma wychwytywać treści przedstawiające wykorzystywanie dzieci, które wcześniejsze systemy mogły przeoczyć. Firma zapowiedziała, że będzie na bieżąco dodawać nowe sygnały wykrywania, w miarę jak poszerza wiedzę o metodach działania sieci przestępczych.

Testowanie własnych zabezpieczeń i walka z powracającymi kontami

Jednym z nowych elementów systemu jest tzw. red-teaming AI agent – narzędzie, które aktywnie testuje mechanizmy bezpieczeństwa Meta, poszukując słabych punktów, które mogliby wykorzystać przestępcy do obejścia ochrony platformy. Celem jest wykrycie nowych metod nadużyć zanim staną się one powszechne.

Meta usprawnia także systemy identyfikujące osoby, które po usunięciu konta za naruszenie zasad próbują wrócić na platformę pod nową tożsamością. To istotny element walki z sieciami przestępczymi, które regularnie zmieniają konta i metody działania, by uniknąć wykrycia.

Presja regulacyjna i wcześniejsze działania Meta

Nowe narzędzia pojawiają się w momencie, gdy Meta wciąż znajduje się pod silną presją w związku z bezpieczeństwem dzieci na swoich platformach. Firma była stroną licznych procesów sądowych i krytyki ze strony ustawodawców dotyczącej ryzyka, jakie jej serwisy społecznościowe mogą stanowić dla młodych użytkowników. W sierpniu Meta zgodziła się zapłacić do 18 miliardów dolarów w celu zakończenia sprawy sądowej dotyczącej bezpieczeństwa dzieci, w którą zaangażowanych było 29 amerykańskich stanów.

W ciągu bieżącego roku firma wprowadziła już kilka funkcji związanych z bezpieczeństwem dzieci, w tym kontrolę rodzicielską dla Meta AI, konta dla dzieci przedszkolnych i wczesnoszkolnych na WhatsAppie oraz powiadomienia dla rodziców, gdy dziecko wyszukuje na Instagramie treści związane z samookaleczeniem. We wrześniu WhatsApp dodał kolejne mechanizmy kontroli rodzicielskiej – rodzice mogą ograniczać korzystanie z Kanałów przez nastolatków, kontrolować, kto widzi status ich dzieci, oraz decydować, kto może dodawać je do grup. Mogą też otrzymywać powiadomienia o określonej aktywności w grupach.

Wprowadzenie nowych narzędzi AI do wykrywania „signposting” i powracających kont wpisuje się w szerszy trend, w którym duże platformy technologiczne muszą coraz skuteczniej reagować na zmieniające się metody działania osób wykorzystujących dzieci w sieci, jednocześnie stając w obliczu rosnącej presji prawnej i regulacyjnej.