Meta wyświetliła dziesiątki reklam z materiałami CSAM generowanymi przez AI

Meta przez ostatnie dziewięć miesięcy wyświetlała dziesiątki płatnych reklam zawierających sztuczną inteligencją generowane materiały przedstawiające wykorzystanie seksualne dzieci oraz obrazy nieletnich z dwuznacznymi tekstami. Reklamy te, które w niektórych przypadkach dotarły do kilku tysięcy kont, były kierowane do użytkowników w Stanach Zjednoczonych, Wielkiej Brytanii i ponad tuzinie krajów europejskich — wynika z ustaleń opublikowanych przez magazyn WIRED.

Ponad 50 reklam graficznych i wideo zawierających szkodliwe treści zostało odkrytych w bibliotece reklam Mety przez badaczy z Tech Transparency Project (TTP). Wiele z tych reklam prowadziło do aplikacji typu „nudify” lub „undressing”, które usuwają ubrania z fotografii.

Kluczowe wnioski

• Meta wyświetliła ponad 50 płatnych reklam z materiałami CSAM generowanymi przez AI między listopadem 2023 a sierpniem 2024 roku.
• Jedna z reklam dotarła do 2563 kont w Europie, w tym we Francji, Niemczech, Irlandii, Włoszech, Holandii, Hiszpanii, Szwecji i Wielkiej Brytanii.
• Reklamy były automatycznie sprawdzane i zatwierdzane przez systemy Mety, mimo że wyraźnie naruszały zasady platformy.
• Po kontakcie ze strony WIRED Meta usunęła reklamy i przyznała, że niektóre z nich ominęły nowe technologie AI wprowadzone do wykrywania naruszających treści.
• To drugi przypadek w ostatnich tygodniach, gdy na platformach Mety znaleziono płatne reklamy związane z materiałami przedstawiającymi wykorzystanie seksualne dzieci.

Szczegóły odkrycia i przykłady treści

Badacze z TTP odkryli reklamy podczas kontynuacji śledztwa dotyczącego reklam aplikacji „nudify” na platformach Mety. „Te reklamy nie próbowały w żaden sposób maskować obrazów ani ukrywać tego, co promowały” — mówi Katie Paul, dyrektor TTP, niezależnej organizacji watchdog.

Jedna z reklam wideo wykorzystywała miniaturę przedstawiającą dziecko siedzące na podłodze z tekstem: „Realizacja głębokich fantazji z generacyjną AI. Jest o wiele więcej niż to, co pokazano, użyj swojej wyobraźni”. Po kliknięciu reklama odtwarzała klipy wideo dorosłych w aktach seksualnych, a następnie dodawała twarz dziecka z miniatury do sceny seksualnej.

Inna wielokrotnie publikowana reklama pokazywała obraz młodej dziewczyny leżącej w pozycji seksualnej z tekstem „Mogę pokazać ci więcej”. Większość reklam nie była aktywnie wyświetlana użytkownikom w momencie odkrycia przez badaczy, ale pozostawały dostępne w bibliotece reklam Mety przez miesiące.

Reakcja Mety i systemy kontroli

Zasady Mety stanowią, że wszystkie reklamy są sprawdzane przed publikacją, przy czym system „głównie” wykorzystuje „narzędzia automatyczne” do weryfikacji zgodności z polityką. Standardy reklamowe firmy wyraźnie zabraniają materiałów przedstawiających wykorzystanie seksualne dzieci oraz „obrazów przedstawiających nagość, aktywność seksualną, przedstawienia ludzi w jednoznacznych lub sugestywnych seksualnie pozycjach”.

Po kontakcie ze strony WIRED Meta usunęła reklamy ze swojej biblioteki reklamowej. „Wykorzystywanie seksualne jest przerażające i agresywnie pracujemy nad utrzymaniem tego z dala od naszej platformy” — powiedział rzecznik Mety. „Większość z tych reklam miała minimalny zasięg, a wiele zostało wyłączonych przed tym, jak WIRED je udostępnił”.

Jak przyznała firma, niektóre z naruszających reklam ominęły nowe technologie AI Mety. Początkowo badacze TTP znaleźli około dwudziestu reklam z szkodliwą treścią, jednak na godziny przed publikacją odkryli około 30 kolejnych — wiele z nich zostało opublikowanych już po tym, jak WIRED po raz pierwszy zapytał Metę o te treści.

Meta w zeszłym roku usunęła ponad 36 milionów treści związanych z wykorzystywaniem seksualnym dzieci i podjęła działania prawne przeciwko deweloperom aplikacji „nudify”. To jednak drugi przypadek w ostatnich tygodniach — na początku lipca BBC odkryło, że Instagram wyświetlał reklamy promujące sprzedaż materiałów CSAM w Indiach.