Kryzys deepfake'owych nagich zdjęć w szkołach jest gorszy niż myślano

W wielu przypadkach ofiary często nie chcą uczęszczać do szkoły lub nie chcą spotykać tych, którzy stworzyli ich eksplicytne obrazy lub filmy. „Czuje się bezradna, ponieważ wie, że te obrazy prawdopodobnie trafią do internetu i dotrą do pedofilów" — mówi prawnik Shane Vogt wraz z trzema studentami Yale Law School, którzy reprezentują jedną nienazwaną nastolatkę z New Jersey w sprawie sądowej przeciwko usłudze nudyfikacji.

Reakcje szkół na całym świecie

W Korei Południowej i Australii szkoły dały uczniom możliwość rezygnacji z umieszczania ich zdjęć w rocznikach lub przestały publikować obrazy uczniów na swoich oficjalnych kontach w mediach społecznościowych, powołując się na ich wykorzystanie do potencjalnych nadużyć deepfake'owych. „Na całym świecie zdarzały się przypadki, gdy zdjęcia szkolne były pobierane z publicznych stron mediów społecznościowych, zmieniane za pomocą AI i przekształcane w szkodliwe deepfake'i" — powiedziała jedna ze szkół w Australii.

Technologia staje się coraz bardziej dostępna

Seksualne deepfake'i tworzone za pomocą AI istnieją od około końca 2017 roku; jednak gdy systemy generatywnej AI pojawiły się i stały się potężniejsze, doprowadziły do powstania mrocznego ekosystemu technologii „nudyfikacji" lub „rozbierania". Dziesiątki aplikacji, botów i stron internetowych pozwalają każdemu na tworzenie zseksualizowanych obrazów i filmów innych osób za pomocą zaledwie kilku kliknięć, często bez wiedzy technicznej.

„To, co zmienia AI, to skala, szybkość i dostępność" — mówi Siddharth Pillai, współzałożyciel i dyrektor Fundacji RATI, organizacji z siedzibą w Mumbaju pracującej nad zapobieganiem przemocy wobec kobiet i dzieci. „Bariera techniczna znacznie spadła, co oznacza, że więcej osób, w tym nastolatków, może produkować bardziej przekonujące rezultaty przy minimalnym wysiłku".

Niewystarczające przygotowanie instytucji

Analiza pokazuje również, że w wielu przypadkach szkoły i funkcjonariusze organów ścigania często nie są przygotowani do reagowania na poważne incydenty nadużyć seksualnych. „Myślę, że trudno byłoby znaleźć szkołę, której to nie dotknęło" — mówi Lloyd Richardson, dyrektor technologii w Kanadyjskim Centrum Ochrony Dzieci. „Najważniejszą rzeczą jest to, jak jesteśmy w stanie pomóc ofiarom, gdy to się dzieje, ponieważ skutki tego mogą być ogromne".

Eksplicytne obrazy zawierające nieletnich są uważane za materiał dotyczący seksualnego wykorzystywania dzieci (CSAM). Ta analiza jest uważana za pierwszą, która przegląda rzeczywiste przypadki nadużyć deepfake'owych AI mających miejsce w szkołach na całym świecie. Badania grup zajmujących się ochroną dzieci, takich jak Thorn, pokazują, że jeden na ośmiu nastolatków zna kogoś, kto został zaatakowany, a w 2024 roku 15 procent uczniów przebadanych przez Center for Democracy and Technology wiedziało o deepfake'ach generowanych przez AI związanych z ich szkołą.