San Francisco żąda od Apple i Google usunięcia aplikacji AI do tworzenia nagich zdjęć

Władze San Francisco wystosowały formalne wezwania do Apple i Google, żądając usunięcia z ich sklepów aplikacji wykorzystujących sztuczną inteligencję do tworzenia zdjęć nagich osób bez ich zgody. Sprawa dotyczy 13 aplikacji do zamiany twarzy, które umożliwiają generowanie intymnych deepfake'ów, jak podaje WIRED.

Prokurator miejski David Chiu oskarża gigantów technologicznych o „wspomaganie i współudział” w sprzedaży eksplicytnych deepfake'ów oraz czerpanie zysków z tej szkodliwej technologii. Zgodnie z prawem Kalifornii, wspieranie usług tworzących deepfake'ową pornografię jest zabronione.

Kluczowe wnioski

• San Francisco wysłało oficjalne wezwania do Apple i Google w sprawie usunięcia 13 aplikacji umożliwiających tworzenie AI-generowanych nagich zdjęć bez zgody.
• Badacze szacują, że podobne aplikacje zostały pobrane łącznie około 480 milionów razy i mogły wygenerować około 120 milionów dolarów przychodów.
• Google potwierdził usunięcie „setek” aplikacji z funkcjami „nudyfikacji” za naruszenie zasad platformy, w tym pięciu wskazanych przez San Francisco.
• Wcześniejsze raporty wykazały występowanie deepfake'owych nadużyć seksualnych w co najmniej 90 szkołach, dotyczących nieletnich.
• Oba giganci technologiczne mają zasady zakazujące pornografii i nękania, ale aplikacje te wciąż pojawiają się w ich sklepach.

Skala problemu i zyski platform

Aplikacje objęte dochodzeniem — osiem w App Store i pięć w Google Play — reklamują się jako narzędzia do „zamiany twarzy”, ale po pobraniu oferują możliwość tworzenia seksualnych deepfake'ów. Jedna z aplikacji z ponad milionem pobrań prezentuje kilkanaście różnych stylów generowanych obrazów AI, w tym „bikini queen curvy”, „calm busty” czy „cinematic intimacy”.

Według prokuratora Chiu, Apple i Google prawdopodobnie „zarobiły miliony dolarów na opłatach” z aplikacji oferujących „nudyfikację”. Firmy pobierają prowizję od płatności w aplikacjach, przez co bezpośrednio czerpią zyski z tej technologii.

Badania Tech Transparency Project z stycznia i kwietnia tego roku ujawniły około 100 takich aplikacji w obu sklepach, które łącznie mogły zostać pobrane 480 milionów razy i wygenerować około 120 milionów dolarów przychodów.

Reakcje firm i wcześniejsze działania

Google potwierdził usunięcie „setek” aplikacji z funkcjami nudyfikacji za naruszenie zasad, w tym wszystkich pięciu aplikacji na Androida wskazanych przez urząd prokuratora. „Google Play nie zezwala na aplikacje zawierające treści seksualne i stale podejmujemy proaktywne kroki w celu wykrywania i usuwania aplikacji ze szkodliwą treścią” — oświadczył rzecznik Dan Jackson.

Apple nie ustosunowało się do sprawy przed publikacją artykułu. Obie firmy mają zasady zakazujące pornografii, nadużyć i nękania na swoich platformach i wcześniej usuwały dziesiątki aplikacji typu nudify po doniesieniach badaczy i dziennikarzy.

Społeczne konsekwencje zjawiska

W ciągu ostatnich pięciu lat rozwinęła się wysoce lukratywna branża deepfake'owej „nudyfikacji”. Problem nasila się — wystarczy zdjęcie referencyjne i kilka kliknięć, aby w kilka sekund utworzyć seksualne deepfake'y. Ofiarami są głównie kobiety i dziewczęta.

„Te obrazy są używane do zastraszania, upokarzania i grożenia kobietom i dziewczętom” — tłumaczy Chiu. „Ta branża ma okropny wpływ na reputację, zdrowie psychiczne i utratę autonomii. Były ofiary, które myślały o samobójstwie.”

Władze San Francisco wzywają Apple i Google do zerwania relacji biznesowych z deweloperami tych aplikacji i poprawy procesów moderacji, aby zapobiec pojawianiu się podobnych aplikacji w przyszłości.