YouTube rozszerza narzędzie do wykrywania deepfake'ów na wszystkich dorosłych użytkowników

System wykorzystuje selfie użytkownika do monitorowania platformy pod kątem treści zawierających jego podobieństwo. W przypadku wykrycia dopasowania YouTube powiadamia użytkownika, który może następnie poprosić o usunięcie podejrzanej zawartości.

Kluczowe wnioski

• YouTube udostępnia narzędzie do wykrywania deepfake'ów wszystkim użytkownikom powyżej 18 lat, znacznie rozszerzając dotychczasową grupę docelową.
• System wykorzystuje skan twarzy w stylu selfie do monitorowania platformy i wysyła powiadomienia o potencjalnych dopasowaniach.
• Narzędzie początkowo testowano z twórcami treści, potem rozszerzono na polityków, dziennikarzy i branżę rozrywkową.
• Według YouTube liczba wniosków o usunięcie treści z programu jest „bardzo mała”.
• System obejmuje tylko podobieństwo twarzy, nie analizuje głosu ani innych cech identyfikujących.

Od testów do powszechnego użytku

YouTube rozpoczął testowanie funkcji wykrywania podobieństwa z twórcami treści, następnie stopniowo rozszerzał program na urzędników państwowych, polityków, dziennikarzy i wreszcie przemysł rozrywkowy. Obecne rozszerzenie na wszystkich dorosłych użytkowników stanowi znaczący krok — pozwala przeciętnemu człowiekowi na stałe monitorowanie treści na YouTube, które mogą wykorzystywać jego podobieństwo.

Wnioski o usunięcie treści są oceniane zgodnie z polityką prywatności YouTube. Firma uwzględnia kryteria takie jak realizm treści, czy została oznaczona jako wygenerowana przez AI, oraz czy dana osoba może być jednoznacznie zidentyfikowana. System zawiera wyjątki dla parodii czy satyry.

Rosnące zagrożenie deepfake'ów

Chociaż treści deepfake często koncentrują się na celebrytach, politykach czy innych osobach publicznych, zdolność tworzenia przekonujących cyfrowych replik stanowi problem również dla zwykłych obywateli. Zdarzały się przypadki deepfakowania nastolatków przez kolegów z klasy, a trzech nastolatków pozwało xAI, zarzucając, że chatbot Grok firmy wygenerował materiały o charakterze wykorzystywania seksualnego dzieci z ich wizerunkami.

Rzecznik YouTube Jack Malon wyjaśnił, że nie ma wymagań dotyczących tego, kto może być uznany za „twórcę” uprawionego do korzystania z programu. Użytkownicy mogą w każdej chwili wycofać się z programu i poprosić YouTube o usunięcie swoich danych.

Rozszerzenie programu wykrywania deepfake'ów na wszystkich dorosłych użytkowników YouTube to odpowiedź na rosnące zagrożenie związane z nielegalnym wykorzystywaniem podobizny w erze sztucznej inteligencji.