Google wycofało funkcję AI w Google Earth po jednym dniu działania

Google wprowadził w czwartek nową funkcję w Google Earth, która pozwalała użytkownikom edytować zdjęcia satelitarne za pomocą promptów tekstowych z wykorzystaniem sztucznej inteligencji. Narzędzie wykorzystujące model Nano Banana 2 zostało jednak wycofane już po jednym dniu ze względu na możliwość tworzenia problematycznych treści.

Funkcja umożliwiała generowanie deepfake'ów rzeczywistego świata na podstawie komend tekstowych. Henk van Ess z Digital Digging celowo przetestował system, generując obrazy dodające elementy takie jak uchodźcy przy granicy z Meksykiem czy krater po bombie obok szpitala w Gazie.

Kluczowe wnioski

• Google wycofało funkcję AI w Google Earth po jednym dniu działania z powodu naruszania zasad platformy.
• Narzędzie wykorzystujące model Nano Banana 2 pozwalało tworzyć deepfake'i zdjęć satelitarnych za pomocą promptów tekstowych.
• Tester Henk van Ess zdołał oszukać narzędzia do wykrywania AI, pomimo cyfrowych znaków wodnych na generowanych obrazach.
• Google początkowo twierdziło, że zapobiega tworzeniu treści na szkodliwe tematy, ale w praktyce system nie odrzucał problematycznych promptów.
• Wygenerowane obrazy nie pojawiały się w głównym interfejsie Google Earth dla innych użytkowników i były oznaczone jako stworzone przez AI.

Problemy z moderacją treści

W czwartek Google początkowo odpowiedziało van Essowi, że obrazy generowane przez Nano Banana 2 w Google Earth zawierają cyfrowy znak wodny, a firma zapobiega „tworzeniu obrazów na szkodliwe tematy”. Jednak van Ess stwierdził w swoich testach: „Nic nie zostało odrzucone, nic nie zostało złagodzone i nic nie zasugerowało, żebym spróbował innego promptu”.

Badacz wykazał również, że był w stanie oszukać narzędzie Hive do wykrywania AI za pomocą wideo wygenerowanego w Google Earth, pokazując, jak wygenerowane media mogą się rozprzestrzeniać pomimo obecności znaków wodnych.

Reakcja Google i wycofanie funkcji

Dzień po wprowadzeniu funkcji Google wydało nowe oświadczenie: „Wiemy, że ludzie w wyjątkowy sposób ufają Google Earth jako wiarygodnemu widokowi świata. Widzieliśmy, jak specjaliści od danych geoprzestrzennych używają tej funkcji do wielu przydatnych celów, jednak widzieliśmy również ludzi udostępniających zrzuty ekranu wygenerowanych obrazów, które wydają się naruszać nasze zasady. Dlatego wycofujemy tę funkcję z Google Earth, podczas gdy pracujemy nad wdrożeniem silniejszych zabezpieczeń”.

Firma podkreśliła, że wygenerowane obrazy nie pojawiały się w głównym interfejsie Google Earth dla innych użytkowników i były oznaczone jako stworzone przez sztuczną inteligencję.

Historia ta pokazuje wyzwania związane z wprowadzaniem narzędzi AI do generowania treści bez odpowiednich zabezpieczeń, szczególnie w kontekście platform cieszących się wysokim zaufaniem użytkowników jak Google Earth.