Google Earth z generatorem AI obrazów satelitarnych budzi obawy o dezinformację

Google wprowadził do Google Earth funkcję generowania obrazów satelitarnych przy pomocy sztucznej inteligencji o nazwie Nano Banana. Choć narzędzie zostało zaprojektowane do wizualizacji projektów historycznych i nieruchomości, eksperci ostrzegają przed jego potencjalnym wykorzystaniem do tworzenia dezinformacji. Jak wykazał specjalista od weryfikacji faktów Henk van Ess z Digital Digging, nowa funkcja może generować przekonujące fałszywe obrazy satelitarne.

Kluczowe wnioski

• Google uruchomił globalnie w wersji webowej Google Earth funkcję Nano Banana 2, która generuje obrazy satelitarne za pomocą AI na podstawie tekstowych poleceń.
• Henk van Ess z Digital Digging zademonstrował problematyczne możliwości narzędzia, tworząc fałszywe obrazy „uchodźców przy granicy meksykańskiej” i kratera po bombie w pobliżu szpitala w Gazie.
• Google wprowadził zabezpieczenia w postaci cyfrowego znaku wodnego SynthID oraz możliwości weryfikacji przez aplikację Gemini, ale eksperci wskazują na możliwość ich obejścia.
• Digital Digging udało się oszukać detektor AI firmy Hive za pomocą wideo zmienionego przez AI z Google Earth, co pokazuje ograniczenia obecnych systemów wykrywania.
• Funkcja została zaprojektowana do wizualizacji miejsc historycznych i projektów nieruchomości, ale może być wykorzystywana do tworzenia wiarygodnych dezinformacyjnych materiałów.

Demonstracja zagrożeń dezinformacyjnych

Henk van Ess, ekspert od weryfikacji faktów z Digital Digging, przeprowadził test nowej funkcji Google'a, tworząc obrazy, które mogłyby być wykorzystane do szerzenia dezinformacji. Wygenerowane przez niego zdjęcia pokazywały rzekomych uchodźców w pobliżu granicy meksykańskiej oraz krater po bombie w pobliżu szpitala w Gazie. Te przykłady ilustrują, jak łatwo można wykorzystać narzędzie do tworzenia przekonujących, ale fałszywych materiałów wizualnych.

Google odpowiedział na te demonstracje, podkreślając swoje zaangażowanie w walkę z dezinformacją. Firma wyjaśniła, że każdy obraz stworzony za pomocą Nano Banana w Google Earth zawiera cyfrowy znak wodny SynthID, który pozwala na weryfikację autentyczności obrazu za pomocą aplikacji Gemini lub funkcji Lens w wyszukiwarce.

Ograniczenia zabezpieczeń i metody weryfikacji

Mimo wprowadzonych przez Google zabezpieczeń, eksperci wskazują na ich ograniczenia. Choć cyfrowy znak wodny może być trudny do usunięcia, nie jest niemożliwy do pominięcia lub przegapienia. Digital Digging udało się oszukać detektor AI firmy Hive za pomocą wideo zmienionego przez sztuczną inteligencję Google Earth, co pokazuje słabości obecnych systemów wykrywania.

Van Ess proponuje dodatkowe metody weryfikacji podejrzanych obrazów satelitarnych. Zaleca porównywanie ich z innymi platformami satelitarnymi, takimi jak Sentinel-2 czy Landsat, oraz weryfikowanie danych orbitalnych, takich jak data wykonania zdjęcia i informacje o satelicie, który je wykonał. Można również wykorzystać tag „@verifyai” w aplikacji Gemini Google'a do sprawdzania podejrzanych obrazów.

Szerszy kontekst problemu deepfake'ów

Wprowadzenie funkcji Nano Banana 2 w Google Earth wpisuje się w szerszy problem walki z deepfake'ami i dezinformacją wizualną. Choć niektóre generowane obrazy są łatwe do rozpoznania jako fałszywe — jak przykład pokazujący Sfinksa skrzyżowanego ze Statuą Wolności — inne mogą być na tyle przekonujące, że łatwo wprowadzą odbiorców w błąd.

Funkcja została oficjalnie uruchomiona na całym świecie w wersji webowej Google Earth na początku tego tygodnia. W swoim wpisie na blogu Google prezentuje ją jako narzędzie do wizualizacji miejsc historycznych i projektów nieruchomości, jednak przypadek opisany przez Digital Digging pokazuje, jak łatwo może zostać wykorzystana do innych celów.