Google Gemini Omni tworzy oszukańczo realistyczne deepfake'i i filmy AI

Google wprowadza Gemini Omni, nowy model generatywny zdolny do przekształcania dowolnych treści w filmy wideo. Dziennikarka The Verge przetestowała możliwości nowego narzędzia, tworząc filmy z pluszowym jeleniem oraz deepfake'owe nagrania z własnym udziałem. Wyniki okazały się być mieszane — od imponujących po niepokojąco realistyczne.

Kluczowe wnioski

• Google udostępniło Omni Flash, pierwszy model z rodziny Gemini Omni, w platformie Flow do generowania i edytowania filmów AI.
• Model potrafi przekształcać nagrania wideo wraz z promptami tekstowymi w nowe treści, zachowując większą spójność postaci niż poprzednik Veo.
• Deepfake'i utworzone przez Omni są na tyle realistyczne, że oszukały męża dziennikarki, który nie rozpoznał sztucznego nagrania żony jedzącej makaron.
• Generowanie filmów kosztuje 15–40 kredytów, a edycja 40 kredytów, co przy planie za 20 dolarów miesięcznie (1000 kredytów) może się szybko wyczerpać.
• Pomimo poprawy jakości, model wciąż ma problemy ze spójnością — obiekty zmieniają się w trakcie filmu, a edycje często przynoszą niepożądane efekty.

Test z pluszowym jeleniem ujawnia możliwości i ograniczenia

Dziennikarka ponownie wykorzystała pluszowego jelenia o imieniu Buddy do testów, tworząc dla niego wakacyjne przygody. Model otrzymał zadanie stworzenia montażu pakowania na wakacje i wyruszania na rejs. Omni wykazał się kreatywnością, dodając do bagażu słoik miodu, który później jelenik używał jako kremu przeciwsłonecznego z zabawną kwestią „Uh oh”.

Problemy pojawiły się w szczegółach — słoik miodu ciągle zmieniał formę z pojemnika na butelkę z wodą, a następnie na tubkę. Końcowa klatka filmu wyglądała jak „zwymiotowane elementy całej sekwencji”. Edytowanie przez prompty tekstowe działało lepiej niż w poprzednim modelu Veo, ale wciąż przynosiło nieprzewidywalne rezultaty — usunięcie poroża z jednej sceny skutkowało jego dodaniem do wszystkich pozostałych.

Deepfake'i na niepokojącym poziomie realizmu

Najciekawsze i jednocześnie najbardziej niepokojące okazały się deepfake'i utworzone z prawdziwego nagrania dziennikarki. Startując od selfie z neutralną miną, Omni wygenerował filmy pokazujące ją podczas jedzenia spaghetti, siedzenia w samolocie i pozowania z bagietką przed Wieżą Eiffla.

Mąż dziennikarki, który oglądał ją codziennie przez ostatnią dekadę, uwierzył w autentyczność nagrania z jedzeniem makaronu. Jedyną wskazówką, że coś jest nie tak, był nieznajomy wygląd miski. Jakość deepfake'ów była na tyle wysoka, że mogłyby oszukać ludzi w mediach społecznościowych, mimo drobnych niedoskonałości jak sztuczny dźwięk sztućców czy powielającą się postać w tle.

Model Omni Flash to pierwszy krok w kierunku uniwersalnego systemu przekształcającego dowolne treści w inne formaty. Choć wyniki są imponujące technologicznie, pozostają pytania o etyczne konsekwencje tak zaawansowanych narzędzi do tworzenia syntetycznych mediów.