MIT: przy dużych zbiorach danych obraz AI traci autora

Naukowcy z MIT dowodzą, że przy odpowiednio dużych zbiorach treningowych wygenerowany przez AI obraz może nie mieć żadnego jednoznacznego „sprawcy” – nawet całkowite usunięcie danego zdjęcia, a nawet całej twórczości konkretnego artysty, potrafi nie zmienić wyniku generatora w zauważalny sposób. Artykuł źródłowy opisuje eksperyment, który może mieć poważne konsekwencje dla trwających sporów o prawa autorskie w generatywnej AI.

Kluczowe wnioski

• Badacze z MIT zbudowali architekturę „diffusion ensemble” składającą się z wielu mniejszych modeli uczonych na różnych fragmentach danych, co pozwoliło symulować usunięcie konkretnych obrazów bez trenowania modelu od zera.
• Zespół stworzył 24 układy na zbiorach od 256 do ponad 160 tys. obrazów pochodzących z 7 publicznych kolekcji (twarze, dzieła sztuki, zwykłe fotografie).
• Zjawisko nazwane „attribution decay” (zanik atrybucji) pokazuje, że im większy zbiór treningowy, tym mniejszy wpływ ma pojedynczy obraz na finalny wynik generatora.
• W eksperymencie z udziałem dzieł 744 artystów z domeny publicznej usunięcie całej twórczości jednego z nich często nie zmieniało zauważalnie konkretnego wygenerowanego obrazu.
• Naukowcy potwierdzili efekt niezależnie, trenując 1282 osobne modele z rzeczywiście usuniętymi danymi – wynik był taki sam jak w przypadku „symulowanego” usuwania.

Jak sprawdzić, co stworzyłby model bez danego obrazu

Pytanie, które postawili sobie badacze z MIT, brzmi niepokojąco prosto: co wygenerowałby model, gdyby nigdy nie zobaczył konkretnego obrazu? Najpewniejsza odpowiedź wymagałaby wyjęcia go ze zbioru, ponownego wytrenowania całego modelu od zera i porównania rezultatów – a potem powtórzenia tego dla drugiego obrazu, trzeciego i kolejnych setek tysięcy. Przy współczesnych modelach taki eksperyment jest obliczeniowo absurdalny.

Rozwiązaniem stała się architektura „diffusion ensemble”. Zamiast jednego wielkiego modelu składa się ona z wielu mniejszych komponentów, uczących się na różnych fragmentach danych. Kiedy naukowcy chcą sprawdzić, co stałoby się bez konkretnego obrazu, po prostu wyłączają wszystkie komponenty, które go widziały. W efekcie dostają rzeczywisty model z usuniętym wpływem badanego przykładu, bez potrzeby ponownego trenowania całości.

Dla wygenerowanego obrazu tworzono następnie mnóstwo alternatywnych wersji, każdorazowo usuwając z procesu treningowego inny przykład. Różnice mierzono zarówno na poziomie pikseli, jak i znaczenia przedstawionej scenie.

Zanik atrybucji: więcej danych, mniej śladu

Pojawiła się bardzo wyraźna zależność – im większy był zbiór treningowy, tym mniejszy wpływ miał na wynik pojedynczy jego element. Naukowcy nazwali to zjawisko „attribution decay”, czyli zanikiem atrybucji. Przy odpowiednio dużej liczbie danych można było usunąć konkretny obraz, a wygenerowany rezultat praktycznie się nie zmieniał.

Jeszcze bardziej zaskakujące wyniki przyniosło rozszerzenie eksperymentu z pojedynczych plików na całe grupy. W jednym z testów naukowcy usuwali wszystkie dzieła należące do konkretnego artysty – wykorzystano prace z domeny publicznej stworzone przez 744 twórców. Przy odpowiednio dużym zbiorze usunięcie całej twórczości jednego z nich często nie powodowało zauważalnej zmiany konkretnego wygenerowanego obrazu.

Brzmi to paradoksalnie, bo model rzeczywiście widział te prace w trakcie treningu – były częścią danych, z których nauczył się rozpoznawania wzorców. Mimo to nie można wskazać ich jako przyczyny powstania konkretnego rezultatu, skoro po ich całkowitym usunięciu rezultat pozostaje niemal taki sam. Autorzy porównują to do próby ustalenia, która z tysięcy przeczytanych książek odpowiada za konkretne zdanie napisane wiele lat później – w pewnym momencie wiedza i wzorce mieszają się na tyle, że prosta droga od jednego źródła do jednego wyniku znika.

Aby wykluczyć, że efekt jest artefaktem nietypowej konstrukcji ich modelu, badacze przeprowadzili na mniejszą skalę wyjątkowo kosztowną wersję eksperymentu: wytrenowali 1282 osobne modele, rzeczywiście usuwając wybrane dane przed każdym treningiem. Efekt nadal występował, a testy powtórzone przy różnych sposobach generowania obrazów, miarach podobieństwa i ustawieniach treningu dały tę samą zależność.

Ważne jest jednak, że wynik nie oznacza, że modele generatywne nigdy niczego nie zapamiętują. Przy mniejszych zbiorach poszczególne przykłady miały znacznie większe znaczenie, a z wcześniejszych badań wiadomo, że modele mogą w określonych warunkach reprodukować bardzo podobne fragmenty danych treningowych. Najnowsza praca nie eliminuje tego problemu – pokazuje raczej, że nie każdy wygenerowany obraz musi dać się rozłożyć na konkretny zestaw prac, z których powstał.

Konsekwencje dla sporów o prawa autorskie

Dane treningowe od kilku lat są w centrum konfliktu między artystami a producentami modeli generatywnych. Wcześniej opisywane były pozwy artystów przeciwko Stability AI, Midjourneyowi i DeviantArtowi, dotyczące wykorzystywania chronionych prac bez zgody podczas budowania modeli. Konflikt eskalował później, gdy Disney i Universal pozwały Midjourney, wskazując m.in. obrazy przedstawiające postacie chronione prawem autorskim.

Nowe badanie MIT nie rozstrzyga tych sporów. Sam fakt, że konkretnego wyniku nie można przypisać do konkretnej pracy, nie oznacza automatycznie, że wolno było użyć tej pracy podczas treningu – to dwa odrębne zagadnienia prawne. Komplikuje jednak ocenę samego rezultatu: jeśli usunięcie każdej pojedynczej pracy po kolei nie zmienia wygenerowanego obrazu, wskazanie jego jednego, a nawet kilku autorów staje się praktycznie niemożliwe.

Badanie dotyka szerszego problemu przejrzystości modeli generatywnych – zagadnienia, które powraca również w innych kontekstach, jak choćby przy pytaniach o to, jak firmy AI faktycznie ukrywają sposób korzystania z ich chatbotów.

Praca naukowców z MIT dodaje nowy, techniczny argument do wieloletniej dyskusji o prawach autorskich w erze generatywnej AI: przy wystarczająco dużych zbiorach danych proste pytanie „co wpłynęło na ten obraz?” może po prostu nie mieć odpowiedzi.