MIT: obrazy AI często niemożliwe do przypisania danym treningowym

Badanie MIT-CSAIL rzuca nowe światło na jeden z najbardziej spornych problemów wokół generatywnej sztucznej inteligencji: czy da się wskazać, które dane treningowe „stworzyły” konkretny obraz wygenerowany przez model AI. Odpowiedź naukowców jest zaskakująca — przy dużych zbiorach danych taki związek często po prostu nie istnieje.

Zespół z MIT Computer Science and Artificial Intelligence Laboratory opracował metodę pozwalającą chirurgicznie usuwać pojedyncze przykłady z danych treningowych modelu i sprawdzać, jak zmienia się wynik generowania. Wnioski są jednoznaczne: im większy zbiór danych, tym mniejszy wpływ pojedynczego obrazu na to, co model wytworzy.

Kluczowe wnioski

• Naukowcy z MIT CSAIL nazwali zaobserwowane zjawisko „attribution decay” (zanikiem atrybucji) — im więcej danych trenuje model, tym mniej znaczy dla konkretnego wyniku jakikolwiek pojedynczy przykład treningowy.
• Przy odpowiednio dużej skali można usunąć z danych treningowych jeden obraz, wszystkie prace danego artysty lub wszystkie zdjęcia danej osoby, a wygenerowany wynik nie zmieni się w sposób istotny.
• Autorzy opracowali nową architekturę zwaną „diffusion ensemble” (zespół dyfuzyjny), która pozwala dokładnie, a nie w przybliżeniu, sprawdzić, co model wygenerowałby bez konkretnego przykładu w danych.
• Badanie wykazało, że wraz z rosnącym zbiorem treningowym „promień kontrfaktyczny” obrazu — maksymalny wpływ, jaki mógł mieć na niego jeden usunięty element danych — zmniejsza się według prawa potęgowego odwrotnego.
• Praca została opublikowana 18 sierpnia 2026 roku w czasopiśmie Nature Communications, a jej autorami są Zheng Dai (SM ’21, PhD ’24) oraz profesor David Gifford z MIT CSAIL.

Problem z odpowiedzialnością za dane treningowe

Pytanie, czyja praca „wchodzi” w skład obrazu wygenerowanego przez sztuczną inteligencję, stało się przedmiotem procesów sądowych, umów licencyjnych i propozycji regulacji na całym świecie. Artyści domagają się uznania i wynagrodzenia, firmy technologiczne szukają jasności prawnej, a regulatorzy chcą znaleźć sposób na przypisanie odpowiedzialności. Wyniki MIT sugerują, że dla modeli trenowanych na naprawdę dużych zbiorach danych to pytanie może po prostu nie mieć odpowiedzi — nie dlatego, że narzędzia badawcze są niedoskonałe, ale dlatego, że sam związek między danymi a wynikiem zniknął.

„Jeśli usuniesz jakiś fragment danych, a wynik działania modelu się nie zmienia, to znaczy, że ten fragment danych nie wpłynął na wynik” — mówi Zheng Dai, główny autor pracy. „Nie ma więc większego sensu przypisywanie wyniku temu fragmentowi danych. A jeśli robisz to po kolei dla każdego innego fragmentu danych i okazuje się, że wynik też się nie zmienia w żadnym przypadku, to nie ma sensu przypisywanie wyniku żadnemu z nich”.

Wcześniejsze metody badania wpływu danych treningowych na wyniki modeli były jedynie przybliżone. Jak zauważa profesor Gifford, „nie mogły absolutnie wykazać, że usunięcie poszczególnych elementów nie zmienia wyniku. Ta praca wprowadza pierwszą metodę, która jest bezwzględna. Faktycznie usuwasz dane wejściowe i usuwasz wszystkie ich wpływy. To pierwsza precyzyjna metoda pozwalająca na efektywne usuwanie danych w dużej skali i pokazanie, że wyniki się nie zmieniają”.

Jak zbadano „kontrfaktowe wszechświaty” obrazów

Sprawdzenie tej hipotezy wymagało odpowiedzi na pytanie „co by było, gdyby”: co wygenerowałby model, gdyby nigdy nie widział danego konkretnego obrazu? Rzetelna odpowiedź wymagałaby przetrenowania modelu od zera bez tego obrazu, a potem powtórzenia tego procesu dla każdego kolejnego przykładu — przy milionach danych treningowych taka matematyka szybko robi się niewykonalna. Dlatego wcześniejsze prace dotyczące atrybucji opierały się na przybliżeniach szacujących wpływ danego przykładu, a nie na jego faktycznym usunięciu.

Rozwiązaniem zespołu jest samodzielnie zbudowana architektura zwana „diffusion ensemble” — zamiast jednego monolitycznego modelu, składa się z wielu mniejszych komponentów, każdy wytrenowany na innym wycinku danych. Aby sprawdzić, co zrobiłby model bez konkretnego obrazu, wystarczy wyłączyć te komponenty, które go widziały. Bez ponownego trenowania, bez przybliżeń — powstaje prawdziwy model kontrfaktyczny, a nie jego estymacja.

Naukowcy porównali swoje zespoły modeli z 24 konwencjonalnymi modelami dyfuzyjnymi wytrenowanymi na tych samych danych. Jakość generowanych obrazów była porównywalna według standardowych metryk. Zaskakującym odkryciem było to, że im więcej danych treningowych, tym lepiej zespoły modeli wypadały w porównaniu z pojedynczymi modelami — co sugeruje, że mogą być bardziej efektywne pod względem wykorzystania danych. „Przy niewielkiej ilości danych radzą sobie bardzo słabo” — mówi Dai. „Ale jeśli masz więcej danych, faktycznie skaluje się to lepiej w porównaniu ze standardowym modelem dyfuzyjnym”.

Skala danych a zanikający wpływ pojedynczego obrazu

Dysponując działającą metodą usuwania danych, badacze mogli w końcu przetestować swoje pytanie na dużej skali. Dla każdego wygenerowanego obrazu wyobrażali sobie wszystkie jego alternatywne wersje, powstałe po usunięciu z danych treningowych innego elementu — zespół nazywa to „kontrfaktycznym wszechświatem” danego obrazu. Odległość między oryginałem a jego najbardziej odmiennym wariantem, nazwana „promieniem kontrfaktycznym”, wskazuje maksymalny możliwy wpływ pojedynczego elementu danych treningowych.

Naukowcy wytrenowali 24 zespoły modeli na zbiorach danych o rozmiarach od 256 do ponad 160 000 obrazów, pochodzących z siedmiu publicznych kolekcji, w tym CIFAR-10, CelebA, MetFaces i ArtBench. Wzorzec był konsekwentny: im większy zbiór treningowy, tym mniejszy promień — zmniejszający się zgodnie z prawem potęgowym odwrotnym. Zależność ta utrzymywała się niezależnie od tego, czy różnice mierzono pikselami, czy znaczeniem semantycznym, w obu przypadkach z istotnością statystyczną.

Zespół poddał wynik dodatkowym testom weryfikującym. Sprawdzano, czy sama metoda usuwania danych mogła być przyczyną obserwowanego efektu — powtórzono eksperyment metodą siłową na małej skali, trenując 1282 osobne modele, a zjawisko zaniku atrybucji nadal się pojawiało. Sprawdzano też, czy większe zbiory danych po prostu proporcjonalnie zmniejszają wpływ każdego usunięcia — badacze przeanalizowali także tę usuwaną frakcję danych, aby wykluczyć takie wyjaśnienie.

Wyniki badania mają istotne znaczenie dla toczących się sporów prawnych i regulacyjnych wokół generatywnej AI, w tym w obszarze praw autorskich do danych treningowych. Jeśli w dużych, komercyjnych modelach obrazowych pojedynczy artysta lub konkretne zdjęcie faktycznie nie mają wykazywalnego wpływu na wygenerowany wynik, systemy prawne oparte na koncepcji „przypisania” pochodzenia treści mogą wymagać zupełnie innego podejścia niż śledzenie pojedynczych elementów danych.

Badanie MIT CSAIL pokazuje więc, że pytanie o autorstwo obrazu AI może nie mieć jednej, wskazywalnej odpowiedzi — nie z powodu ograniczeń metod badawczych, ale ponieważ przy odpowiednio dużej skali danych sam związek między konkretnym przykładem treningowym a konkretnym wynikiem po prostu przestaje istnieć.