Społeczność fanfiction w konflikcie z AI — nowe narzędzie wykrywa Claude'a, ale dzieli autorów

Społeczność fanfiction dzieli się na coraz ostrzejsze obozy w sporze o wykorzystanie sztucznej inteligencji do tworzenia fanowskich utworów. Czytelnicy desperacko próbują opracować sposoby wykrywania tekstów generowanych przez AI, ale skuteczność tych metod pozostaje wątpliwa.

W ostatnim tygodniu w społeczności fanfiction wybuchł nowy konflikt, gdy anonimowe konto na platformie X o nazwie @heatedrivalryai opublikowało narzędzie mające wykrywać teksty utworzone przez bota Claude firmy Anthropic. Sprawa szybko wymknęła się spod kontroli, prowadząc do publicznego piętnowania autorów.

Kluczowe wnioski

• Anonimowy twórca opracował „skórkę” dla Archive of Our Own (AO3), która ma wykrywać artefakty kodu pozostawiane przez Claude'a w tekstach fanfiction.
• Narzędzie zmienia tło całej strony na czerwone, gdy wykryje kod „font-claude-response-body” pozostawiany przez Claude'a przy bezpośrednim wklejaniu tekstu.
• Społeczność fanfiction zaczęła używać tego narzędzia do publicznego nazywania i zawstydzania autorów, których prace zostały oznaczone jako potencjalnie wygenerowane przez AI.
• Metoda ma poważne ograniczenia — nie wykryje tekstów edytowanych w innych programach przed przeniesieniem do AO3 i nie rozróżnia pełnego wykorzystania AI od częściowego.
• Eksperci ostrzegają, że obecnie nie istnieje niezawodny technologiczny sposób rozróżnienia tekstów generowanych przez AI od pisanych przez ludzi.

Jak działa detektor Claude'a

Narzędzie opiera się na prostym, ale skutecznym mechanizmie. Gdy użytkownicy kopiują tekst bezpośrednio z Claude'a do edytora AO3, bot automatycznie opakowuje go w specjalny kod CSS o nazwie „font-claude-response-body”. Obecność tego kodu w opublikowanym utworze wskazuje na wykorzystanie Claude'a.

Testy przeprowadzone przez The Verge potwierdziły działanie narzędzia. Gdy tekst został wklejony bezpośrednio z Claude'a, ekran natychmiast zmienił kolor na czerwony. Jednak gdy ten sam tekst został wcześniej przepuszczony przez Google Docs czy Microsoft Word, kod znikał i detektor przestawał działać.

Twórca narzędzia podkreśla, że jego celem nie jest „tworzenie środowiska nieufności czy oskarżanie konkretnych użytkowników”, ale ochrona unikalnego charakteru fandomu. „Fandom to wyjątkowo łącząca, kolaboracyjna przestrzeń. Kwitnie dzięki ludzkiemu elementowi i twórczej iskrze, która go napędza i się nim karmi” — wyjaśnił anonimowy programista.

Kontrowersje i ograniczenia

Społeczność fanfiction szybko zmobilizowała się do wykorzystania narzędzia w sposób, który wykracza poza pierwotne zamierzenia twórcy. Wielu członków społeczności uważa jakiekolwiek wykorzystanie generatywnej AI za niewybaczalną zdradę szerszej wspólnoty twórczej, powołując się na obawy dotyczące wpływu technologii na środowisko i faktu, że modele są trenowane na danych z otwartego internetu, prawdopodobnie włączając fanowskie utwory z platform takich jak AO3.

Problem polega jednak na tym, że czerwony ekran może oznaczać zarówno w pełni wygenerowaną przez AI historię, jak i sytuację, w której autor wkleił kilka napisanych przez siebie zdań do Claude'a w celu sprawdzenia pisowni czy tłumaczenia, a następnie przeniósł je z powrotem do AO3.

Narzędzie ma również znaczące ograniczenia techniczne. Działa wyłącznie z Claude'em i tylko wtedy, gdy tekst jest kopiowany bezpośrednio do AO3. Nie wykryje utworów edytowanych w innych programach, a przyszłe prace mogą łatwo ominąć detekcję. Niektórzy autorzy, których prace zostały oznaczone, już zaktualizowali swoje utwory, usuwając problematyczne artefakty.

Szerszy problem detekcji AI

Eksperci od lat ostrzegają, że obecnie nie istnieje niezawodne technologiczne rozwiązanie pozwalające odróżnić tekst generowany przez AI od napisanego przez człowieka. Systemy takie jak C2PA Content Credentials i Google SynthID robią postępy w identyfikacji generatywnej AI w obrazach, filmach i dźwięku, ale opierają się na niewidzialnych znakach wodnych i metadanych, które nie przenoszą się przy kopiowaniu tekstu.

Firma Anthropic nie odpowiedziała na prośbę o weryfikację działania fanowskiego detektora Claude'a, podobnie jak Google i OpenAI nie ustosunkowały się do pytań o podobne artefakty pozostawiane przez ich modele.

Konflikt w społeczności fanfiction odzwierciedla szersze napięcia w świecie twórczym związane z rozwojem AI. Choć narzędzia do detekcji mogą się rozwijać, obecne rozwiązania pozostają nieprecyzyjne i mogą prowadzić do niesłusznych oskarżeń, dzieląc społeczności zamiast je chronić.