Anthropic ujawnia szczegóły działania znaków wodnych Claude

Anthropic opublikowało w piątek obszerny wpis na blogu, w którym wyjaśnia, jak dokładnie będzie działać znakowanie wodne tekstów generowanych przez chatbota Claude. Firma odpowiada na pytania, które od kilku dni budzą kontrowersje wśród użytkowników: jak technicznie działa mechanizm, czy można go obejść przez edycję tekstu i co z kodem programistycznym.

Debata wybuchła po tym, jak Anthropic ogłosiło wcześniej w tym tygodniu, że wprowadza znaki wodne, aby spełnić wymogi Kodeksu Postępowania w zakresie Przejrzystości unijnego AI Act, który zobowiązuje firmy AI do stosowania systemów pozwalających identyfikować treści wygenerowane przez sztuczną inteligencję.

Kluczowe wnioski

• Anthropic wykorzysta metodę SynthID-Text opracowaną przez zespół Google DeepMind i opisaną w 2024 roku, a docelowo udostępni publiczne API do wykrywania znaków wodnych.
• Znak wodny powstaje, gdy Claude podejmuje „decyzje niskiej wagi” — np. wybiera między słowem „pochmurno” a „szaro” — tworząc niewykrywalny dla czytelnika wzorzec, który da się jednak odczytać za pomocą specjalnego klucza.
• Firma zapewnia, że znakowanie nie wpływa na jakość odpowiedzi Claude — dla czytelnika tekst ze znakiem wodnym jest nierozróżnialny od tekstu bez niego.
• Lekka edycja tekstu prawdopodobnie nie usunie znaku wodnego w całości, ale pełne przepisanie każdego słowa — tak.
• Kod programistyczny będzie miał znacznie słabszy znak wodny niż tekst naturalny, ponieważ model musi generować działający kod i ma mniej swobody wyboru między równoważnymi opcjami.

Jak dokładnie działa mechanizm znakowania

Anthropic tłumaczy, że przy podejmowaniu drobnych, arbitralnych decyzji językowych Claude tworzy wzorzec w swoich odpowiedziach, który jest „niewykrywalny dla czytelnika, ale wykrywalny dla każdego, kto posiada klucz go kodujący”. Firma podkreśla, że „znakowanie wodne nie wpływa na jakość wyników Claude” i że „dla czytelnika odpowiedź ze znakiem wodnym jest nierozróżnialna od odpowiedzi bez niego”.

Konkretnie, Anthropic zdecydowało się na zastosowanie podejścia SynthID-Text, opracowanego przez zespół Google DeepMind i opisanego w 2024 roku. Firma planuje też wypuścić publiczne API do wykrywania znaków wodnych — Anthropic udostępni API do wykrywania znaków wodnych Claude, co pozwoli zewnętrznym podmiotom weryfikować, czy dany tekst został wygenerowany przez model.

Anthropic wyraźnie odróżnia swoje podejście od narzędzi wykrywania AI takich jak te oferowane przez firmę Pangram, które szukają charakterystycznych „tik-ów” w piśmie (np. konstrukcji typu „to nie jest [X], to [Y]”), by ujawnić użycie AI. „Wychwytywanie takich wzorców jest fundamentalnie różne od sprawdzania znaku wodnego” — napisała firma.

Czy można obejść znak wodny — i co z kodem

Anthropic przyznaje, że teoretycznie można usunąć znak wodny, przepisując tekst. „Lekka edycja prawdopodobnie nie usunie znaku wodnego całkowicie”, natomiast „pełne przepisanie, w którym każde słowo zostaje zmienione, usunie go”. Firma zauważa jednak przy tym, że w takim przypadku „można się spierać, czy tekst da się jeszcze nazwać wygenerowanym przez AI”.

Jeśli tekst został przez Claude tylko sprawdzony pod kątem błędów lub lekko zredagowany, wykrywalność znaku wodnego zależy od „długości tekstu i od tego, jak intensywnie Claude go edytował”. Przy lekkiej edycji „prawie wszystkie słowa” pochodzą od ludzkiego autora, więc „jest bardzo mało (jeśli w ogóle) materiału, do którego znak wodny mógłby się przypisać”.

Inaczej sytuacja wygląda w przypadku kodu programistycznego. Ponieważ model musi tworzyć działający kod i nie ma swobody wyboru między wieloma równoważnymi rozwiązaniami, znak wodny w kodzie będzie znacznie słabszy niż w tekście naturalnym. „Mimo to, w miejscach, gdzie istnieje arbitralny wybór między konkretnymi słowami lub terminami w kodzie, znak wodny może zostać zastosowany, na przykład w komentarzach w kodzie” — wyjaśnia Anthropic, dodając, że „z definicji będzie to miało minimalny wpływ na sam wygenerowany kod”.

Firma podkreśla też, że Claude nie będzie jedynym chatbotem generującym tekst ze znakiem wodnym — „inni główni deweloperzy modeli podpisali ten sam Kodeks Postępowania i będą wdrażać własne znaki wodne”.

Reakcje użytkowników i kontrowersje

Decyzja Anthropic wywołała falę krytyki wśród części społeczności. Na Reddicie jeden z użytkowników nazwał znakowanie „spiskiem wymierzonym w niewinnych użytkowników Claude”, inny stwierdził, że „jedynym powodem, dla którego nie chciałbyś tego mieć, jest chęć okłamywania ludzi”. Według doniesień Business Insider „dziesiątki” użytkowników na platformie X twierdziły, że anulowały swoje subskrypcje Claude w reakcji na tę zmianę.

Część obaw dotyczyła obawy przed wykryciem użycia Claude w pracy zawodowej czy podczas zajęć edukacyjnych — czyli sytuacji, w których korzystanie z AI mogłoby być niedozwolone lub niekomfortowe do ujawnienia. Anthropic w swoim wpisie stara się rozwiać te wątpliwości, prezentując znakowanie jako element zgodności z regulacjami, a nie jako narzędzie inwigilacji.

Podsumowanie

Anthropic doprecyzowało mechanizm znakowania wodnego, opierając go na technologii SynthID-Text i planując udostępnić publiczne API weryfikacyjne. Zmiana wynika z konieczności spełnienia wymogów unijnego AI Act, a firma zapewnia, że nie wpłynie ona na jakość odpowiedzi Claude, choć wywołała już wyraźny sprzeciw części użytkowników.