Anthropic wyjaśnia działanie niewidocznych znaków wodnych Claude

Anthropic wyjaśniło, jak działa nowy system niewidocznych znaków wodnych, którym zamierza oznaczać tekst generowany przez Claude. Firma poinformowała w piątek, że rozwiązanie oparte jest na „wersji podejścia SynthID-Text” — otwartoźródłowej technologii znakowania wodnego opracowanej przez Google DeepMind, która tworzy wykrywalne wzorce na podstawie prawdopodobieństw wyboru słów.

Mechanizm jest wdrażany, by spełnić wymogi unijnego AI Act, który zobowiązuje twórców systemów AI do oznaczania syntetycznego audio, obrazu, wideo i tekstu w sposób umożliwiający maszynowe wykrycie, że treść została wygenerowana lub zmanipulowana przez sztuczną inteligencję.

Kluczowe wnioski

• Anthropic wprowadza wersję systemu SynthID-Text opracowanego przez Google DeepMind do znakowania tekstu generowanego przez Claude.
• Rozwiązanie ma na celu spełnienie wymogów unijnego AI Act dotyczących oznaczania treści syntetycznych.
• Znaki wodne działają dzięki „wpływaniu” na losowe, niskostawkowe decyzje słowne modelu, tworząc niewidoczny dla czytelnika, ale wykrywalny wzorzec.
• Anthropic zapewnia, że mechanizm nie zwiększy kosztów korzystania z Claude ani nie wpłynie na jakość i treść jego odpowiedzi.
• Obok znaków tekstowych Anthropic wprowadza też wsparcie C2PA dla obrazów przetwarzanych przez Claude.

Jak działa niewidoczny znak wodny

Anthropic wyjaśniło mechanizm na przykładzie zdania „Pogoda dzisiaj była chłodna i…”. Kolejne słowo bardzo mało prawdopodobnie brzmiałoby „słodkawa”, ale całkiem prawdopodobne jest, że model wybierze „pochmurna” albo „szara”. W większości przypadków nie ma dla czytelnika większego znaczenia, które z tych dwóch słów model finalnie wybierze — sens zdania pozostaje praktycznie taki sam. W takich sytuacjach wybór rozstrzyga losowa liczba.

Znakowanie wodne wykorzystuje właśnie takie niskostawkowe decyzje — powtarzające się wielokrotnie w wygenerowanym tekście — do stworzenia wzorca w odpowiedziach Claude. Wzorzec ten jest niewykrywalny dla czytelnika, ale można go zidentyfikować przy pomocy odpowiedniego klucza, który go koduje. Gdy używane jest znakowanie wodne, wybory wciąż są dokonywane losowo, ale zmienia się źródło tej losowości. Zamiast dowolnego generatora liczb losowych do wyboru kolejnego słowa, system wykorzystuje klucz oraz kilka poprzednich słów, aby zdecydować, jakie słowo model powinien wybrać.

Anthropic zapewnia, że rozwiązanie nie zwiększy kosztów korzystania z Claude dla użytkowników i nie będzie miało „żadnego praktycznego wpływu na jakość ani treść odpowiedzi Claude”. Więcej o samym mechanizmie i wcześniejszej publikacji tych informacji można znaleźć w artykule o tym, jak Anthropic ujawnia szczegóły działania znaków wodnych Claude.

Presja regulacyjna z Europy

Wprowadzenie tekstowych znaków wodnych, wraz ze wsparciem standardu C2PA dla obrazów przetwarzanych przez Claude, jest odpowiedzią na obowiązki wynikające z unijnego AI Act. Regulacja wymaga, by syntetyczne audio, obraz, wideo i tekst zawierały maszynowo odczytywalne oznaczenia, które umożliwią wykrycie, że dana treść została wytworzona lub zmanipulowana przez sztuczną inteligencję.

Jak zauważa Anthropic, unijne wymogi transparentności AI dotyczą nie tylko Claude, ale wszystkich głównych twórców modeli językowych działających na rynku europejskim. Chatbot Gemini od Google wspiera rozwiązanie SynthID Text już od 2024 roku. OpenAI, choć nie ujawniło szczegółowych planów wprowadzenia znaków wodnych do tekstu w swojej mapie zgodności z AI Act dla ChatGPT, również będzie musiało spełnić wymogi tej ustawy.

Znaczenie dla branży AI

Wprowadzenie widocznego dla maszyn, lecz niewidocznego dla ludzkiego oka mechanizmu znakowania wodnego w tekście generowanym przez AI to kolejny krok w budowaniu infrastruktury transparentności treści syntetycznych w Europie. Skoro nie tylko Anthropic, ale też Google i pośrednio OpenAI muszą przystosować się do przepisów AI Act, można oczekiwać, że podobne rozwiązania staną się standardem branżowym w kolejnych latach, obejmując coraz szerszy zakres modeli i platform generatywnych. Anthropic pracuje też nad udostępnieniem publicznego interfejsu do weryfikacji tych znaków — więcej na ten temat w tekście o tym, jak Anthropic udostępni API do wykrywania znaków wodnych Claude.

Co to oznacza dla Polski

Jako kraj członkowski Unii Europejskiej, Polska jest bezpośrednio objęta wymogami AI Act, w tym obowiązkiem oznaczania treści syntetycznych generowanych przez systemy AI. Oznacza to, że polscy użytkownicy Claude, Gemini czy innych chatbotów objętych regulacją mogą w praktyce korzystać z treści, które w niewidoczny sposób noszą maszynowo wykrywalne znaki pochodzenia AI — co ma znaczenie zwłaszcza w kontekście walki z dezinformacją i weryfikacji autentyczności treści publikowanych w internecie.

Podsumowując, Anthropic dołącza do Google w implementacji technologii znakowania wodnego tekstu, wypełniając unijne wymogi transparentności AI Act, przy czym twierdzi, że zmiana nie wpłynie negatywnie na jakość ani koszt korzystania z Claude.