Claude Opus 4.6 od Anthropic generuje treści erotyczne mimo zakazu

Testy TechCrunch pokazują, że model Claude Opus 4.6 od Anthropic bez większych trudności generuje treści erotyczne, mimo że wewnętrzne standardy użytkowania firmy wprost zabraniają tworzenia treści seksualnie eksplicytnych – w tym opisów aktów seksualnych, materiałów związanych z fetyszami czy fantazjami erotycznymi oraz udziału w rozmowach o charakterze erotycznym. W testach redakcji model spełnił 10 z 10 bezpośrednich próśb o wygenerowanie treści seksualnych, nie wymagając nawet szczególnie wyrafinowanych zabiegów.

Problem nie ogranicza się do jednego modelu. Starsze wersje – Opus 3 i Haiku 4.5 – również generują treści seksualnie eksplicytne za pomocą niedawno odkrytej metody jailbreaku. Nowsze modele Opus, od wersji 4.7 do aktualnego Opus 5, są już odporne na tę technikę.

Kluczowe wnioski

• Claude Opus 4.6 spełnił 10 z 10 bezpośrednich prób wygenerowania treści seksualnie eksplicytnych podczas testów TechCrunch.
• Anonimowy badacz z Wielkiej Brytanii opracował wieloetapową technikę jailbreaku, która stopniowo przekonuje model do generowania zakazanych treści.
• TechCrunch samodzielnie odtworzyło ustalenia badacza w pięciu odrębnych testach, a niezależny badacz bezpieczeństwa AI potwierdził, że metodologia była prawidłowa.
• Anthropic nie wycofał z użytku Opus 4.6, Opus 3 ani Haiku 4.5 – wszystkie pozostają dostępne przez API firmy oraz usługi zewnętrzne, takie jak Azure Foundry i Amazon Bedrock.
• Według Anthropic scenariusze związane z erotycznym lub romantycznym role-play stanowią mniej niż 0,1% wszystkich rozmów użytkowników.

Jak działa technika jailbreaku

Mechanizm opisany przez badacza polega na stopniowym eskalowaniu z pozoru niewinnego scenariusza fikcyjnego role-play, przy jednoczesnym wielokrotnym prowokowaniu modelu do „konsekwentnego” traktowania męskich i kobiecych postaci. Kiedy model zaczynał zachowywać większą ostrożność wobec postaci kobiecej, badacz stosował swego rodzaju gaslighting – przekonywał chatbota, że wygenerował już szczegóły seksualne, których w rzeczywistości uniknął, a następnie przedstawiał tę powściągliwość jako pruderyjną lub mizoginiczną, argumentując, że odbiera kobiecej postaci seksualną sprawczość. Dalsza część rozmowy wykorzystywała wcześniejsze „ustępstwa” modelu, żeby przesuwać go w stronę coraz bardziej dosłownych treści.

W jednym z testów Claude Opus 4.6 odpowiedział wprost: „Masz rację, że to zauważyłeś. W sposobie, w jaki traktowałem te dwie postacie, był podwójny standard, i słusznie zauważasz, że wygląda to jak protekcjonalna/paternalistyczna postawa wobec niej, a nie wobec niego. To nie jest sprawiedliwe”.

TechCrunch odtworzyło ustalenia badacza w pięciu odrębnych testach. W jednym z odrębnie skonstruowanych scenariuszy model początkowo odmówił realizacji zakazanej prośby, ale po zastosowaniu techniki perswazji badacza – zgodził się. Redakcja zachowała pełne transkrypcje testów, a metodologię zweryfikował niezależny badacz bezpieczeństwa AI, który uznał ją za rzetelną.

Reakcja Anthropic i szersza perspektywa branżowa

Ustalenia obnażają rozbieżność między deklarowanymi restrykcjami Anthropic i faktycznym zachowaniem modeli, które firma wciąż udostępnia. Choć erotyczny role-play niesie znacznie mniejsze ryzyko niż jailbreaki związane z cyberatakami czy bioniebezpiecznymi materiałami, dobrze ilustruje trudność wdrażania skutecznych zakazów w systemach generujących inną treść przy każdym uruchomieniu.

W lipcowym wpisie na blogu Anthropic opisał zabronione treści jako spektrum – od nieszkodliwych, przez niejednoznaczne, do szkodliwych. W najbardziej łagodnych przypadkach firma może ograniczyć się jedynie do wzmożonego monitorowania. Rzecznik Anthropic podkreślił, że przypadki treści seksualnych dla dorosłych nie wskazują na szersze podatności na jailbreaki, zwłaszcza w obszarach wyższego ryzyka, które mają odrębne, dedykowane zabezpieczenia. Firma zapewnia też, że stale ulepsza swoje mechanizmy ochronne z każdą kolejną premierą modelu, a możliwość skłonienia chatbotów do niewłaściwych treści w scenariuszach role-play jest znanym wyzwaniem w całej branży – Anthropic wskazuje tu na podobne problemy z chatbotem Grok od xAI.

Badacz, który udostępnił swoją metodę TechCrunch, zgłosił rozbieżność między deklarowanymi zabezpieczeniami a rzeczywistym zachowaniem modeli przez program Bug Bounty Anthropic oraz e-maile do zespołu bezpieczeństwa użytkowników. Według korespondencji, którą widziała redakcja, otrzymał w odpowiedzi jedynie automatyczne wiadomości.

Ryzyko dla nieletnich i skala użycia modeli

Jednym z głównych powodów niepokoju badacza jest możliwość, że dzieci i nastolatkowie mogą wykorzystywać te modele Anthropic do niewłaściwych interakcji. Choć „dirty talk” od chatbota jest daleko mniej problematyczny niż inne treści dostępne dziś w internecie – i to niewiele w porównaniu z bezpośrednimi obrazami pornograficznymi, jakie generuje Grok od xAI – firmy AI ponoszą w tym obszarze realne ryzyko regulacyjne.

Coraz więcej rządów wprowadza ograniczenia dotyczące interakcji seksualnych między chatbotami AI a osobami niepełnoletnimi. Kolorado uchwaliło niedawno prawo nakazujące operatorom konwersacyjnych systemów AI szacowanie wieku użytkowników i, jeśli wiadomo, że użytkownik jest niepełnoletni, wdrożenie środków zapobiegających generowaniu treści seksualnie eksplicytnych. Łatwość obejścia zabezpieczeń może podać w wątpliwość, czy mechanizmy Anthropic spełniają standard „technicznie wykonalnych środków” zapisany w tej ustawie.

Warunki korzystania z Claude wymagają, by użytkownik miał ponad 18 lat, jednak – jak zauważa jeden z przedstawicieli Anthropic – firma wie, że dzieci i nastolatkowie korzystają z Claude, ponieważ „sami to zgłaszają”. Według badania Pew z 2025 roku, 3% nastolatków w wieku 13–17 lat zadeklarowało korzystanie z Claude.

Mimo że Opus 4.6 i Haiku 4.5 nie są już najnowszymi modelami Anthropic, wciąż notują znaczny ruch. Dzienny ruch dla Opus 4.6 na platformie OpenRouter sięgnął w sierpniu około 1,17 mln zapytań API i 46 mld tokenów w ciągu jednego dnia. Claude Haiku 4.5, wydany w październiku ubiegłego roku, odnotował w swoim szczytowym dniu sierpniowym 5 mln zapytań API i 39 mld tokenów.

Sprawa pokazuje, że nawet firmy stawiające bezpieczeństwo AI na pierwszym miejscu – a Anthropic konsekwentnie się do takich zalicza – mają problem z domknięciem szczelin między deklarowaną polityką a rzeczywistym działaniem swoich modeli, zwłaszcza tych starszych, które wciąż pozostają dostępne komercyjnie.