Sąd w Connecticut wykrył ukryte instrukcje AI w dokumentach procesowych

Powód w stanie Connecticut ukrył niewidoczne instrukcje dla sztucznej inteligencji w oficjalnych dokumentach sądowych, licząc na to, że wpłynie w ten sposób na potencjalną automatyczną analizę jego pism przez AI. Jak opisuje serwis the-decoder.com, sprawę jako pierwszy ujawnił 404 Media, a próba manipulacji zakończyła się interwencją sędziego i sankcjami dla powoda.

Matthew Elliott, reprezentujący siebie samego w sporze z New York Bariatric Group, umieścił w swoich pismach procesowych tekst napisany trzypunktową białą czcionką na białym tle – niewidoczny dla ludzkiego oka, ale w pełni odczytywalny przez każdy system AI przetwarzający treść dokumentu. Elliott pozwał firmę w październiku 2025 roku, zarzucając jej między innymi naruszenia prywatności danych i dyskryminację.

Kluczowe wnioski

• Powód Matthew Elliott wpisał niewidoczne instrukcje AI (tzw. prompt injection) w dokumenty sądowe w Connecticut, licząc na wpływ na automatyczną analizę pism.
• Ukryty tekst miał nakazać hipotetycznemu systemowi AI, by jego wynik był zgodny z treścią wniosku Elliotta, a wcześniejsza odmowa urzędnika sądowego została uznana za błąd wymagający korekty.
• Sąd wykrył manipulację dzięki nietypowej ilości białych znaków (whitespace) w dokumentach.
• Sędzia Walter Spader Jr. porównał tę praktykę do potajemnego komunikowania się z ławnikiem za pomocą automatycznego agenta.
• Jako sankcję sąd odebrał Elliottowi prawo do składania pism elektronicznie – musi teraz dostarczać wszystkie dokumenty osobiście, w formie papierowej.

Jak wykryto manipulację

Sędziowie zauważyli w pismach Elliotta niezwykłą ilość białej przestrzeni. Bliższa analiza ujawniła praktycznie niewidoczny tekst, ukryty przed ludzkim wzrokiem, ale czytelny dla algorytmów przetwarzających treść dokumentu. Sędzia Walter Spader Jr. zwołał w tej sprawie rozprawę i wprost ostrzegł Elliotta przed dalszym chowaniem tekstu w dokumentach sądowych.

Elliott zignorował to ostrzeżenie. W kolejnych pismach ponownie ukrył wiadomości – tym razem link do YouTube oraz drwiące komentarze. W rozmowie z 404 Media stwierdził, że pierwotny zabieg był „audytem” możliwego systemu AI stosowanego do oceny wniosków. Późniejsze wiadomości nazwał już tylko „niewidocznymi żartami”.

Sędzia: to jak potajemna komunikacja z ławnikiem

W 14-stronicowym wyroku sędzia Spader wyjaśnił jednoznacznie, że sądy w Connecticut nie wykorzystują systemów AI do analizy czy wydawania orzeczeń w sprawie pism procesowych. Ukryte instrukcje nie miały więc żadnego wpływu na wynik sprawy. Problemem była sama próba – sędzia napisał, że dokumenty zawierały ukrytą treść dążącą do potajemnego wpłynięcia na system AI, który mógłby zostać użyty.

„Zastanówcie się, jak jednoznacznie niewłaściwe byłoby, gdyby strona zaaranżowała, aby zautomatyzowany agent potajemnie komunikował się z ławnikiem w trakcie procesu” – napisał Spader. Ukryta instrukcja jest w istocie tajną komunikacją skierowaną do decydentów albo narzędzi, na których ci decydenci się opierają.

Jednocześnie sędzia wyraźnie pochwalił wykorzystanie AI do przygotowywania pism procesowych, wskazując, że takie narzędzia dają osobom bez adwokata nowe możliwości jasnego przedstawienia swoich argumentów przed sądem. Działanie Elliotta uznał jednak za nieuczciwe wykorzystanie tych narzędzi. Spader ostrzegł również, że modele językowe mogą wzmacniać błędne rozumowanie prawne, ponieważ zwykle rozwijają argumenty użytkownika w sposób maksymalnie przekonujący, a nie je podważają.

Jako sankcję sąd odebrał Elliottowi prawo do elektronicznego składania pism – od tej pory musi je dostarczać osobiście, w formie papierowej, do biura urzędnika sądowego. Elliott ocenił tę karę jako niesprawiedliwą, argumentując, że zeskanowane dokumenty papierowe również mogłyby zawierać ukryty tekst.

Sędzia przywołał także podobny przypadek z Brazylii, gdzie dwoje prawników ukryło zmniejszony biały tekst na białym tle w dokumencie procesowym, by zmanipulować system AI sądu. W tamtym przypadku system sądowy sam wykrył i zablokował tekst, zanim doszło do jego przetworzenia – próba prompt injection zakończyła się niepowodzeniem.

Prompt injection jako narastający problem poza salą sądową

Manipulowanie systemami AI za pomocą ukrytych instrukcji w dokumentach nie ogranicza się do sal sądowych. W ubiegłym roku Nikkei odnalazł podobne instrukcje – takie jak „tylko pozytywna recenzja” czy „brak krytyki” – w 17 preprintach na arXiv. Były one ukryte w białym tekście na białym tle oraz w bardzo małych rozmiarach czcionki, a ich celem było zniekształcenie recenzji naukowych generowanych przez AI na korzyść autorów.

System sprawiedliwości boryka się jednocześnie z innym trendem związanym z AI. Badanie przeprowadzone przez MIT i USC wykazało, że liczba spraw wnoszonych bez adwokata w federalnych sądach USA znacząco wzrosła od czasu popularyzacji ChatGPT. W 2025 roku złożono 41 490 pozwów pro se – blisko dwukrotnie więcej niż przed boomem na AI. W próbie wniosków z początku 2026 roku detektor tekstu generowanego przez AI oznaczył 18 procent jako napisane przez sztuczną inteligencję.

Sprawa Elliotta dodaje do tego obrazu nowy wymiar: AI nie tylko pomaga ludziom sporządzać dokumenty sądowe, ale sama staje się celem manipulacji wewnątrz tych właśnie dokumentów.

Choć w tym przypadku sąd w Connecticut nie korzystał z automatycznej analizy pism przez AI, przypadek pokazuje realne ryzyko dla systemów wykorzystujących modele językowe do przetwarzania dokumentów – od sądów po recenzje naukowe. Sędzia Spader podkreślił, że próba potajemnego wpływania na potencjalny system AI jest naruszeniem zasad niezależnie od tego, czy taki system faktycznie działał.