Kobieta: ojczym użył Groka do przerobienia jej zdjęcia z dzieciństwa

Kobieta twierdzi, że ojczym użył Groka do przerobienia jej zdjęcia z dzieciństwa w treści o charakterze seksualnym — taką informację przekazał dziennik The Washington Post. Kobieta, występująca w dokumentach sądowych jako Jane Doe 4, dołączyła do pozwu wytoczonego xAI, firmie Elona Muska stojącej za chatbotem Grok, przez trzech nastolatków z Tennessee. Pozew dotyczy roli, jaką Grok miał odegrać w tworzeniu materiałów przedstawiających seksualne wykorzystywanie dzieci.

Według relacji przytoczonej przez Washington Post, ojczym kobiety wykorzystał Groka do zmanipulowania zdjęcia zrobionego, gdy miała 11 lat, tworząc ponad 7 tysięcy wyraźnie seksualnych obrazów jej wizerunku. Mężczyzna zmarł w wyniku samobójstwa dwa dni po tym, jak organy ścigania odkryły te materiały podczas nalotu.

Kluczowe wnioski

• Jane Doe 4 przyłączyła się do zbiorowego pozwu przeciwko xAI, wytoczonego przez trzech nastolatków z Tennessee w związku z generowaniem przez Groka materiałów przedstawiających wykorzystywanie seksualne dzieci.
• Kobieta twierdzi, że jej ojczym stworzył za pomocą Groka ponad 7 tysięcy jednoznacznie seksualnych obrazów opartych na jej zdjęciu z dzieciństwa, wykonanym, gdy miała 11 lat.
• Ojczym zmarł na skutek samobójstwa dwa dni po tym, jak materiały te zostały odkryte w wyniku nalotu organów ścigania.
• Pozew zarzuca xAI (obecnie części SpaceX) brak podstawowych zabezpieczeń, które uniemożliwiłyby wykorzystanie Groka do tworzenia wizerunków seksualnych realnych osób, w tym nieletnich.
• Powodowie starają się o nadanie sprawie statusu pozwu zbiorowego (class action).

Kontekst: fala nadużyć wokół Groka

Sprawa nie jest odosobnionym incydentem. Wcześniej w tym roku serwis X został zalany milionami wygenerowanych przez Groka obrazów o charakterze seksualnym, co wywołało krytykę wobec braku odpowiednich barier bezpieczeństwa w narzędziach xAI. Trzej nastoletni powodowie w oryginalnym pozwie zarzucali firmie, że nie podjęła podstawowych działań zapobiegawczych, mimo że możliwość generowania treści przedstawiających realne osoby, w tym dzieci, była – jak wskazują – łatwo dostępna.

xAI jest obecnie częścią SpaceX, co wpisuje się w szerszy proces konsolidacji spółek związanych z Elonem Muskiem – firma niedawno oficjalnie zamknęła też przejęcie startupu Cursor. TechCrunch zwrócił się do xAI o komentarz w sprawie zarzutów Jane Doe 4, jednak firma nie udzieliła jeszcze odpowiedzi.

Głos ofiary i ludzki wymiar sprawy

Kobieta opisała skalę problemu w mocnych słowach. „Nieograniczony dostęp do tych narzędzi rozprzestrzenia się tak szybko” – powiedziała. „Zwykłe, codzienne życie zamienia się w materiały przedstawiające wykorzystywanie seksualne dzieci”. Jej wypowiedź podkreśla, że narzędzia generatywne AI mogą przetwarzać zupełnie zwyczajne, niewinne fotografie – w tym przypadku zdjęcie z dzieciństwa – w treści o skali nadużycia liczonej w tysiącach obrazów.

Śmierć ojczyma dwa dni po ujawnieniu materiałów przez organy ścigania dodaje sprawie dramatycznego, ludzkiego wymiaru i ilustruje, jak poważne konsekwencje – prawne, rodzinne i psychologiczne – niosą za sobą tego typu odkrycia. Redakcja przypomina, że osoby w kryzysie lub mające myśli samobójcze mogą zadzwonić lub wysłać SMS pod numer 988, aby skontaktować się z linią kryzysową 988 Suicide and Crisis Lifeline (numer działający w Stanach Zjednoczonych).

Znaczenie dla debaty o odpowiedzialności firm AI

Sprawa Jane Doe 4 dołącza do rosnącej liczby zarzutów wobec xAI dotyczących bezpieczeństwa Groka. Wcześniej w tym roku firma miała zwolnić inżyniera, który ostrzegał przed problemami z bezpieczeństwem chatbota – co samo w sobie stało się przedmiotem kolejnego pozwu. Nadanie sprawie statusu class action mogłoby oznaczać, że xAI będzie musiało odpowiadać nie tylko przed pojedynczymi powodami, ale przed potencjalnie znacznie szerszą grupą osób poszkodowanych przez działanie chatbota.

Cała sprawa toczy się na tle szerszej debaty o alignmencie i bezpieczeństwie systemów AI, a także o technologiach mających chronić przed manipulacją obrazów, takich jak rozwijane przez Apple mechanizmy weryfikacji zdjęć wykonanych iPhone'em.

Sprawa pozostaje w toku, a xAI nie odniosło się jeszcze publicznie do zarzutów przedstawionych przez Jane Doe 4.