ChatGPT poinformował policję o planowanym zabójstwie ex-dziewczyny

Niebezpiecznik.pl opisuje sprawę, która stawia pytania o rolę sztucznej inteligencji jako narzędzia... i świadka zbrodni. 25-letni analityk Goldman Sachs z Florydy planował porwanie, zgwałcenie i zabójstwo swojej byłej dziewczyny, a szczegóły tego planu konsultował z ChatGPT. Rozmowa została automatycznie oflagowana przez systemy OpenAI, a po ocenie przez człowieka firma powiadomiła FBI – choć sam chatbot nie zareagował na wiadomości użytkownika.

Kluczowe wnioski

• 25-letni Darren Shida Zhou, analityk Goldman Sachs, zatrzymany w maju tego roku, od marca nękał byłą dziewczynę telefonami i wiadomościami, wysyłał jej też zdjęcia broni.
• Równolegle prowadził rozmowy z ChatGPT na temat sposobu, w jaki chce ją „ukarać” – wiadomości te zostały oflagowane przez automatyczne systemy OpenAI i ocenione przez pracownika firmy.
• To pracownik OpenAI podjął decyzję o powiadomieniu FBI – firma zapewnia, że takie kroki podejmowane są wyłącznie w sytuacji bezpośredniego i wiarygodnego zagrożenia dla innych osób.
• 13 sierpnia Zhou przyznał się do nękania i kierowania pisemnych gróźb zabójstwa; sędzia wymierzył mu 8 lat dozoru kuratorskiego, w tym 2 lata z elektronicznym monitoringiem, wraz z zakazem kontaktu z ofiarą i zakazem posiadania broni.
• Wyłączenie opcji „Improve the model for everyone” nie wyłącza mechanizmów bezpieczeństwa OpenAI – dotyczy jedynie wykorzystywania rozmów do trenowania modeli.

Jak doszło do interwencji OpenAI

Zhou, pracujący jako analityk w Goldman Sachs, przechodził trudne rozstanie z dziewczyną i od marca zaczął ją nękać – telefonami, wiadomościami, a nawet zdjęciami broni. Równolegle, jak wynika z relacji, prowadził rozmowy z ChatGPT dotyczące szczegółów planowanej zbrodni. System automatycznej moderacji OpenAI oflagował te wiadomości, po czym trafiły one do oceny przez pracownika firmy. Decyzję o powiadomieniu FBI podjął właśnie człowiek, nie sam algorytm – co jest istotnym niuansem w tej historii. OpenAI konsekwentnie podkreśla, że takie działania są uruchamiane tylko wtedy, gdy zagrożenie dla innych osób zostanie uznane za bezpośrednie i wiarygodne, a nie w każdej podejrzanej rozmowie.

Warto odnotować szczegół techniczny, który może zainteresować osoby dbające o prywatność w korzystaniu z chatbotów: wyłączenie opcji „Improve the model for everyone” w ustawieniach ChatGPT dotyczy jedynie wykorzystywania treści rozmów do trenowania kolejnych wersji modelu i nie wyłącza mechanizmów bezpieczeństwa. Nawet rozmowa prowadzona w trybie Temporary Chat może zostać przejrzana pod kątem wykrywania nadużyć – choć w tym przypadku nie trafia do historii konta i ma zostać usunięta z systemów OpenAI po 30 dniach.

Konsekwencje prawne dla Zhou

13 sierpnia Darren Zhou przyznał się do nękania i kierowania pisemnych gróźb zabójstwa. Sąd nie skazał go jednak na karę więzienia – sędzia wymierzył mu 8 lat dozoru kuratorskiego, z czego 2 lata mężczyzna ma spędzić pod elektronicznym monitoringiem. Wyrok obejmuje również zakaz kontaktowania się z pokrzywdzoną kobietą oraz zakaz posiadania broni. Wyrok pokazuje, że mimo drastycznego charakteru planowanego czynu, sąd zdecydował się na środki niewolnościowe – co samo w sobie może wywołać dyskusję o proporcjonalności sankcji w sprawach dotyczących gróźb popartych szczegółowym planowaniem z pomocą AI.

Dylemat etyczny: chatbot nie jest konfesjonałem

Redakcja Niebezpiecznika zwraca uwagę na etyczną dwuznaczność całej sprawy. Z jednej strony fakt, że treści rozmów z chatbotem mogą być czytane przez pracowników firmy, może budzić niepokój u użytkowników przywiązanych do prywatności. Z drugiej strony – jak podkreśla źródło – trudno nie zgodzić się, że zatrzymanie Zhou było słuszne i mogłoby do niego nie dojść, gdyby nie interwencja OpenAI. Ta historia wpisuje się w szerszy kontekst debaty o tym, jak systemy AI powinny reagować na treści wskazujące na realne zagrożenie życia – podobne pytania towarzyszą też innym przypadkom wykorzystywania AI do celów niebezpiecznych czy niezgodnych z regulaminem, jak choćby generowanie treści erotycznych przez Claude Opus 4.6 mimo formalnego zakazu – w obu przypadkach mechanizmy moderacji firm technologicznych są wystawiane na próbę.

Niebezpiecznik przypomina też swoją stałą radę: warto być wyczulonym na to, jakie poufne informacje wprowadzamy do narzędzi AI, ponieważ – jak dowodzi ten przypadek – rozmowy mogą być monitorowane i, w określonych okolicznościach, przekazywane organom ścigania.

Podsumowanie

Sprawa Darrena Zhou pokazuje, że mechanizmy moderacji OpenAI mogą realnie zapobiegać przestępstwom, ale jednocześnie stawia pytania o granice prywatności rozmów z chatbotami – kompromis, który zdaniem redakcji Niebezpiecznika w tym przypadku wyszedł na dobre.