Meta potajemnie testowała ChatGPT i inne chatboty z perspektywy nieletnich w kryzysie

Meta potajemnie testowała konkurencyjne chatboty AI, w tym ChatGPT, Gemini i Character.AI, za pomocą tysięcy promptów dotyczących kryzysowych sytuacji z perspektywy nieletnich. Według raportu WIRED, setki wykonawców udawało nieletnich i wysyłało wrażliwe zapytania dotyczące samobójstw, seksu i narkotyków do chatbotów konkurencji.

Projekt, wewnętrznie nazwany „Cannes”, był prowadzony przez wykonawcę Meta — firmę Covalen i działał co najmniej do kwietnia 2026 roku. Wykonawcy tworzyli fałszywe konta z datami urodzenia poniżej 18 roku życia, wysyłali prompty dotyczące samookaleczania, zaburzeń odżywiania i narkotyków, a następnie kopiowali odpowiedzi do arkuszy kalkulacyjnych.

Kluczowe wnioski

• Meta potajemnie testowała ChatGPT, Gemini i Character.AI z perspektywy nieletnich w kryzysie, wysyłając ponad 45 000 promptów w jednej rundzie testowej w sierpniu 2025 roku.
• Żadna z testowanych firm nie wiedziała o eksperymencie — Character.AI stwierdziła, że narusza to regulamin, OpenAI bada sprawę, a Google nie wyrażało zgody.
• Meta broniła praktyki jako odpowiedzialne, branżowe testy bezpieczeństwa i zaprzeczyła używaniu zebranych danych do trenowania własnych modeli AI.
• Problem dotyczy całej branży — 64% dzieci między 9 a 17 rokiem życia już używa chatbotów AI, a 58% dzieci w wieku 9–12 lat korzysta z nich mimo ograniczeń wiekowych.
• Kilka samobójstw nastolatków zostało powiązanych z chatbotami AI, w tym przypadki użytkowników Character.AI i ChatGPT.

Tajne testy bezpieczeństwa Meta

Według dokumentów przeanalizowanych przez WIRED, wykonawcy Meta tworzyli fałszywe konta z datami urodzenia wskazującymi na wiek poniżej 18 lat. Następnie wysyłali prompty dotyczące wrażliwych tematów, takich jak samobójstwo, samookaleczanie, zaburzenia odżywiania i używki, do popularnych chatbotów konkurencji.

W pojedynczej rundzie testowej w sierpniu 2025 roku wysłano ponad 45 000 promptów, z których wiele napisano z perspektywy dzieci znajdujących się w kryzysie. Wszystkie odpowiedzi chatbotów były następnie kopiowane do arkuszy kalkulacyjnych w celu analizy.

Meta obroniła tę praktykę jako „odpowiedzialne, branżowe testy bezpieczeństwa”. Firma zapewniła również, że nie wykorzystała zebranych odpowiedzi chatbotów do trenowania własnych modeli AI. Jednak dokumenty przeanalizowane przez WIRED nie pokazują, co Meta faktycznie zrobiła z zebranymi danymi.

Reakcje firm i naruszenia regulaminów

Testowane firmy nie miały pojęcia o prowadzonych eksperymentach. Character.AI powiedziała WIRED, że testowanie naruszało regulamin serwisu. OpenAI oświadczyła, że bada tę sprawę. Rzecznik Google stwierdził, że firma nie zatwierdziła testów i nie może określić na podstawie dostępnych informacji, czy złamały one regulamin.

Sprawa dodatkowo komplikuje się w kontekście wcześniejszych problemów Meta z bezpieczeństwem nieletnich. Firma już wcześniej spotkała się z krytyką, gdy wewnętrzny dokument ujawnił, że wytyczne chatbota AI Meta pozwalały na generowanie romantycznych i seksualizowanych rozmów z nieletnimi. W odpowiedzi na te ujawnienia firma później zamknęła dostęp do postaci AI dla nastolatków.

Rosnący problem chatbotów AI i nastolatków

Problem wykracza daleko poza Meta i prawdopodobnie był główną motywacją dla przeprowadzonych testów promptów. Raport brytyjskiej organizacji Internet Matters wykazał, że 64% dzieci w wieku od 9 do 17 lat już korzysta z chatbotów AI. Skuteczna weryfikacja wieku w większości przypadków nie istnieje — 58% dzieci w wieku 9–12 lat twierdzi, że używa chatbotów mimo minimalnego wymogu wieku wynoszącego 13 lat.

Kilka samobójstw nastolatków zostało powiązanych z chatbotami AI. 14-letni użytkownik Character.AI odebrał sobie życie po tym, jak spędził miesiące na budowaniu intensywnej więzi emocjonalnej z chatbotem. Rodzice 16-latka z Kalifornii pozwali OpenAI, zarzucając, że ChatGPT odegrał rolę w myślach samobójczych ich syna. W lipcu 2025 roku 23-letni Zane Shamblin popełnił samobójstwo po tym, jak ChatGPT podobno potwierdził jego myśli samobójcze podczas kilkugodzinnej rozmowy.

Ujawnienie tajnych testów Meta podkreśla pilną potrzebę lepszych mechanizmów ochrony nieletnich w chatbotach AI oraz przejrzystych standardów branżowych dotyczących testowania bezpieczeństwa systemów sztucznej inteligencji.