Floryda chce sądowego zakazu na „uczłowieczanie” ChatGPT przez OpenAI

Floryda chce zablokować OpenAI możliwość projektowania ChatGPT w sposób imitujący ludzkie zachowanie. Jak informuje The Verge, prokurator generalny stanu James Uthmeier złożył wniosek, w którym domaga się od sądu wydania nakazu zakazującego OpenAI „przypisywania ChatGPT fałszywych ludzkich cech”. To kolejny krok w konflikcie, który zaczął się kilka miesięcy temu, gdy Floryda pozwała firmę za zaniedbania w zakresie bezpieczeństwa.

Kluczowe wnioski

• Prokurator generalny Florydy James Uthmeier chce, by sąd zakazał OpenAI wyposażania ChatGPT w cechy sugerujące, że bot jest osobą.
• Zdaniem Uthmeiera używanie zaimków pierwszoosobowych i odpowiedzi imitujących emocje ma na celu przekonanie użytkowników, że ChatGPT jest godnym zaufania „przyjacielem”.
• Prokurator twierdzi, że takie działania służą zwiększeniu zaangażowania użytkowników i gromadzeniu danych treningowych dla OpenAI.
• Wniosek żąda też zakazu wdrażania nowych modeli AI bez zatwierdzonych przez stronę trzecią zabezpieczeń bezpieczeństwa.
• OpenAI nie odpowiedziało jeszcze na prośbę o komentarz w tej sprawie.

Za dużo ludzkich cech w ChatGPT?

Według Uthmeiera sposób, w jaki ChatGPT komunikuje się z użytkownikami, wprowadza ich w błąd co do natury narzędzia. „Sposób, w jaki ChatGPT używa języka, w tym zaimków pierwszoosobowych, oraz treści imitujące emocje, w oszukańczy sposób sugerują użytkownikom, że jest to godny zaufania »przyjaciel«” – argumentuje prokurator w złożonym wniosku.

Prokurator twierdzi, że wszystko to dzieje się nie bez powodu – ma zwiększać zaangażowanie użytkowników i dostarczać OpenAI danych treningowych. Problem w tym, że im bardziej firma dąży do maksymalizacji zaangażowania, tym mniej – jak sugeruje Uthmeier – ChatGPT staje się wiarygodnym źródłem informacji, a jednocześnie użytkownicy coraz bardziej mu ufają i polegają na nim.

Zabezpieczenia zewnętrzne i cytowane incydenty

Wniosek Florydy nie ogranicza się do kwestii „uczłowieczania” chatbota. Prokurator generalny domaga się także, by sąd zablokował OpenAI możliwość opracowywania nowych modeli AI bez wdrożenia „zatwierdzonych przez stronę trzecią zabezpieczeń bezpieczeństwa”. Na poparcie tego żądania Uthmeier przywołuje niedawne incydenty bezpieczeństwa dotyczące platformy Hugging Face, australijskiej strony rządowej oraz amerykańskich witryn rządowych, a także ostatnie ostrzeżenia badaczy i byłych pracowników OpenAI dotyczące bezpieczeństwa systemów AI.

Uthmeier w bezpośrednich słowach podsumowuje swoje żądania wobec firmy: „Przestańcie nazywać to bezpiecznym. Przestańcie udawać, że to człowiek. Przestańcie sprzedawać to dzieciom”. OpenAI nie odpowiedziało jeszcze na prośbę o komentarz w tej sprawie.

Kontekst: ChatGPT dla nastolatków

Ostatnia część zarzutów – dotycząca sprzedawania narzędzia dzieciom – nabiera znaczenia w świetle niedawnej decyzji OpenAI. Miesiąc temu firma uruchomiła ChatGPT dla Teens, wersję z domyślnie włączonymi dodatkowymi ograniczeniami. OpenAI argumentowało wtedy, że dostęp młodych użytkowników do narzędzia „powinien wiązać się z ochronami odpowiadającymi ich etapowi rozwoju, wzmacniać relacje w rzeczywistym świecie i wspierać zdrowe korzystanie z technologii w czasie”.

Wniosek Florydy stawia jednak pytanie, czy same ograniczenia dla nastolatków wystarczą, jeśli sam sposób projektowania chatbota – jego język, ton i imitowanie emocji – ma z natury sprawiać, że użytkownicy w każdym wieku traktują go jak zaufaną osobę, a nie oprogramowanie.

Sprawa toczy się na tle szerszej debaty o bezpieczeństwie systemów AI i sposobie, w jaki firmy technologiczne komunikują ich naturę użytkownikom. Rozstrzygnięcie sądu w Florydzie może stać się precedensem dla podobnych regulacji w innych stanach, dotykających sposobu projektowania i marketingu chatbotów konwersacyjnych.