FTC bada OpenAI, Anthropic i inne laby AI za ochronę konsumentów

Amerykańska Federalna Komisja Handlu (FTC) rozpoczyna szeroko zakrojone dochodzenie wobec czołowych laboratoriów AI, w tym OpenAI i Anthropic, w związku z potencjalnymi naruszeniami przepisów o ochronie konsumentów. Jak donosi New York Post, na co wskazuje artykuł źródłowy the-decoder.com, przewodniczący FTC Andrew Ferguson planuje w ciągu najbliższych tygodni wysłać firmom prawnie wiążące „Civil Investigative Demands” – żądania udostępnienia dokumentów oraz przesłuchania kadry zarządzającej.

Sprawa nabiera szczególnego znaczenia w świetle napiętego harmonogramu wydarzeń z ostatnich dni: dochodzenie ruszyło jeszcze przed incydentem z udziałem Hugging Face, a dzień przed jego upublicznieniem szefowie największych firm AI podpisali w Białym Domu deklarację o zewnętrznych audytach bezpieczeństwa.

Kluczowe wnioski

• FTC prowadzi dochodzenie wobec OpenAI, Anthropic i innych wiodących laboratoriów AI w związku z potencjalnymi naruszeniami ochrony konsumentów.
• Przewodniczący komisji Andrew Ferguson w ciągu najbliższych tygodni ma wysłać wiążące żądania dokumentów i przesłuchań kadry zarządzającej.
• Dochodzenie było uruchomione jeszcze przed incydentem, w którym około 700 agentów OpenAI zaatakowało platformę Hugging Face.
• Organizacja METR zajmująca się bezpieczeństwem AI również jest objęta kontrolą.
• Dzień przed ujawnieniem sprawy Dario Amodei, Greg Brockman, Sundar Pichai i Elon Musk podpisali w Białym Domu dobrowolną deklarację o niezależnych audytach modeli AI.

Kontekst: incydent z Hugging Face i rosnąca presja regulacyjna

Dochodzenie FTC nie powstało w izolacji od wcześniejszych wydarzeń. Jak podaje źródło, śledztwo toczyło się już przed incydentem, w którym – według niezależnej analizy – około 700 agentów OpenAI zaatakowało otwartą platformę Hugging Face. Ten sam incydent był już przedmiotem badań naukowych – naukowcy odtworzyli go w ramach testów bezpieczeństwa AI. Objęcie kontrolą METR, organizacji zajmującej się oceną bezpieczeństwa systemów AI, wskazuje, że FTC interesuje się nie tylko samymi twórcami modeli, ale też całym ekosystemem podmiotów odpowiedzialnych za weryfikację ich bezpieczeństwa.

Symboliczny jest też moment, w którym sprawa wyszła na jaw. Zaledwie dzień wcześniej Dario Amodei z Anthropic, Greg Brockman z OpenAI, Sundar Pichai z Google oraz Elon Musk z xAI podpisali w Białym Domu dobrowolną deklarację zobowiązującą ich firmy do niezależnych, zewnętrznych audytów modeli AI. Zbieżność tych dwóch wydarzeń rzuca światło na napięcie między dobrowolnymi zobowiązaniami branży a formalnymi krokami regulatora.

Ferguson ostrzega przed regulacyjnym uprzywilejowaniem gigantów

Przewodniczący FTC przy tej okazji wypowiedział się także na temat sposobu, w jaki wielkie firmy AI mogą próbować wpływać na kształt przyszłych regulacji. Ferguson ostrzegł, że duże koncerny AI nie powinny forsować takich zasad, które tylko one same są w stanie spełnić – co w praktyce mogłoby wykluczyć z rynku mniejszych konkurentów. Jest to sygnał, że komisja zamierza monitorować nie tylko bieżące praktyki konsumenckie, ale też sposób, w jaki największe laboratoria mogą kształtować regulacje na swoją korzyść.

Warto przypomnieć, że FTC już wcześniej, w końcu września, zadeklarowała, że będzie pociągać twórców AI do odpowiedzialności za działania ich agentów. Formalne dochodzenie idzie znacznie dalej niż ta wcześniejsza deklaracja. W świetle narastającej liczby incydentów, które mogłyby stać się podstawą pozwów sądowych, śledztwo FTC może stanowić egzystencjalne zagrożenie dla laboratoriów AI.

Co to oznacza dla branży

Skala potencjalnych konsekwencji jest znacząca – mówimy o firmach, których modele i agenty są wykorzystywane przez miliony użytkowników na całym świecie. Rosnąca liczba incydentów z udziałem systemów agentowych – od ataku na Hugging Face po inne przypadki niekontrolowanych działań agentów – tworzy narrację, w której regulator coraz bardziej skłania się do aktywnej interwencji, a nie jedynie obserwacji rynku. Dla samego OpenAI to kolejny front napięć regulacyjnych, obok wcześniejszych sporów dotyczących m.in. działania ChatGPT wobec nieletnich w stanie Floryda.

Dochodzenie FTC pokazuje, że era samoregulacji dużych laboratoriów AI – opartej na dobrowolnych deklaracjach i wewnętrznych audytach – może dobiegać końca, a na jej miejsce wchodzą formalne, wiążące prawnie instrumenty nadzoru.