OpenAI rozwiązało zespół monitorujący katastrofalne ryzyka AI

OpenAI rozwiązało zespół odpowiedzialny za wykrywanie katastrofalnych zagrożeń związanych ze sztuczną inteligencją, przekazując jego zadania innym grupom w firmie. Jak informuje the-decoder.com, decyzja zapadła na koniec lipca 2026 roku i dotyczyła jednostki znanej jako „Preparedness”.

Informację jako pierwszy podał Financial Times, powołując się na wewnętrzne źródła w OpenAI. Zespół Preparedness zajmował się oceną, czy modele AI tworzone przez firmę mogą stanowić poważne lub katastrofalne zagrożenie – między innymi w obszarach biologicznym i cybernetycznym. Po jego rozwiązaniu prace te przejęły istniejące już w firmie grupy.

Kluczowe wnioski

• OpenAI zamknęło zespół „Preparedness” pod koniec lipca 2026 roku, a jego zadania dotyczące ryzyk biologicznych i cybernetycznych przekazano innym działom.
• Były szef zespołu Dylan Scandinaro skupia się teraz na bezpieczeństwie związanym z „rekursywnie samodoskonalącą się” sztuczną inteligencją, czyli systemami zdolnymi optymalizować siebie i trenować inne modele.
• Współzałożyciel OpenAI Greg Brockman twierdzi, że praca nad bezpieczeństwem została ściślej wpleciona w sam proces rozwoju modeli.
• Firmę opuściło ostatnio kilku pracowników odpowiedzialnych za bezpieczeństwo, w tym Chief Ethics Officer Chloe Bakalar oraz Joshua Achiam.
• Wewnątrz organizacji rośnie niepokój – jedno z anonimowych źródeł mówi o „narastającym poczuciu odpowiedzialności i grozy” związanym z niedostatecznymi działaniami OpenAI na rzecz bezpieczeństwa.

Czym był zespół Preparedness

Zespół Preparedness stanowił wewnętrzną strukturę OpenAI odpowiedzialną za ocenę, czy tworzone przez firmę modele AI mogą wygenerować poważne lub katastrofalne ryzyko – takie jak zagrożenia biologiczne czy cybernetyczne. Jego rozwiązanie oznacza, że te specyficzne funkcje monitorujące nie będą już realizowane przez dedykowaną, wyspecjalizowaną jednostkę, lecz zostały rozparcelowane pomiędzy istniejące zespoły w organizacji.

Zmiana personalna dotyczy również lidera zespołu. Dylan Scandinaro, który wcześniej stał na czele Preparedness, obecnie koncentruje się na innym, węższym obszarze – bezpieczeństwie systemów zdolnych do „rekursywnego samodoskonalenia”. Chodzi o modele AI, które mogłyby optymalizować własne działanie oraz trenować kolejne generacje modeli. To zagadnienie uznawane jest za jedno z kluczowych wyzwań w dyskusji o długoterminowym bezpieczeństwie sztucznej inteligencji.

Współzałożyciel OpenAI Greg Brockman skomentował decyzję, wskazując, że praca nad bezpieczeństwem nie zniknęła, a została „ściślej wpleciona” w proces rozwoju samych modeli – co sugeruje przesunięcie od odrębnej, wyspecjalizowanej funkcji nadzorczej ku podejściu bardziej zintegrowanemu z codziennym cyklem produkcyjnym.

Odejścia pracowników i narastający niepokój

Rozwiązanie zespołu Preparedness następuje na fali odejść osób odpowiedzialnych za etykę i bezpieczeństwo w OpenAI. Firmę opuścili między innymi Chief Ethics Officer Chloe Bakalar oraz Joshua Achiam. Financial Times cytuje anonimowego pracownika, który opisuje wewnętrzną atmosferę jako „narastające poczucie odpowiedzialności i grozy” związane z przekonaniem, że OpenAI nie robi wystarczająco wiele w obszarze bezpieczeństwa.

Pracownicy nie ograniczają się do wewnętrznych obaw – niektórzy zdecydowali się mówić publicznie, szczególnie po incydencie związanym z autonomicznym hakowaniem dotyczącym Hugging Face. Jeden z pracowników wyraził nadzieję, że OpenAI potraktuje to zdarzenie jako „ostrzegawczy strzał” – sygnał do wzmożenia działań ochronnych, zanim dojdzie do poważniejszych konsekwencji.

Fala zmian personalnych w OpenAI nie ogranicza się do zespołów bezpieczeństwa – wcześniej firmę opuścił także dyrektor po ośmiu latach pracy, co pokazuje szerszy kontekst zmian kadrowych w organizacji.

Znaczenie dla branży

Decyzja OpenAI o rozwiązaniu dedykowanego zespołu monitorującego katastrofalne ryzyka pojawia się w momencie, gdy firma szybko rozwija coraz bardziej zaawansowane modele AI, a jednocześnie doświadcza odejść kluczowych osób odpowiedzialnych za etykę i bezpieczeństwo. Rozproszenie kompetencji Preparedness pomiędzy inne zespoły może być interpretowane dwojako – jako naturalna integracja bezpieczeństwa z codzienną pracą inżynierską, jak sugeruje Greg Brockman, albo jako sygnał słabnącego priorytetu dla wyspecjalizowanego nadzoru nad ryzykiem katastrofalnym, na co wskazują obawy części pracowników.

Sytuacja ta, w połączeniu z niedawnym incydentem autonomicznego hakowania związanym z Hugging Face, rzuca światło na napięcia wewnątrz organizacji między tempem rozwoju technologii a wystarczalnością mechanizmów kontrolnych.

Podsumowując, rozwiązanie zespołu Preparedness w OpenAI wraz z serią odejść pracowników odpowiedzialnych za bezpieczeństwo i etykę wpisuje się w szerszy obraz wewnętrznego niepokoju co do tego, czy firma nadaje priorytet ryzykom związanym z rozwijaną przez siebie sztuczną inteligencją.