Zwolnieni badacze OpenAI: nie wiemy, co rzekomo wycieliśmy

Trzej zwolnieni badacze bezpieczeństwa OpenAI przedstawili własną wersję wydarzeń po tym, jak firma zwolniła ich pod zarzutem wycieku poufnych informacji. Tomek Korbak, Mikita Balesni i Jasmine Wang zaprzeczają, by dzielili się jakimikolwiek wrażliwymi danymi, kwestionują oficjalne uzasadnienie zwolnienia i podejrzewają, że ich odejście z firmy miało związek z zaangażowaniem w działania na rzecz większej przejrzystości systemów AI.

OpenAI odprawiła całą trójkę po wewnętrznym dochodzeniu dotyczącym domniemanych naruszeń polityki postępowania z informacjami wrażliwymi. Wszyscy troje publicznie wypowiadali się na temat ryzyk związanych z AI jeszcze przed zwolnieniem.

Kluczowe wnioski

• Trzej badacze – Korbak, Balesni i Wang – twierdzą, że nigdy nie otrzymali na piśmie informacji, jakie konkretnie dane miały zostać przez nich ujawnione.
• Podejrzewają, że zwolnienie miało związek z ich działaniami na rzecz utrzymania możliwości monitorowania procesu rozumowania modeli AI, a nie z samym wyciekiem.
• OpenAI wskazała jako przyczynę dochodzenia rozmowy prowadzone na Signalu z zewnętrznym badaczem, choć firma zastrzega, że sam Signal nie był powodem zwolnień.
• Badacze ostrzegają, że sprawa może zniechęcić niezależnych audytorów bezpieczeństwa do współpracy z firmami AI.
• Osobny, niedawno opublikowany audyt przeprowadzony przez METR i Redwood Research wykazał liczne luki w infrastrukturze bezpieczeństwa OpenAI – firma ocenzurowała jednak niemal połowę końcowego raportu.

Spór o monitorowanie „łańcucha myślowego” modeli

W centrum sporu znajduje się techniczne, lecz brzemienne w skutki pytanie: czy firmy AI powinny pozwalać osobom z zewnątrz na wgląd w to, jak „myślą” ich modele. Modele rozumujące zapisują pośrednie kroki procesu rozwiązywania problemów na wewnętrznym „brudnopisie” zwanym chain of thought (łańcuchem myślowym). Zarówno firmy, jak i badacze bezpieczeństwa opierają się na tych zapisach, by zrozumieć, w jaki sposób modele dochodzą do swoich decyzji.

W opublikowanym w 2025 roku artykule Balesni, Korbak i Wang dołączyli do czołowych badaczy z kilku laboratoriów AI, apelując o zachowanie dostępu do tej funkcjonalności. Sprawa nabrała na znaczeniu latem, gdy pracownicy firm AI zaczęli dyskutować o modelach, które myślą dłużej, ale zapisują coraz mniej pośrednich kroków swojego rozumowania. Balesni sprzeciwiał się tej tendencji wewnątrz firmy, udostępniając powiązaną propozycję Ryana Greenblatta, ówczesnego głównego naukowca w Redwood Research.

Korbak również utrzymywał regularny kontakt z Greenblattem. Obaj komunikowali się przez Slacka i Signal podczas wspólnej pracy nad analizą głośnego incydentu – ataku agentów OpenAI na Hugging Face – który Greenblatt badał niezależnie na zlecenie organizacji METR.

Doniesienia o modelu Astra i początek dochodzenia

Ta współpraca stała się problemem po tym, jak 1 września serwis The Information doniósł, że nowy model OpenAI o nazwie Astra jest wprawdzie bardziej zaawansowany, ale ujawnia mniej informacji o swoim procesie rozumowania. Główny naukowiec OpenAI, Jakub Pachocki, odrzucił wówczas ten raport na platformie X jako nieprecyzyjny – mimo że sam wcześniej ostrzegał przed wyścigiem całej branży w kierunku modeli, których już nie da się monitorować.

Kilka tygodni później OpenAI uruchomiła wewnętrzne dochodzenie w sprawie wycieku, jak podaje Wall Street Journal. Balesni twierdzi, że śledczy wskazali Greenblatta jako podejrzanego źródła przecieku i zażądali wglądu w rozmowy prowadzone z nim na Signalu. Greenblatt zaprzecza, by przekazywał dziennikarzom jakiekolwiek poufne informacje.

Zespół bezpieczeństwa OpenAI podejrzewał trójkę badaczy o dzielenie się szczegółami dotyczącymi wewnętrznej architektury modeli firmy z zewnętrznym badaczem bezpieczeństwa i poprosił ich o odblokowanie prywatnych telefonów. Na tych urządzeniach zespół znalazł rozmowy prowadzone na Signalu z włączoną opcją znikających wiadomości. Tydzień później cała trójka została zwolniona jednocześnie. OpenAI potwierdziła, że Signal nie był zatwierdzonym narzędziem komunikacji w firmie, ale podkreśliła, że to nie był powód zwolnień. Korbak odpowiada na to, że znikające wiadomości to standardowa praktyka bezpieczeństwa stosowana powszechnie w Dolinie Krzemowej.

Wang z kolei usłyszała odrębny zarzut – OpenAI twierdziła, że wielokrotnie uzyskiwała dostęp do skrzynki pocztowej jednego z kadry zarządzającej. Ona sama wyjaśnia, że niemal rok wcześniej poprosiła o cofnięcie tego dostępu, miesiąc przed zwolnieniem przypadkowo otworzyła wrażliwego maila, nie ujawniła jego treści i natychmiast zgłosiła incydent. OpenAI utrzymuje jednak, że problemem nie był sam fakt posiadania dostępu.

Konsekwencje dla kultury bezpieczeństwa w OpenAI

Według Korbaka skutki sprawy wykraczają daleko poza losy trójki zwolnionych badaczy. Jego koledzy z zespołu obawiają się teraz rozmawiać z osobami spoza firmy lub zgłaszać wewnętrznie obawy dotyczące bezpieczeństwa. W liście do zarządu OpenAI troje badaczy wzywa do ściślejszej współpracy z zewnętrznymi organizacjami zajmującymi się bezpieczeństwem AI.

Dodatkowym kontekstem jest niedawno opublikowany audyt przeprowadzony na miejscu przez pracowników METR i Redwood Research, który wykazał liczne luki bezpieczeństwa w infrastrukturze OpenAI. Firma zredagowała jednak niemal połowę końcowego raportu przed publikacją.

OpenAI opublikowała też własny raport opisujący nową architekturę bezpieczeństwa, działającą bez dostępu do internetu – podobny krok firma podjęła niedawno, trenując najnowsze modele całkowicie bez dostępu do sieci. Firma twierdzi, że usunęła zidentyfikowane problemy i wznowiła trening na początku października, zapowiadając jednocześnie kilka nowych partnerstw zewnętrznych w najbliższym czasie.

Sprawa trojga byłych badaczy ujawnia głębsze napięcie w OpenAI między dążeniem do zachowania kontroli nad informacjami a presją ze strony pracowników domagających się większej przejrzystości i zewnętrznej kontroli nad bezpieczeństwem rozwijanych modeli. OpenAI konsekwentnie zaprzecza, by zwolnienia miały jakikolwiek związek z obawami bezpieczeństwa podnoszonymi przez badaczy.