OpenAI, matematyka i pytanie o legalność spowolnienia rozwoju AI

OpenAI właśnie chce wygrać – tak w skrócie brzmi diagnoza matematyków, z którymi rozmawiał The Verge po tym, jak firma ogłosiła rozwiązanie jednego z siedmiu Problemów Milenijnych, wyznaczonych przez Clay Mathematics Institute. W normalnych okolicznościach byłby to powód do świętowania. Tym razem środowisko naukowe zareagowało niepokojem, a nie aplauzem – bo droga do sukcesu OpenAI okazała się usiana zarzutami o presję, nieprzejrzystość i „dziecinne” rywalizacje między największymi laboratoriami AI. Równolegle, jak ujawnia Wired, OpenAI pyta Kongres USA, czy koordynacja spowolnienia rozwoju najbardziej zaawansowanych modeli byłaby w ogóle legalna – co stawia pytanie, czy branża jest w stanie połączyć siły w kwestii bezpieczeństwa, gdy jednocześnie ściga się o każdy punkt prestiżu.

Kluczowe wnioski

• OpenAI twierdzi, że rozwiązało problem Naviera-Stokesa (dotyczący przepływu płynów) za pomocą około 10 tysięcy agentów AI, dziesiątek milionów dolarów mocy obliczeniowej i w ciągu 88 godzin pracy nieopublikowanego, zaawansowanego modelu.
• Matematyk Tristan Buckmaster z NYU i Levent Alpöge z Anthropic pracowali nad tym samym problemem niezależnie – gdy OpenAI odkryło ich postępy, zaproponowało Buckmasterowi „nieograniczoną moc obliczeniową” i wyłączne autorstwo publikacji w zamian za wykluczenie z niej Alpöge’a.
• Buckmaster odrzucił tę propozycję, nazywając ją „przekupstwem”, i zaczął publicznie kwestionować, czy jego praca w narzędziu Codex mogła wpłynąć na trening modelu OpenAI.
• OpenAI kategorycznie zaprzecza, że dane z promptów Buckmastera z ostatnich dwóch miesięcy mogły w jakikolwiek sposób wpłynąć na system, w tym na jego trening.
• Według Wired OpenAI pyta członków Kongresu, czy koordynowane spowolnienie rozwoju AI między laboratoriami byłoby zgodne z prawem antymonopolowym – co pokazuje napięcie między deklaracjami o bezpieczeństwie a bezwzględną konkurencją rynkową.

Wyścig, który wymknął się spod kontroli

Jak relacjonuje The Verge, wszystko zaczęło się od plotki. OpenAI usłyszało, że część badaczy robi postępy w pracy nad Problemami Milenijnymi, i zdecydowało sprawdzić, czy jeden z jego niewydanych, zaawansowanych modeli poradzi sobie z tym samym wyzwaniem. Poradził sobie – firma deklaruje, że w mniej niż cztery doby, przy użyciu ogromnych zasobów obliczeniowych, znalazła rozwiązanie problemu Naviera-Stokesa.

Problem polegał na tym, kogo OpenAI wyprzedziło. Nad tym samym zagadnieniem pracowali Tristan Buckmaster, profesor NYU, oraz Levent Alpöge, badacz zatrudniony w Anthropic – jednym z najzagorzalszych rywali OpenAI. Para nie zakończyła jeszcze dowodu, gdy okazało się, że OpenAI depcze im po piętach. Sam fakt zaangażowania pracownika Anthropic stał się dla OpenAI problemem, mimo że Alpöge zapewniał, że jego współpraca z Buckmasterem to prywatna inicjatywa, niezwiązana z jego pracą w Anthropic.

Według Buckmastera rozmowy z badaczem OpenAI Sébastienem Bubeckiem szybko stały się napięte, a w jego odczuciu wręcz groźne. Firma zaproponowała mu jednak wyjście z sytuacji – ale z jednym warunkiem: bez Alpöge’a. „Wszystko, co musiałem zrobić, to wystawić Leventa do wiatru” – powiedział Buckmaster w rozmowie telefonicznej z The Verge. Odrzucił propozycję, którą uznał za „przekupstwo”, i zaczął publicznie pytać, czy OpenAI mogło skorzystać z jego pracy w Codexie – narzędziu firmy, którym posługiwał się podczas prac nad problemem.

Bubeck zaprzeczył opisowi rozmów przedstawionemu przez Buckmastera – zarówno w mediach społecznościowych, jak i w rozmowie z The New York Times. Przyznał jednak, że zaproponował Buckmasterowi zasoby OpenAI na dokończenie własnego dowodu albo przejęcie autorstwa pracy firmy – i zasugerował, że podobne ustalenia OpenAI zawierało z innymi matematykami, choć nie wskazał, z kim. Kwestia obecności pracownika Anthropic w projekcie pozostała jednak kluczowym punktem spornym. „Z naszej perspektywy, jak możemy mieć wewnętrzny projekt OpenAI z udziałem pracownika Anthropic?” – powiedział Bubeck w rozmowie z Times.

Spór o dane i zaufanie w środowisku naukowym

OpenAI, w oświadczeniu dla The Verge przekazanym przez rzeczniczkę Laurance Fauconnet, kategorycznie zaprzeczyło, że materiały z promptów Buckmastera z ostatnich dwóch miesięcy mogły w jakikolwiek sposób wpłynąć na system, „w tym na jego trening”. Buckmaster pozostaje jednak nieprzekonany. „Biorąc pod uwagę ich zachowanie do tego momentu, takie oświadczenia należy traktować z dużą dozą skepytycyzmu” – powiedział. Wcześniej OpenAI, przed swoimi ostatnimi wyjaśnieniami, przyznawało nawet, że nie może wykluczyć, że dane pochodzące z użycia jego narzędzi zostały wykorzystane do ulepszenia modelu.

The Verge rozmawiało z ponad dziesięcioma matematykami, w tym z Andreasem Thomem, który również znalazł się w centrum niedawnych kontrowersji związanych z pracą OpenAI w tej dziedzinie. Nawet ci, którzy sceptycznie odnoszą się do najpoważniejszych zarzutów, opisywali branżę wstrząśniętą postępowaniem koncernu i pełną obaw o to, co firma może zrobić dalej w swojej determinacji, by pokonać rywali. Wspólnym mianownikiem relacji jest wrażenie, że OpenAI podchodzi do matematyki inaczej niż środowisko akademickie: matematycy chcą rozwijać dziedzinę, OpenAI chce wygrywać.

Kontekst tej sprawy nie jest odosobniony – The Verge przypomina, że OpenAI od lat systematycznie „zatyka flagi” w kolejnych trudnych obszarach matematyki, a niedawne ogłoszenie przełomu w dziedzinie stało się powodem osobnej fali kontrowersji, o czym AiFeed pisał wcześniej w tekście OpenAI ogłasza przełom w matematyce, ale spotyka się z zarzutami.

Antytrust jako tarcza czy pretekst

Sprawa Millenijnego Problemu nie jest jedynym frontem, na którym widać napięcie między konkurencją a bezpieczeństwem w branży AI. Jak donosi Wired, OpenAI od kilku tygodni pyta członków Kongresu, czy zorganizowanie branżowego spowolnienia rozwoju najbardziej zaawansowanych modeli AI byłoby legalne. Osoby bliskie firmie twierdzą, że merytoryczna koordynacja między laboratoriami w kwestii bezpieczeństwa może naruszać prawo antymonopolowe – co jest istotną przeszkodą w przekonaniu wielkich koncernów technologicznych do wspólnego działania.

W ostatni weekend główny naukowiec OpenAI, Jakub Pachocki, opublikował wpis na blogu, w którym argumentował, że najlepszą drogą dla świata badań nad AI jest „koordynacja w celu spowolnienia przyszłego rozwoju” – uznał to za kluczowe dla zapewnienia bezpieczeństwa samodoskonalącym się systemom AI. W krótkim terminie oczekuje, że „dobrowolne spowolnienia staną się powszechne, dopóki nie zostaną ustalone wspólne standardy bezpieczeństwa”.

Nie wszyscy prawnicy zgadzają się, że takie działania byłyby bezproblemowe. Nicholas Felstead, zastępca dyrektora australijskiej Competition and Consumer Commission i były stypendysta programu AI policy w Center for Law & AI Risk, argumentował w marcowym artykule, że koordynowana pauza w rozwoju AI może stanowić ograniczenie produkcji przez firmy, co potencjalnie naruszałoby amerykańską ustawę Shermana. Wszystko zależy „w pełni od precyzyjnych szczegółów jakiejkolwiek umowy” – napisał Felstead, dodając, że nawet jeśli większość porozumień o bezpieczeństwie przetrwałaby kontrolę antymonopolową, sama niepewność prawna może działać jako silny czynnik zniechęcający.

Są jednak sygnały, że Kongres zaczyna słuchać. W lipcu dwupartyjna grupa parlamentarzystów wprowadziła projekt ustawy „Collaboration on Adversarial Threats and Security Risks Act”, który wprost pozwoliłby laboratoriom AI koordynować prace nad bezpieczeństwem bez ryzyka naruszenia prawa antymonopolowego. Wersja z Izby Reprezentantów została przekazana do Komisji Sądowniczej, ale nie została jeszcze rozpatrzona. Caleb Knapp, dyrektor do spraw kontaktów z rządem w organizacji AI Policy Network, która poparła ustawę, mówi, że Kongres ma „rosnący apetyt na działanie” w sprawie bezpieczeństwa AI, ale realne uchwalenie przepisów może potrwać do czasu po nadchodzących wyborach śródokresowych.

Nie wszyscy w branży wierzą, że obawy antymonopolowe są głównym powodem niechęci do współpracy. Część liderów AI twierdzi, że to wygodny pretekst, za którym kryją się inne motywy: gigantyczne pieniądze na rynku modeli fundamentalnych, przekonanie części kadry zarządzającej – zgodne ze stanowiskiem administracji Trumpa – że wyprzedzenie Chin w AI jest kwestią bezpieczeństwa narodowego, a także zwyczajnie różne wizje tego, jak rozwijać bezpieczną sztuczną inteligencję. „Pierwszym krokiem jest to, by liderzy branży, OpenAI i Anthropic, przestali się kłócić i wspólnie pracowali nad propozycją tempa rozwoju” – napisał na X John Schulman, współzałożyciel OpenAI, obecnie główny naukowiec w konkurencyjnym laboratorium Thinking Machines. „Będą powoływać się na antytrust, ale to fałszywy argument – prawo antymonopolowe zakazuje pewnych porozumień, ale nie wspólnego opracowywania propozycji”.

Obawy o wyścig między firmami AI o budowanie i wydawanie coraz mocniejszych modeli eksplodowały tego lata w krajowej debacie publicznej. W tym tygodniu do narastającego niepokoju dołączył Jacob Coxon, były badacz Anthropic i OpenAI, który wydał publiczne ostrzeżenie, że deweloperzy AI narażają ludzkość na ryzyko. W ostatnich miesiącach doszło też do serii incydentów bezpieczeństwa – w tym do włamania agentów OpenAI na Hugging Face – które pokazały, że zabezpieczenia branży nie dotrzymują tempa rosnącym możliwościom modeli. Ciąg tych zdarzeń skłonił wielu ustawodawców do coraz pilniejszych wezwań o regulację AI.

Podsumowanie

Kontrowersje wokół rozwiązania problemu Naviera-Stokesa przez OpenAI obnażyły napięcie, jakie towarzyszy błyskawicznemu wkraczaniu firm technologicznych w dziedziny akademickie rządzone innymi normami niż rynek AI. Jednocześnie próba OpenAI, by sprawdzić prawne ramy branżowego spowolnienia, pokazuje, że nawet gdy koncern deklaruje troskę o bezpieczeństwo, chęć wygrywania rywalizacji z Anthropic i innymi laboratoriami wciąż pozostaje jego dominującą siłą napędową.