Jedynym ekspertem powołanym przez Elona Muska w procesie przeciwko OpenAI jest Peter Russell, profesor informatyki z UC Berkeley, który ostrzega przed wyścigiem zbrojeń w rozwoju sztucznej inteligencji ogólnej (AGI). Russell zeznawał w sprawie dotyczącej zarzutów, że OpenAI odeszło od swojej pierwotnej misji non-profit na rzecz zysków komercyjnych. Szczegóły procesu relacjonuje TechCrunch.
Zespół prawników Muska argumentuje, że organizacja została założona jako fundacja charytatywna skupiona na bezpieczeństwie AI, ale zboczyła z tej drogi w pogoni za zyskiem. Jako dowód przytaczają stare e-maile i oświadczenia założycieli organizacji o potrzebie publicznego przeciwwagi dla Google DeepMind.
Kluczowe wnioski
- Peter Russell, jedyny świadek-ekspert Muska, współpodpisał w marcu 2023 otwarty list wzywający do sześciomiesięcznej pauzy w badaniach nad AI.
- Sędzia ograniczyła zeznania Russella po sprzeciwach prawników OpenAI, nie pozwalając na przedstawienie jego obaw o egzystencjalne zagrożenia związane z AI.
- Russell ostrzegał przed różnymi ryzykami rozwoju AI, od zagrożeń cyberbezpieczeństwa po problemy z alignment i konkurencyjną naturą rozwoju AGI.
- Paradoksalnie Musk również podpisał ten sam list o pauzie w badaniach, mimo jednoczesnego uruchamiania własnego laboratorium xAI.
- Prawnicy OpenAI w przesłuchaniu krzyżowym ustalili, że Russell nie oceniał bezpośrednio struktury korporacyjnej organizacji ani jej konkretnych polityk bezpieczeństwa.
Napięcie między bezpieczeństwem a rozwojem AGI
Russell przedstawił sądowi szereg zagrożeń związanych z rozwojem sztucznej inteligencji. Jego główne obawy koncentrowały się na dynamice „zwycięzca bierze wszystko” w wyścigu do osiągnięcia AGI oraz fundamentalnym napięciu między dążeniem do AGI a zachowaniem bezpieczeństwa.
Profesor od lat krytykuje dynamikę wyścigu zbrojeń tworzoną przez laboratoria AI na całym świecie konkurujące o pierwsze osiągnięcie AGI. Wzywa rządy do wprowadzenia bardziej rygorystycznych regulacji w tej dziedzinie.
Paradoksy i sprzeczności w argumentacji
Proces ujawnia głębokie sprzeczności w podejściu liderów branży AI do kwestii bezpieczeństwa. Praktycznie wszyscy założyciele OpenAI ostrzegali przed ryzykiem związanym z AI, jednocześnie podkreślając korzyści i próbując budować AI tak szybko, jak to możliwe — przy okazji planując przedsięwzięcia komercyjne, które będą kontrolować.
Kluczowym problemem była rosnąca świadomość wewnątrz OpenAI po jej założeniu, że organizacja po prostu potrzebowała większych wydatków na moc obliczeniową, aby odnieść sukces. Te pieniądze mogły pochodzić tylko od inwestorów nastawionych na zysk. Strach zespołu założycielskiego przed AGI w rękach pojedynczej organizacji pchnął ich do poszukiwania kapitału, który ostatecznie rozdarł zespół, tworząc wyścig zbrojeń, który znamy dzisiaj.
Szerszy kontekst polityczny
Ta sama dynamika odgrywa się już na poziomie krajowym. Senator Bernie Sanders forsuje prawo nakładające moratorium na budowę centrów danych, powołując się na obawy związane z AI wyrażane przez Muska, Sama Altmana, Geoffrey'a Hintona i innych. Hoden Omar z organizacji Center for Data Innovation sprzeciwia się jednak cytowaniu przez Sandersa tylko ich obaw bez wspominania o nadziejach, argumentując, że „nie jest jasne, dlaczego społeczeństwo powinno lekceważyć wszystko, co mówią miliarderzy z branży technologicznej, z wyjątkiem sytuacji, gdy ich słowa można wykorzystać do wypełnienia luk w niepewnej argumentacji”.
Teraz obie strony procesu proszą sąd o podobne podejście: potraktowanie części argumentów Altmana i Muska poważnie, ale zlekceważenie tych części, które są mniej przydatne dla ich argumentacji prawnej.
