OpenAI, Anthropic i Google od tygodni rozmawiają o bezpieczeństwie AI

OpenAI, Anthropic i Google DeepMind – trzy firmy, które na co dzień rywalizują o dominację w wyścigu o sztuczną inteligencję – od kilku tygodni prowadzą wspólne rozmowy na temat bezpieczeństwa AI. Informację potwierdził Chris Lehane, szef działu polityki globalnej OpenAI, cytowany przez TechCrunch, powołujący się na wcześniejsze ustalenia Bloomberga. Lehane przebywa obecnie w Waszyngtonie, gdzie współpracuje z amerykańskimi ustawodawcami przy tematach związanych z katastrofalnymi zagrożeniami wynikającymi z rozwoju AI.

Ujawnienie kulis rozmów nastąpiło tuż po tym, jak dyrektor generalny Anthropic Dario Amodei opublikował w sobotę esej, w którym wezwał branżę do wspólnego działania na rzecz spowolnienia tempa rozwoju najbardziej zaawansowanych modeli AI, aby uniknąć katastrofalnych skutków.

Kluczowe wnioski

• Chris Lehane z OpenAI potwierdził we wtorek, że trzy firmy – OpenAI, Anthropic i Google DeepMind – prowadzą rozmowy o bezpieczeństwie AI od kilku tygodni.
• Esej Dario Amodei wsparli m.in. Sam Altman z OpenAI, Demis Hassabis z Google i Elon Musk z SpaceXAI; Altman zadeklarował, że OpenAI dołączy do Anthropic w umożliwieniu niezależnym ewaluatorom monitorowania bezpieczeństwa firmy.
• Niektórzy, w tym Altman, ostrzegali, że taka koordynacja między konkurentami może naruszać prawo antymonopolowe, jeśli okaże się, że tłumi konkurencję.
• Amodei proponował wąskie zwolnienie ze strony rządu, które umożliwiłoby taką współpracę bezpieczeństwową – Lehane stwierdził jednak, że firmy takiego zwolnienia nie potrzebują.
• Według The Information trzy firmy pracują wspólnie nad powołaniem organu standaryzującego dla branży AI, który – zdaniem Altmana – musi powstać bez wsparcia amerykańskiego rządu.

Rozmowy toczą się od tygodni, mimo rywalizacji

Ujawnienie Lehane'a potwierdza wcześniejsze sygnały o kulisach współpracy między konkurującymi laboratoriami. W rozmowie z Fortune w zeszłym tygodniu Altman już wcześniej dawał do zrozumienia, że prowadził prywatne dyskusje z innymi liderami branży AI. Tydzień później The Information doniosło, że trzy firmy pracują nad stworzeniem organu ustalającego standardy dla całej branży AI – projekt, który zdaniem Altmana, przekazanego pracownikom OpenAI, będzie musiał powstać bez wsparcia rządu Stanów Zjednoczonych.

Sam pomysł powołania takiego niezależnego organu nadzorczego nie jest nowy. Demis Hassabis już w lipcu wezwał USA do ustanowienia nowego organu standaryzującego, który działałby jako strażnik AI – z uprawnieniami do przeglądania najbardziej zaawansowanych modeli na świecie oraz koordynowania spowolnień w skali całej branży, gdyby zagrożenia zaczęły narastać.

Kontekstem dla tych ustaleń jest opublikowany w sobotę apel Dario Amodei o wspólne spowolnienie tempa rozwoju najbardziej zaawansowanych modeli AI. Apel ten, jak podaje TechCrunch, zyskał wsparcie kluczowych postaci branży – Sama Altmana, Demisa Hassabisa i Elona Muska. Altman zadeklarował wprost, że OpenAI podąży za Anthropic i wprowadzi zewnętrznych ewaluatorów, którzy będą monitorować bezpieczeństwo wewnątrz firmy.

Ryzyko antymonopolowe i propozycja rządowego zwolnienia

Kwestia, która pojawiła się przy okazji tych ustaleń, dotyczy prawa konkurencji. Część zaangażowanych osób, w tym sam Altman, zwracała uwagę, że koordynacja między największymi grającymi w branży AI może naruszać przepisy antymonopolowe, jeśli zostanie uznana za działanie ograniczające konkurencję. Amodei w swoim eseju zaproponował rozwiązanie tego problemu w postaci wąskiego, celowego zwolnienia rządowego, które umożliwiłoby firmom legalną współpracę na rzecz bezpieczeństwa bez ryzyka prawnego.

Lehane jednak, relacjonując rozmowy z reporterami we wtorek, stwierdził, że firmy nie potrzebują takiego zwolnienia, aby kontynuować dotychczasową współpracę. To stanowisko sugeruje, że OpenAI, Anthropic i Google DeepMind czują się na tyle bezpiecznie prawnie, że nie oczekują na formalną zgodę władz, by dalej rozmawiać o standardach bezpieczeństwa.

Podczas tego samego wtorkowego spotkania Lehane zadeklarował, że OpenAI wspiera przepis zawarty w ustawie FRONTIER Act, który zobowiązywałby najważniejsze laboratoria AI do wpuszczania do swoich struktur „niezależnych organizacji weryfikujących”, mających zapewnić, że modele są rozwijane w sposób bezpieczny.

Napięcie między branżą a administracją Trumpa

Rozmowy o bezpieczeństwie AI toczą się na tle rosnącego napięcia między liderami branży a administracją prezydenta Trumpa. Trump wielokrotnie odrzucał obawy dotyczące bezpieczeństwa AI, nazywając je oszustwem, i sprzeciwiał się zaostrzaniu regulacji, argumentując, że jakiekolwiek spowolnienie dałoby przewagę Chinom w wyścigu technologicznym. Jego kluczowy doradca w sprawach AI, David Sacks – wieloletni inwestor mający osobiste udziały w dużej części branży – podzielał to stanowisko, twierdząc, że obawy o egzystencjalne ryzyko związane z AI są przesadzone.

To zderzenie stanowisk – z jednej strony liderów branży deklarujących gotowość do samoregulacji i spowolnienia tempa rozwoju, z drugiej administracji naciskającej na przyspieszenie z powodów geopolitycznych – tworzy niepewny kontekst dla przyszłości ewentualnego organu standaryzującego AI. TechCrunch zwróciło się do Anthropic, Google i OpenAI o komentarz w tej sprawie.

Fakt, że trzej najwięksi rywale rynku AI prowadzą tajne rozmowy o bezpieczeństwie od tygodni, a jednocześnie publicznie deklarują poparcie dla apelu Amodei, wskazuje na to, że temat katastrofalnych ryzyk związanych z rozwojem sztucznej inteligencji przestał być wyłącznie tematem akademickich debat i wchodzi w fazę realnej, choć wciąż nieformalnej, koordynacji przemysłowej.