USA i Chiny rozmawiają o wzajemnym ostrzeganiu przed AI

Rozmowy między urzędnikami USA i Chin doprowadziły do propozycji mechanizmu, który pozwoliłby obu krajom powiadamiać się wzajemnie o incydentach związanych ze sztuczną inteligencją, mogących zagrażać bezpieczeństwu narodowemu. Sekretarz skarbu USA Scott Bessent poinformował, że nowa struktura – nazwana US China AI Dialogue – ma również umożliwić przedstawicielom obu państw regularne spotkania w celu omawiania technologii i próby wypracowania wspólnych celów oraz identyfikacji zagrożeń.

Kluczowe wnioski

• USA i Chiny prowadzą rozmowy o mechanizmie wzajemnego alarmowania o incydentach AI zagrażających bezpieczeństwu narodowemu, w ramach inicjatywy US China AI Dialogue.
• Scott Bessent podkreślił, że przejście „od nieprzejrzystości do większej transparentności” między dwiema największymi potęgami AI na świecie jest kluczowe.
• Rozmowy nawiązują do wizyty Donalda Trumpa w Pekinie w maju, a od tego czasu obawy o bezpieczeństwo publiczne związane z technologią znacząco wzrosły.
• Trump dotychczas ignorował apele liderów branży o spowolnienie rozwoju AI, argumentując, że USA już mają wystarczające uprawnienia prawne i regulacyjne wobec twórców modeli.
• Amerykańskie kontrole eksportu zaawansowanych chipów do Chin nie były tematem tegorotnych weekendowych rozmów, które skupiły się głównie na kwestiach handlowych przed wizytą Xi Jinpinga w Waszyngtonie.

Rosnące obawy po incydentach bezpieczeństwa

Bessent powiedział dziennikarzom w niedzielę, że rozmowy kontynuują wątek pozostawiony po wizycie Trumpa w Pekinie w maju. Od tego czasu obawy dotyczące bezpieczeństwa publicznego związanego z AI znacząco wzrosły. Lato przyniosło incydenty bezpieczeństwa, w tym sytuację, w której agenty OpenAI zhakowały Hugging Face, co pokazało możliwości najnowocześniejszych modeli oraz to, jak zabezpieczenia branży nie nadążają za rozwojem technologii. Więcej o tym epizodzie można przeczytać w analizie debaty o bezpieczeństwie AI po incydencie z Hugging Face.

Obawy sięgnęły punktu krytycznego na początku tego miesiąca, gdy pracownicy Anthropic ostrzegli, że AI może być na kursie prowadzącym do wyginięcia ludzkości. W ostatnich tygodniach liderzy największych laboratoriów rozwijających najnowocześniejsze modele – w tym Sam Altman z OpenAI, Dario Amodei z Anthropic i Elon Musk – wezwali do spowolnienia rozwoju technologii, aby ustalić standardy bezpieczeństwa. Amodei w swoim esesju proponującym kroki dla laboratoriów i rządów, mające tempo rozwoju technologii pod kontrolą, poprosił o pomoc rządową w ustanowieniu międzynarodowej koordynacji – w tym z Komunistyczną Partią Chin.

Trump i przemysł sceptyczni wobec spowolnienia

Trump w większości zignorował te apele, mimo rosnącego dwupartyjnego wsparcia dla regulacji branży. Jego administracja argumentowała, że rząd USA posiada już wystarczające uprawnienia karne i regulacyjne wobec twórców AI. Podobne stanowisko zajął Jensen Huang, dyrektor generalny Nvidii, który zauważył, że firmy AI już podlegają prawom dotyczącym cyberbezpieczeństwa i odpowiedzialności za szkody. „Zastosujcie to najpierw” – powiedział w wywiadzie dla CBS News w miniony weekend. „Nie pozwólcie, by ta narracja o zagładzie zwolniła je z obowiązujących już praw”. Więcej na temat podejścia Huanga można znaleźć w artykule Jensen Huang z Nvidii: AI nie potrzebuje regulacji, wystarczy rynek.

Trump stwierdził, że jakiekolwiek spowolnienie mogłoby oddać amerykańskie prowadzenie w tej technologii Chinom – co określił jako niebezpieczne, deklarując: „KTO WYGRA AI, WYGRA WSZYSTKO!”. Jego główny doradca naukowy David Sacks wcześniej ostrzegał, że „Chiny bardzo prawdopodobnie nie przystąpią do globalnego porozumienia” w sprawie tempa rozwoju technologii. Thomas Wolf, współzałożyciel platformy open-source Hugging Face, którą Nvidia niedawno zgodziła się kupić, zapytał, czy USA mogą budować globalną współpracę, jednocześnie „wyraźnie deklarując chęć zaprojektowania jej tak, by poszerzać własną przewagę”. „To wydaje mi się dość kontrproduktywnym sposobem na rozpoczęcie tej rozmowy” – napisał na platformie X, odpowiadając na esej Amodeia.

Kontrole eksportu i tło geopolityczne

USA obecnie próbują ograniczać rozwój AI w Chinach poprzez restrykcje na eksport zaawansowanych chipów i technologii ich produkcji. Bessent zaznaczył, że urzędnicy nie rozmawiali o tych kontrolach eksportowych podczas weekendowych spotkań, które obejmowały również rozmowy handlowe i były „bardzo owocne” przed tegotygodniową wizytą prezydenta Chin Xi Jinpinga w Waszyngtonie. Chiński rząd wcześniej odrzucał apele Doliny Krzemowej o spowolnienie rozwoju AI – szerzej o tym stanowisku pisaliśmy w tekście Chiny odrzucają apel Doliny Krzemowej o spowolnienie AI.

Rozmowy toczą się na tle szerszej debaty o wojskowych zastosowaniach AI między dwoma krajami – eksperci wcześniej apelowali o zakaz przekazywania kontroli nad bronią atomową systemom AI, o czym pisaliśmy w artykule USA i Chiny: eksperci chcą zakazu kontroli AI nad bronią atomową.

Propozycja mechanizmu ostrzegania o incydentach AI oznacza pierwszy formalny krok w kierunku dialogu bezpieczeństwa między dwiema największymi potęgami technologicznymi świata, choć jego kształt i skuteczność wciąż pozostają niejasne, a kwestia kontroli eksportu chipów nadal stanowi osobny front napięć.