USA i Chiny: eksperci chcą zakazu kontroli AI nad bronią atomową

Eksperci z USA i Chin apelują o wspólne zasady kontroli AI nad bronią nuklearną, jak informuje the-decoder.com. Melanie Sisson z Brookings Institution i Tianjiao Jiang z Fudan University opublikowali konkretne propozycje przed planowanym na 24 września spotkaniem Donalda Trumpa i Xi Jinpinga.

Kluczowe wnioski

• Sisson i Jiang proponują konkretne „czerwone linie”: żaden system AI nie powinien mieć możliwości samodzielnego wystrzelenia broni nuklearnej ani atakowania systemów dowodzenia nuklearnego.
• Ludzie muszą zachować wyłączną kontrolę nad cyberatakami prowadzonymi przez AI na strategiczną infrastrukturę.
• USA i Chiny powinny uzgodnić wspólną definicję pojęcia „ludzkiej kontroli” nad systemami AI.
• Propozycje rozwijają porozumienie, które Joe Biden i Xi Jinping zawarli w listopadzie 2024 roku.
• Jiang proponuje dodatkowo utworzenie specjalnej linii kryzysowej do zgłaszania incydentów związanych z AI.

Ryzyko błędnej interpretacji i propozycja linii kryzysowej

Jednym z głównych zagrożeń, na które wskazują autorzy, jest możliwość automatycznej, błędnej eskalacji konfliktu. Jeśli defensywny system AI zareaguje automatycznie na podejrzaną aktywność, druga strona może odczytać to jako atak. Jiang proponuje w związku z tym utworzenie bezpośredniej linii komunikacyjnej między rządami – hotline, który pozwoliłby jednej ze stron szybko wyjaśnić, że dany incydent był przypadkowy, zanim sytuacja wymknie się spod kontroli i przerodzi w realny konflikt.

Propozycja ta wpisuje się w szerszą dyskusję o bezpieczeństwie systemów AI i sposobach ograniczania ryzyka związanego z autonomicznym działaniem algorytmów w newralgicznych obszarach.

Historia apeli i wątpliwości co do skuteczności mechanizmów

To nie jest pierwsza tego typu inicjatywa. Już w 2021 roku amerykańska National Security Commission on Artificial Intelligence (NSCAI) wezwała do zachowania ludzkiej kontroli nad bronią nuklearną. Mimo to do dziś nie powstały żadne wiążące mechanizmy, które regulowałyby tę kwestię między mocarstwami.

Carla Freeman z Johns Hopkins University wyraża wątpliwości, czy proponowane hotline'y w praktyce zadziałałyby. Przypomina przy tym kryzys z balonem szpiegowskim z 2023 roku – wówczas, gdy Stany Zjednoczone próbowały skontaktować się telefonicznie z chińską stroną, Chiny po prostu nie odebrały połączenia. Ten przykład pokazuje, że nawet istnienie formalnego kanału komunikacji nie gwarantuje jego wykorzystania w chwili kryzysu, jeśli jedna ze stron nie jest do tego politycznie gotowa.

Znaczenie propozycji w kontekście relacji USA-Chiny

Fakt, że propozycje pochodzą jednocześnie od amerykańskiego i chińskiego think tanku, sugeruje, że temat kontroli AI nad bronią nuklearną zyskuje na znaczeniu w obu krajach, niezależnie od napięć politycznych na innych polach. Zbliżające się spotkanie Trumpa i Xi 24 września może stać się okazją do formalnego podniesienia tych kwestii na najwyższym szczeblu, choć – jak pokazuje przywołany przykład z balonem szpiegowskim – droga od propozycji ekspertów do rzeczywistych, działających mechanizmów bezpieczeństwa pozostaje długa i niepewna.

Propozycje te wpisują się też w szerszy kontekst debaty o tempie rozwoju sztucznej inteligencji i pytania, na ile globalni liderzy technologiczni i polityczni są gotowi wprowadzać ograniczenia w obszarach o najwyższym ryzyku strategicznym.

Eksperci z USA i Chin są zgodni, że zachowanie wyłącznie ludzkiej kontroli nad decyzjami nuklearnymi to fundament bezpieczeństwa międzynarodowego w erze AI – jednak brak wiążących mechanizmów i historyczne trudności komunikacyjne między mocarstwami pokazują, że wdrożenie tych zasad w praktyce pozostaje wyzwaniem.