Amerykańska lewica podzielona w sporze o zagrożenie AI

Wired dokumentuje narastający spór ideologiczny w amerykańskiej lewicy dotyczący tego, czy wierzyć w zapowiedzi firm technologicznych o egzystencjalnym zagrożeniu, jakie stanowić może sztuczna inteligencja. Punktem zapalnym stał się 10 września, gdy badacz Jacob Coxon, który niedawno odszedł z Anthropic, publicznie ostrzegł, że branża AI może potencjalnie doprowadzić do końca ludzkości. Dwa dni później nowojorska Democratic Socialists of America (DSA) opublikowała na Instagramie serię grafik z wizerunkiem węża ouroboros – pożerającego własny ogon – na jaskraworóżowym tle, z komentarzem, że „alarmizm AI i hype na temat AI to ta sama historia: obie skupiają uwagę na science-fiction, by odwrócić ją od realnych szkód doświadczanych obecnie”.

Kluczowe wnioski

• Post nowojorskiego oddziału DSA, autorstwa grupy roboczej Tech Action, zebrał ponad 25 000 polubień na Instagramie, ale wywołał też ostre komentarze w rodzaju „Straszne i niebezpieczne stanowisko. Czasem bicie na alarm jest uzasadnione”.
• Członek Tech Action Alan Deng argumentuje, że „AI stała się najnowszym narzędziem kapitalistycznej eksploatacji”, a socjaliści nie powierzą korporacjom tworzenia własnych regulacji.
• Senator Bernie Sanders, nieformalny lider amerykańskiej lewicy, przyjął odwrotną strategię – aktywnie mówi o ryzyku wyginięcia ludzkości przez AI i połączył ten temat z opozycją wobec budowy centrów danych.
• Badaczka Timnit Gebru zarzuciła Sandersowi i innym, że „biorą wzory z dosłownie sekt eugenicznych wyznających kult zagłady”, mając na myśli filozofie efektywnego altruizmu i racjonalizmu stojące za dyskursem o bezpieczeństwie AI w Doliniekrzemowej.
• Rumman Chowdhury, szefowa organizacji Humane Intelligence, ostrzega, że cała ta debata może w praktyce działać na korzyść wiodących laboratoriów AI, przyciągając inwestorów i odwracając uwagę od bieżących szkód.

Ouroboros kontra Bernie: dwie wizje lewicowej polityki AI

Grupa robocza Tech Action, część największego oddziału DSA w kraju, koncentruje się na regulacjach technologicznych i uważa, że powtarzanie twierdzeń frontowych laboratoriów AI o egzystencjalnym zagrożeniu wzmacnia same te firmy. Zdaniem jej członków odwraca to uwagę od regulowania realnych, dziejących się już teraz szkód technologii na rzecz niemożliwej do uchwycenia przyszłości.

Po drugiej stronie sporu stoi Bernie Sanders, który w ostatnim roku z entuzjazmem zaangażował się w temat bezpieczeństwa AI, przenosząc dyskusje toczące się dotąd w kręgach z Bay Area do Waszyngtonu i do swojej licznej populistycznej bazy wyborczej. 85-letni senator jako jeden z pierwszych wystąpił zarówno przeciwko budowie centrów danych – co stało się w tym roku ważnym punktem mobilizacji lewicy – jak i głośno mówił o potencjalnych szkodach AI, od utraty miejsc pracy do zagrożeń egzystencjalnych. Jego ustawa o moratorium na centra danych, opublikowana w marcu, wprost łączyła zatrzymanie budowy z potrzebą uchwalenia federalnych regulacji chroniących „przyszłość ludzkości”.

Pozycja Sandersa doprowadziła go do nietypowych sojuszy – najbardziej zaskakującego z Steve’em Bannonem, byłym doradcą Donalda Trumpa i prawicowym populistycznym podcasterem. Wpłynęła też, jak się wydaje, na komunikację kandydatów lewicy w wyborach w całym kraju. 9 września, dzień przed publikacją nowojorskiej DSA, sześciu kandydatów związanych z Working Families Party – w tym czterech wspieranych przez Sandersa – wydało oświadczenia o potrzebie regulacji AI przez Waszyngton, mających zapobiec egzystencjalnym zagrożeniom dla ludzkości.

Głosy krytyczne i wewnętrzne wątpliwości

Alexander McCoy, strateg Demokratów zajmujący się kwestiami AI, broni podejścia Sandersa, argumentując, że nie trzeba wybierać między troską o obecne szkody a obawami o rozwój superinteligencji. „Te same osoby, które martwią się o zarządzanie technologiami frontowymi i rozwój superinteligencji, zajmują się też obecnymi szkodami” – mówi McCoy. „Powinniśmy adresować wszystkie te ważne czynniki. Te zdolności frontowej AI są prawdziwe i coraz silniejsze. Nie są fałszywe czy przesadzone”.

Nie wszyscy w obozie lewicowym są jednak przekonani. Anonimowy członek nowojorskiej DSA z doświadczeniem technologicznym mówi Wired: „Niektórzy z nas patrzą na Berniego i pytają, co się stało?”. Krytyka publiczna także się nasila – Timnit Gebru, znana badaczka i krytyczka branży technologicznej, oskarżyła Sandersa i innych o powielanie retoryki „sekt eugenicznych wyznających kult zagłady”, wskazując na powiązania z filozofiami efektywnego altruizmu i racjonalizmu, które od lat kształtują dyskusje o bezpieczeństwie AI w Silicon Valley.

Pragathi Barusubramanian, członkini Tech Action i liderka kampanii przeciwko centrom danych – która pomogła doprowadzić do wprowadzenia w tym roku rocznego moratorium na ich budowę w stanie Nowy Jork – widzi w tym rozłamie problem definicyjny: nie zawsze jest jasne, co dokładnie stanowi najpoważniejszą, wymagającą regulacji szkodę związaną z AI, jeśli patrzy się na to, co dzieje się „na ziemi”, w realnych społecznościach.

Kto zyskuje na strachu przed AI?

Rumman Chowdhury, CEO i założycielka organizacji non-profit Humane Intelligence, która wcześniej kierowała zespołem odpowiedzialnym za etykę, transparentność i odpowiedzialność uczenia maszynowego w Twitterze, podziela obawy grupy DSA. Uważa, że cała uwaga generowana przez debatę o bezpieczeństwie AI ostatecznie przynosi korzyść wiodącym laboratoriom.

„[Firmy] zabierają całą uwagę, czas, energię i pieniądze, wygłaszając bardzo ekstremalne stanowiska. Ale potem faktycznie wycofują się do miejsca, w którym my już jesteśmy, dyskredytując przy tym całą naszą wiedzę ekspercką” – mówi Chowdhury. „Normalnym ludziom trudno zrozumieć, jak myśli inwestor venture capital. Im straszniejsze i bardziej fantastyczne te firmy wydają się dyrektorom generalnym, tym bardziej inwestorzy chcą w to wejść”.

Dla firm AI – zwłaszcza OpenAI i Anthropic, które planują w najbliższych latach wejść na giełdę – obecna uwaga i kontrola nad ich produktami mogą się w dłuższej perspektywie okazać korzystne. „Częścią procesu IPO jest udostępnienie obszernej dokumentacji dotyczącej ryzyk i sposobów ich adresowania” – wyjaśnia Chowdhury. „Dzięki temu mogą powiedzieć, że istnieje pełny reżim regulacyjny, który sami pomagają tworzyć w tej branży, chroniący przed najgorszymi ryzykami – i że wszyscy dokładnie ustalili, czym te »najgorsze ryzyka« są”.

Spór ten pokazuje, że amerykańska lewica – podobnie jak reszta polityki wokół AI – nie ma jednego stanowiska w kwestii sztucznej inteligencji, a linia podziału przebiega nie między prawicą a lewicą, ale wewnątrz samych ruchów progresywnych, między tymi, którzy chcą walczyć z bieżącymi szkodami technologii, a tymi, którzy obawiają się, że regulatorzy nie zdążą przygotować się na potencjalnie egzystencjalne skutki jej rozwoju.