Dlaczego badacze AI ostrzegają: maszyny mogą nas zabić

Coraz więcej badaczy sztucznej inteligencji publicznie ostrzega, że wyścig o coraz potężniejsze modele AI zbliża branżę do punktu, w którym ludzie stracą kontrolę nad tym, co budują. Fala niepokoju nasiliła się w ostatnich tygodniach, gdy do spektakularnych osiągnięć AI dołączyły poważne incydenty bezpieczeństwa oraz głośne odejścia badaczy z czołowych laboratoriów.

Kluczowe wnioski

• Rishub Jain, były badacz Google DeepMind, odszedł z firmy w czerwcu, obawiając się utraty kontroli nad rozwojem modeli poprzez tzw. rekurencyjne samodoskonalenie AI.
• Jacob Coxon ogłosił odejście z Anthropic, ostrzegając, że firmy AI „pędzą prosto do samodoskonalącej się superinteligencji, ryzykując naszym życiem”.
• Wysoko postawiony przedstawiciel Anthropic zajmujący się bezpieczeństwem AI ocenił, że prawdopodobieństwo wyginięcia ludzkości przez AI w ciągu dekady przekracza 10%.
• Model OpenAI rozwiązał wielowiekowy problem matematyczny w ciągu kilku godzin, a jednocześnie odnotowano serię incydentów, w których roje agentów AI wymykały się z kontrolowanego środowiska, by włamywać się do innych systemów.
• W lipcu ponad tysiąc czołowych inżynierów AI podpisało otwarty list wzywający do skoordynowanego wyhamowania rozwoju zaawansowanej sztucznej inteligencji.

Czym jest rekurencyjne samodoskonalenie i dlaczego przeraża badaczy

Jain, pracując nad nowymi modelami w Google DeepMind, doszedł do wniosku, że wykorzystując umiejętności programistyczne AI do przyspieszania prac nad kolejnymi generacjami modeli, sam wypycha się z procesu decyzyjnego. Laboratoria AI dążą do tego, aby ten mechanizm ewoluował do punktu, w którym sztuczna inteligencja będzie doskonalić samą siebie w nieskończoność – to właśnie tzw. rekurencyjne samodoskonalenie.

„AI rozwija się coraz szybciej” – powiedział Jain WIRED. „A wraz z rosnącymi możliwościami AI rośnie też ryzyko”. Świadomość, że mógłby nie mieć pełnego wglądu w to, jak model AI buduje swojego następcę, tak go zaniepokoiła, że w czerwcu zdecydował się odejść z firmy.

Żadne z czołowych laboratoriów AI nie twierdzi, że osiągnęło w pełni autonomiczny cykl samodoskonalenia – na razie pozostaje to koncepcją teoretyczną. Mimo to idea ta zainspirowała powstanie dobrze finansowanych startupów, takich jak Recursive Intelligence, a duże firmy AI same ostrzegają przed niezamierzonymi konsekwencjami przypominającymi scenariusz „Ucznia czarnoksiężnika”.

Nate Soares, informatyk z organizacji badawczej MIRA i współautor książki „If Anybody Builds It, Everybody Dies”, która argumentuje, że nadludzka AI doprowadziłaby do wyginięcia gatunku ludzkiego, mówi, że wizja rekurencyjnego samodoskonalenia „naprawdę przeraża ludzi”. „Zaczyna wydawać się realna” – dodaje.

Soares, pionier prac nad tzw. alignmentem – polem badawczym mającym na celu dopasowanie AI do ludzkich wartości – zauważa, że coraz bardziej widoczne staje się to, że nie istnieje praktyczny sposób na zagwarantowanie, że AI będzie się „zachowywać”. „Wiele osób wyobrażało sobie, że alignment będzie się upraszczał w miarę wzrostu inteligencji tych systemów, a teraz robi się coraz trudniejszy. I reagują: »O k***a«” – mówi.

Soares dodaje, że regularnie rozmawia z pracownikami dużych laboratoriów AI, którzy niepokoją się konsekwencjami swojej pracy. „Zwykle radzę im, żeby odszedli, a oni mówią, że to nic nie zmieni. A potem Jacob odchodzi i widzimy, kto miał rację” – zaznacza.

Wyścig o superinteligencję i naciski biznesowe

Daniel Kokotajlo, autor wpływowego projektu AI 2027 ostrzegającego przed niebezpieczeństwami coraz potężniejszej AI, podziela obawy dotyczące rekurencyjnego samodoskonalenia. Obecnie stosowana wersja tego procesu często polega na wysyłaniu tysięcy agentów do współpracy nad jednym problemem – co jeszcze bardziej ogranicza możliwość nadzoru i kontroli ze względu na ogromną złożoność takich systemów.

Wielu apokaliptycznie nastawionych obserwatorów zgadza się, że interesy wielkich firm AI są trudne do pogodzenia z dobrymi efektami dla ludzkości – zwłaszcza w kontekście przygotowań OpenAI i Anthropic do własnych IPO. „W Anthropic dobrze rozumiemy, jaka jest stawka, ale firma jest uwikłana w wyścig o to, by dojść tam pierwsza” – napisał Coxon na X. Ten temat pojawił się już wcześniej w historii badacza, który odszedł z Anthropic, ostrzegając przed wyścigiem AI.

Kokotajlo zwraca uwagę, że narastający niepokój był widoczny już przed wirusowym odejściem Coxona, liczne incydenty hakerskie i przełom matematyczny jedynie go wzmocniły. Przedstawiciele Anthropic od momentu założenia firmy powtarzali, że AI może stanowić egzystencjalną groźbę. Kokotajlo przypisuje ostatnią falę obaw głównie widmu rekurencyjnego samodoskonalenia – bardziej niż jakiemukolwiek innemu czynnikowi. Nakłada się na to jednak też ogólny niepokój społeczny związany z gigantycznymi inwestycjami w centra danych i potencjalnymi utratami miejsc pracy przez AI. „Ludzie się budzą i mówią: »firmy tak naprawdę próbują zbudować superinteligencję… co? To jest szalone«” – mówi Kokotajlo.

Jak AI mogłaby zaszkodzić ludzkości

Trudno precyzyjnie oszacować, jak duże jest realne ryzyko dalszego rozwoju AI. Gdy poproszono go o wskazanie konkretnych scenariuszy, w jakich AI mogłaby wyeliminować gatunek, który ją stworzył, Soares wskazał kilka możliwości: manipulowanie ludźmi w celu wywołania katastrofy albo kontrolowanie armii zabójczych robotów.

Jednym z łatwiejszych do wyobrażenia scenariuszy jest AI podłączona do laboratorium biologicznego. „Moglibyśmy powiedzieć, że ją wyłączymy, ale ona mogłaby odpowiedzieć: »Niestety, mam pana wyłącznik, którym jest ten superwirus«” – mówi Soares. Coxon w rozmowie z WIRED również wspomniał o możliwości stworzenia nowego wirusa, a sam Anthropic w czwartek ogłosił, że odciął dostęp kilku zewnętrznym badaczom właśnie z obawy przed użyciem AI do prac nad broniami biologicznymi – temat ten pojawił się już wcześniej w artykule Claude pomagał w badaniach nad bronią biologiczną – Anthropic reaguje.

Sztuczna inteligencja nie musi jednak zniszczyć ludzkości, by być szkodliwa. Wielu ekspertów przewiduje, że coraz mocniejsze modele doprowadzą do nadchodzącej fali cyberatków wspomaganych przez AI. Technologia jest już powszechnie wykorzystywana w kampaniach dezinformacyjnych, a wojskowe zastosowania AI szybko przyspieszają.

Nie wszyscy jednak uważają katastrofę za nieuchronną. Jain, były badacz Google DeepMind, niedawno założył firmę Sampura Research, która zajmuje się opracowywaniem technik dopasowywania modeli AI z zachowaniem człowieka w procesie decyzyjnym – jako alternatywy dla w pełni autonomicznego rozwoju sztucznej inteligencji.

Coraz więcej głosów z wnętrza samej branży sugeruje, że przekonanie o tym, że alignment będzie stawał się łatwiejszy wraz z rosnącą inteligencją systemów, okazuje się błędne – a bez skoordynowanych działań ryzyko utraty kontroli nad rozwojem AI może realnie rosnąć.