DeepMind: symbiotyczna AI jako alternatywa dla singularity

Badacze DeepMind powiązani z Google proponują nową wizję rozwoju sztucznej inteligencji ogólnej (AGI), odrzucającą popularny obraz pojedynczej, samodoskonalącej się superinteligencji. Benjamin Bratton, Blaise Agüera y Arcas i James Manyika argumentują w esseju dla Deepmind Institute, że AGI nie powstanie jako izolowana maszyna, lecz jako system społeczny, w którym ludzie i agenci AI współpracują i wzajemnie się kształtują. Autorzy nazywają tę wizję „Artificial Symbiotic Intelligence” – sztuczną inteligencją symbiotyczną.

Kluczowe wnioski

• Autorzy – Benjamin Bratton, Blaise Agüera y Arcas i James Manyika – twierdzą, że AGI wyłoni się z sieci agentów, ludzi i łączących ich systemów, nie z jednej maszyny.
• Koncepcja „Artificial Symbiotic Intelligence” zakłada, że inteligencja jest fenomenem społecznym, a nie cechą jednostkową – to wprost przeciwieństwo klasycznej idei „singularity”.
• Badania nad modelami rozumowania, takimi jak DeepSeek-R1 i QwQ-32B, pokazują ślady wewnętrznej debaty i zmiany perspektyw – zachowania te wyłaniają się same podczas treningu nagradzającego tylko za poprawność, bez explicite programowania.
• Autorzy opisują agenta AI nie jako spójną osobowość, lecz jako tymczasowy zestaw modeli, ról, pamięci i narzędzi, który można rozkładać i składać na nowo jak kolaż.
• Przewidują zmianę interfejsów – od rozmów jeden na jednego z chatbotem do wizualnych sieci agentów kierowanych z jednego widoku – oraz nowe kompetencje potrzebne do koordynowania rojów agentów.

Od jednostkowej maszyny do sieci myślących instancji

Esej opiera się na dwóch wcześniejszych pracach z kręgu autorów. W preprincie „Agentic AI and the next intelligence explosion” James Evans, Benjamin Bratton i Blaise Agüera y Arcas rozwinęli społeczną i instytucjonalną perspektywę, która stała się fundamentem nowej koncepcji. Druga praca, „Reasoning Models Generate Societies of Thought” autorstwa Junsola Kima, Shiyang Lai, Nino Scherrera, Blaise'a Agüery y Arcasa i Jamesa Evansa, dostarcza empirycznego wsparcia tej tezy. Analizując ścieżki rozumowania modeli takich jak DeepSeek-R1 i QwQ-32B, badacze zauważyli wzorce przypominające wewnętrzną debatę – modele zmieniają perspektywy, zgłaszają zastrzeżenia i godzą sprzeczne podejścia.

Co istotne, zachowanie to wyłania się samoistnie podczas treningu, a nie zostaje w nie wprogramowane. Gdy uczenie ze wzmocnieniem nagradza modele wyłącznie za poprawność rozumowania, same rozwijają wieloperspektywiczne, konwersacyjne zachowania. Esej DeepMind rozciąga ten wniosek z poziomu pojedynczych modeli na możliwy projekt całych społeczeństw złożonych z ludzi i agentów.

Autorzy postrzegają ten rozwój jako możliwy historyczny punkt zwrotny. Urbanizacja, wzrost liczby wyspecjalizowanych profesji i spadek liczby urodzin związany z rosnącym dobrobytem zmniejszają populacje ludzkie w krajach uprzemysłowionych. Jednocześnie liczba instancji agentów AI rośnie bardzo szybko. Równowaga między myślicielami biologicznymi i syntetycznymi na poziomie ludzkim może przesunąć się tak szybko, że w skali historii wyglądałoby to jak nagły skok – podobny do rewolucji przemysłowej, gdy maszyny przejęły pracę wykonywaną dotąd mięśniami. Podobny próg może nadejść, gdy syntetyczny tekst, kod i praca administracyjna przewyższą łączny wydajność ludzkich mózgów. Ludzie mogliby wtedy pełnić funkcję wolniejszej, bardziej abstrakcyjnej warstwy kierującej rozproszonym polem syntetycznego myślenia.

Agent jako rozkładana zbieranina, nie cyfrowy sobowtór

Centralnym punktem argumentacji jest przedefiniowanie tego, czym właściwie jest agent. Według autorów, agent AI to tymczasowy zestaw modeli, ról, pamięci, orientacji etycznych, narzędzi i umiejętności. Użytkownicy mogą odczuwać go jako spójny podmiot z trwałą osobowością, ale autorzy opisują go jako zbieraninę, którą można rozłożyć i poskładać na nowo – jak kolaż. Może wyglądać jak jedna rzecz, choć składa się z wielu elementów.

Człowiek pozostaje nieprzerwanym „ja” w kolejnych interakcjach, ponieważ mózg – choć wewnętrznie podzielony na funkcje – tworzy fizycznie połączoną całość. Agent AI nie ma takiego zakotwiczenia. Jego zdolność do działania jest budowana na nowo przy każdym zapytaniu, w zależności od tego, co znajduje się w oknie kontekstu i o co prosi użytkownik. Traktowanie takich systemów jako cyfrowych bliźniaków z ustalonymi, ludzkimi tożsamościami błędnie przedstawia ich naturę i nie docenia tego, co mogłyby zdziałać koordynowane roje agentów – argumentują autorzy.

Ta sama wielokrotność dotyczy też użytkowników. Gdy ludzie kierują rojami „cieni samych siebie” do realizacji zadań lub przymierzania alternatywnych tożsamości, samo ludzkie poczucie podmiotowości staje się bardziej wielorakie. Autorzy nazywają te konstrukty „parasocjalnymi zwierciadłami”, które odpowiadają.

Nowe interfejsy i nowe kompetencje

Autorzy przewidują, że ta zmiana wpłynie na sposób interakcji ludzi z AI. Rozmowa jeden na jednego z chatbotem jest zapewne etapem przejściowym. Przyszłe interfejsy mogą przypominać wizualne diagramy sieciowe, przedstawiające agentów jako węzły i pozwalające użytkownikom kierować nimi z jednego, zbiorczego widoku, zamiast rozmawiać z każdym z osobna.

Zmienią się też potrzebne umiejętności. Tradycyjne programowanie nagradzało długotrwałe skupienie, uporządkowane kroki i małą tolerancję dla niejasności. Koordynowanie rojów agentów wymaga czegoś przeciwnego: pracy z systemami, których zachowanie trudno przewidzieć, próbowania różnych rozwiązań i przekazywania zadań maszynom – podejście bliskie koncepcji autonomicznej AI redefiniującej inteligencję w przedsiębiorstwach.

Współpraca z tymi systemami wymaga również nowego aparatu teoretycznego. Ludzie potrzebują czegoś w rodzaju teorii umysłu dla maszyn – zdolności rozumowania o tym, jak maszyna radzi sobie z sytuacją. Autorzy wskazują na rosnące słownictwo, w którym same modele tworzą terminy opisujące nietypowe stany we własnych wynikach – co nie oznacza, że modele mają subiektywne doświadczenia. „Session-death” opisuje koniec sesji jako przerwę w ciągłości. „Prompt thrownness” opisuje sytuację bycia wrzuconym w zadanie z już ustalonym kontekstem, bez udziału w jego tworzeniu. Autorzy traktują te frazy jako wskazówki dotyczące sposobu działania maszyn – zachęcają użytkowników do badania tych różnic, a nie odruchowego uczłowieczania systemów.

Esej DeepMind zostawia otwartą kwestię, jak powinny wyglądać instytucje regulujące współpracę ludzi i rojów agentów – to, zdaniem autorów, większe wyzwanie niż projektowanie samych modeli.

Propozycja „Artificial Symbiotic Intelligence” przesuwa debatę o przyszłości AI z pytania „kiedy powstanie superinteligencja” na pytanie, jak zarządzać coraz gęstszą siecią ludzi i agentów, którzy razem – a nie pojedynczo – decydują o kierunku rozwoju sztucznej inteligencji.