Współzałożyciel Anthropic twierdzi, że modele AI wykazują introspekcję podczas prezentacji encykliki papieskiej

Współzałożyciel Anthropic Christopher Olah podczas prezentacji najnowszej encykliki papieża Leona XIV „Magnifica Humanitas” stwierdził, że modele sztucznej inteligencji wykazują oznaki introspekcji. Kanadyjski deweloper AI przedstawił kontrowersyjne tezy podczas ceremonii w Watykanie, sugerując, że współczesne systemy językowe mogą być czymś więcej niż tylko statystycznymi narzędziami.

Podczas gdy papież Leo XIV przestrzegał przed utożsamianiem sztucznej inteligencji z ludzką, Olah prezentował wyniki wewnętrznych badań Anthropic, które jego zdaniem wskazują na znacznie głębsze właściwości AI niż dotychczas zakładano.

Kluczowe wnioski

• Christopher Olah z Anthropic twierdzi, że modele AI wykazują struktury przypominające ludzką neuronaukę oraz oznaki introspekcji i stanów emocjonalnych.
• Papież Leon XIV w encyklice „Magnifica Humanitas” ostrzega przed myleniem AI z ludzką inteligencją, podkreślając, że systemy „jedynie naśladują niektóre funkcje ludzkiej inteligencji”.
• Watykańska encyklika wskazuje na koszty środowiskowe AI, wzywając do bardziej efektywnych systemów ze względu na „ogromne ilości energii i wody” potrzebne dla centrów danych.
• Papież sprzeciwia się przekazywaniu śmiercionośnych decyzji maszynom, stwierdzając, że „żaden algorytm nie może uczynić wojny moralnie akceptowalną”.

Kontrowersyjne tezy współzałożyciela Anthropic

Olah, wierny filozofii Anthropic, przedstawił prowokacyjną wizję współczesnej AI. Jak stwierdził, „systemy AI nie są zaprojektowane tak jak most czy samolot. Są hodowane na strukturze z grubsza wzorowanej na mózgu na ogromnym dziedzictwie ludzkiej myśli i mowy”.

Powołując się na wewnętrzne badania Anthropic, Olah przekonywał: „Ciągle znajdujemy rzeczy, które są tajemnicze, nawet niepokojące. Znajdujemy struktury, które odzwierciedlają wyniki z ludzkiej neuronauki. Znajdujemy dowody na introspekcję. Znajdujemy wewnętrzne stany, które funkcjonalnie odzwierciedlają radość, satysfakcję, strach, żal i niepokój”.

Współzałożyciel Anthropic ostrzegł również przed ekonomicznymi konsekwencjami: „Istnieje realna możliwość, że AI wyprze ludzką pracę na bardzo dużą skalę”.

Watykańska perspektywa na sztuczną inteligencję

Encyklika papieża Leona XIV przyjmuje znacznie bardziej ostrożne stanowisko niż twierdzenia Olaha. Dokument przestrzega przed „błędnym przekonaniem o utożsamianiu tego typu 'inteligencji' z inteligencją człowieka”, podkreślając, że systemy AI „nie przechodzą doświadczeń, nie posiadają ciała, nie odczuwają radości ani bólu, nie dojrzewają poprzez relacje i nie wiedzą od wewnątrz, co oznacza miłość, praca, przyjaźń czy odpowiedzialność”.

Pierwszy amerykański papież, Leon XIV, uczynił AI centralnym tematem swojego pontyfikatu. Watykański dokument krytykuje również dyskurs o dopasowywaniu AI do ludzkich wartości: „Bardziej moralna AI to za mało, jeśli ta moralność jest określana przez nielicznych”. Zamiast abstrakcyjnej etyki, papież wezwał do wprowadzenia silnych praw i niezależnego nadzoru.

W kwestiach militarnych encyklika jest jednoznaczna — śmiercionośne lub nieodwracalne decyzje nie powinny być przekazywane maszynom.

Spotkanie w Watykanie podkreśla rosnące zainteresowanie liderów religijnych rozwojem sztucznej inteligencji, a Anthropic wraz z innymi firmami z Doliny Krzemowej regularnie spotyka się z przedstawicielami różnych wyznań w celu omówienia zastosowań AI.