Weterani Anthropic kupują ziemię na wypadek buntu AI

Według doniesień Wall Street Journal, część najdłużej pracujących pracowników Anthropic robi konkretne plany na wypadek, gdyby sztuczna inteligencja wymknęła się spod kontroli. W ciągu ostatnich kilku tygodni „niektórzy z pierwszych pracowników” firmy zwierzyli się branżowemu koledze, że rozważają zakup ziemi w odludnych częściach Stanów Zjednoczonych, dokąd mogliby się przeprowadzić, „jeśli AI pójdzie źle”.

To nie jest nowy pomysł w tym środowisku. Byli pracownicy wspominają, że już na firmowych kolacjach w początkach Anthropic dyskutowano o scenariuszu przypominającym Projekt Manhattan — sytuacji, w której mogliby zostać poproszeni o przeprowadzkę na pustynię i dalsze budowanie AI w ekranowanym elektromagnetycznie, rządowym obiekcie.

Kluczowe wnioski

• Część najdłużej pracujących pracowników Anthropic rozważa kupno ziemi w odludnych regionach USA jako plan awaryjny na wypadek, gdyby AI „poszła źle”.
• Informacje pojawiły się w ostatnich tygodniach i zostały przekazane branżowemu koledze, jak podaje WSJ.
• Podobne obawy krążyły w firmie od lat — już podczas wczesnych kolacji firmowych mówiono o scenariuszu w stylu Projektu Manhattan, z przeprowadzką do ekranowanego rządowego obiektu na pustyni.
• Wielu najwcześniejszych pracowników Anthropic i OpenAI ma korzenie w subkulturze Effective Altruism, w tym w bayareańskiej sieci tzw. „doomerów”.
• Eliezer Yudkowsky, uznawany za intelektualnego ojca tej subkultury, ostrzegał przed niekontrolowaną AI już w połowie lat 2000.

Korzenie w subkulturze „doomerów”

Reportaż WSJ pokazuje, jak silnie najwcześniejsi pracownicy Anthropic i OpenAI są związani ze środowiskiem Effective Altruism (EA). Część z nich pochodzi z bayareańskiej sieci osób, które od lat na poważnie analizują scenariusze końca świata. To środowisko od dawna zajmowało się myśleniem o ryzyku katastroficznym w najszerszym sensie — zanim sztuczna inteligencja stała się priorytetem na liście zagrożeń, grupa ta obsesyjnie analizowała ryzyko uderzeń asteroid czy erupcji superwulkanów.

Postacią kluczową dla tej subkultury jest Eliezer Yudkowsky, który już w połowie lat 2000 alarmował o niebezpieczeństwach związanych z niekontrolowaną sztuczną inteligencją. Jego wczesne ostrzeżenia uczyniły go swego rodzaju intelektualnym ojcem chrzestnym ruchu, z którego wyrosło wielu pierwszych pracowników firm budujących obecnie największe modele językowe.

Od teoretycznych scenariuszy do konkretnych planów

To, co przez lata było głównie tematem dyskusji przy firmowych kolacjach, wygląda dziś na przechodzące w fazę praktycznych przygotowań. Zamiast tylko rozmawiać o hipotetycznym przeniesieniu się do rządowego obiektu w razie kryzysu, część weteranów Anthropic bierze pod uwagę realny zakup ziemi w odludnych częściach kraju — miejsca, do którego mogliby się faktycznie przeprowadzić, gdyby rozwój AI wymknął się spod kontroli.

Fakt, że takie rozważania wychodzą na jaw właśnie teraz, wśród ludzi znajdujących się w samym centrum wyścigu o budowę coraz zdolniejszych systemów AI, rzuca dodatkowe światło na napięcie między postępem technologicznym a osobistymi obawami tych, którzy go napędzają. Osoby, które współtworzyły jedne z najbardziej wpływowych modeli językowych na świecie, jednocześnie zabezpieczają się prywatnie na wypadek, gdyby ich własna praca doprowadziła do scenariusza, którego od lat się obawiają.

Warto przypomnieć, że Anthropic od dawna publicznie deklaruje priorytet bezpieczeństwa AI jako część swojej misji, a debata o ryzykach związanych z rozwojem coraz zdolniejszych systemów towarzyszy firmie od jej powstania.

Podsumowanie

Doniesienia WSJ ujawniają, że obawy o niekontrolowany rozwój AI, obecne w kulturze Anthropic od lat, przekładają się dziś na konkretne, prywatne działania niektórych z jej najwcześniejszych pracowników — od teoretycznych rozmów o scenariuszach ewakuacyjnych do realnych planów zakupu ziemi w odludnych rejonach USA.