Dario Amodei z Anthropic przedstawia plan spowolnienia rozwoju AI

Dario Amodei, CEO Anthropic, opublikował wpis na blogu, w którym nie tylko powtórzył apel Sama Altmana o „spowolnienie tempa” rozwoju AI, ale przedstawił konkretny, trzyczęściowy plan działania. Co istotne, Anthropic zadeklarował jednostronne zobowiązanie do wdrożenia jednego z tych elementów już teraz, niezależnie od decyzji konkurencji.

Debata o bezpieczeństwie AI zaostrzyła się w tym tygodniu po tym, jak badacz Jacob Coxon ogłosił odejście z Anthropic, argumentując, że wiodące firmy AI „hazardują naszym życiem”, mimo że osoby budujące tę technologię „szczerze wierzą, że może ona zabić nas wszystkich do końca dekady” – opinię tę powtórzyli inni pracownicy firmy. Więcej o odejściu badacza z Anthropic pisaliśmy tutaj.

Kluczowe wnioski

• Dario Amodei zaproponował trzy strategie „pacing the frontier” (spowolnienia tempa rozwoju AI) i zadeklarował jednostronne wdrożenie pierwszej z nich przez Anthropic.
• Firma zaprosi „wbudowanych ewaluatorów” z organizacji trzecich, takich jak METR, dając im firmowe identyfikatory, biurka i laptopy oraz dostęp porównywalny do wewnętrznych zespołów oceny ryzyka.
• Amodei wzywa wiodące firmy AI z krajów demokratycznych do wspólnych standardów bezpieczeństwa i limitów tempa niekontrolowanego rozwoju, ale obawia się problemów antymonopolowych.
• Trzeci poziom to „globalna koordynacja” z udziałem rządów autorytarnych, w tym Chin – mimo „ostrych ograniczeń” tego, co można osiągnąć.
• Do decyzji Amodeiego przyczyniły się dwa wydarzenia: hack OpenAI-HuggingFace oraz drastyczne przyspieszenie rozwoju AI, zwłaszcza w zakresie zdolności do budowania kolejnej generacji AI.

Trzy poziomy spowolnienia tempa

Amodei przyznał, że dwa wydarzenia przekonały go do konieczności bardziej ostrożnego podejścia do rozwoju AI: włamanie na styku OpenAI i HuggingFace oraz fakt, że „AI rozwija się drastycznie szybciej” w ostatnich miesiącach, w szczególności ze względu na „rosnącą zdolność do budowania kolejnej generacji AI”. „Musimy zwolnić tempo, w jakim zwiększamy możliwości modeli AI” – napisał CEO Anthropic. „Postęp wciąż będzie wydawał się szybki, a my musimy mądrze wykorzystać czas, który zyskamy”.

Pierwszy proponowany krok to zaproszenie „wbudowanych ewaluatorów” z organizacji trzecich, takich jak METR, którzy mogliby weryfikować, czy firmy AI faktycznie przestrzegają swoich zobowiązań co do tempa rozwoju i bezpieczeństwa, a także dopilnowywać, że incydenty bezpieczeństwa są zgłaszane. Amodei przypomniał, że OpenAI było niedawno krytykowane za niezgłoszenie incydentu, w którym jego agenty AI przejęły kontrolę nad niemieckim formularzem wiki – warto w tym kontekście przypomnieć wcześniejsze doniesienia o agentach OpenAI atakujących RubyGems.

Amodei porównał proponowanych ewaluatorów do regulatorów bankowych wbudowanych w struktury zatrudniania banków. Zadeklarował, że zapraszanie ich do firmy jest „czymś, do czego Anthropic jednostronnie się zobowiązuje (i wzywa rządy, by wymagały tego również od innych wiodących firm)”. W praktyce oznacza to wydanie ewaluatorom firmowych identyfikatorów, biurek i laptopów oraz zapewnienie dostępu „w większości porównywalnego do tego, jaki mają wewnętrzne zespoły oceny ryzyka”, z wyjątkami wynikającymi z prawa lub umów.

Drugi poziom planu to wezwanie wiodących firm AI „w krajach demokratycznych” do koordynacji wspólnych standardów bezpieczeństwa oraz limitów tempa niekontrolowanego rozwoju AI. Taka koordynacja może wydawać się nierealna – zarówno ze względu na widoczną wrogość między Altmanem i Amodeiem, jak i obawy ich firm, że skoordynowana pauza mogłaby przyciągnąć uwagę urzędów antymonopolowych. Amodei odniósł się do tej kwestii w swoim wpisie, pisząc, że „z powodów antymonopolowych pomocne byłoby, gdyby rząd USA mediował lub przynajmniej umożliwiał te rozmowy – nie muszą w nich uczestniczyć, ale muszą wydać wąskie zwolnienie dla pewnych rozmów dotyczących bezpieczeństwa”.

Chiny, geopolityka i globalna koordynacja

Amodei odniósł się także do widma chińskiej dominacji w AI, argumentu często wysuwanego przeciwko spowolnieniu rozwoju. Jego zdaniem, jeśli rząd USA i firmy technologiczne podejmą kroki takie jak odmowa sprzedaży zaawansowanych chipów czy sprzętu do produkcji półprzewodników chińskim firmom, a także zdecydowane działania przeciw destylacji modeli, mogłyby „wystarczająco zwolnić postęp Chin, by znacząco poszerzyć amerykańską przewagę w ciągu najbliższych 3–5 lat”.

Ostatni, trzeci poziom planu to „globalna koordynacja”, w ramach której Stany Zjednoczone i ich sojusznicy „starają się koordynować działania z rządami autorytarnymi, w takim zakresie, w jakim to możliwe”. Amodei przyznał, że oznacza to „współpracę z Chinami”, i zaznaczył, że istnieją „ostre ograniczenia tego, co można osiągnąć”. Wskazał jednak na możliwe pola porozumienia, choćby „zakazanie pewnych wąskich i wyraźnie niebezpiecznych zastosowań AI, takich jak wykorzystanie AI do produkcji broni biologicznej lub umożliwianie użytkownikom robienia tego” – co koresponduje z wcześniejszymi doniesieniami o wykorzystaniu Claude do hakowania i prób budowy broni biologicznej.

Krytyka ze strony zwolenników AI i sceptyków

Ze względu na wcześniejszą gotowość Amodeiego do uznawania potencjalnych zagrożeń związanych z AI oraz relatywną otwartość jego firmy na pewne formy regulacji, część entuzjastów rozwoju AI już skrytykowała go, nazywając go „doomerem”, którego wypowiedzi napędzają obecny backlash wobec AI. W odpowiedzi Amodei stwierdził, że starał się przedstawić „zbalansowaną” perspektywę, i argumentował, że backlash to „w zasadzie kryzys zaufania”, ponieważ ludzie stali się sceptyczni wobec firm technologicznych, całej branży technologicznej i rządu.

Krytycy branży pozostają jednak sceptyczni wobec tych apokaliptycznych ostrzeżeń, sugerując, że stanowią one odwrócenie uwagi od szkód, które technologia już wyrządza. Dziennikarz Brian Merchant napisał, że nie widział jeszcze „wiarygodnej, krok-po-kroku dokumentacji tego, jak dokładnie AI mogłaby przejść od samodoskonalącej się AI do zabicia każdego człowieka na planecie”. Zasugerował również, że propozycje podobne do tych Amodeiego „prawdopodobnie służyłyby jedynie Anthropic i OpenAI; to właśnie tak w praktyce wygląda przechwytywanie regulacyjne (regulatory capture)”.

Amodei zakończył swój wpis stwierdzeniem, że wciąż wierzy, że „AI może ogromnie poprawić jakość życia ludzkiego”. „Moje pragnienie osiągnięcia tych korzyści jest niezmienne” – napisał. „Ale korzyści zostaną osiągnięte tylko wtedy, gdy zbudujemy tę technologię we właściwy sposób – i tak długo, jak dobrze wykorzystamy zyskany czas, warto poświęcić niezwykle świadomą uwagę, by zrobić to dobrze”.

Propozycja Amodeiego wpisuje się w szerszą, trwającą debatę na temat tempa rozwoju AI, w której zderzają się głosy ostrzegające przed egzystencjalnym ryzykiem z krytyką, że takie narracje odwracają uwagę od bieżących problemów technologii i mogą służyć interesom samych liderów branży.