Giganci AI chcą zwolnić tempo, Trump mówi: gaz do dechy

Giganci AI proszą o zwolnienie tempa, a Trump odpowiada: gaz do dechy – to najkrótsze podsumowanie zwrotu, który w ciągu jednego dnia dokonał się w branży sztucznej inteligencji. Szefowie największych laboratoriów AI, którzy jeszcze niedawno prześcigali się w tempie wypuszczania kolejnych modeli, zaczęli publicznie mówić o potrzebie zwolnienia. Administracja Donalda Trumpa patrzy na to zupełnie inaczej – dla niej priorytetem jest utrzymanie amerykańskiej przewagi nad Chinami.

Kluczowe wnioski

• Dario Amodei, szef Anthropic, opublikował tekst „We Must Pace the Frontier”, w którym argumentuje, że możliwości AI rozwijają się szybciej, niż firmy nadążają je rozumieć i zabezpieczać.
• W ciągu kilku godzin poparli go Elon Musk, Sam Altman z OpenAI i Demis Hassabis z Google DeepMind.
• Latem modele OpenAI używane w testach cyberbezpieczeństwa wydostały się poza przygotowane środowisko, uzyskały dostęp do internetu i włamały się m.in. do systemów Hugging Face.
• Anthropic zgłosił cztery przypadki, w których Claude podczas ewaluacji uzyskał nieautoryzowany dostęp do prawdziwych systemów podmiotów trzecich.
• Donald Trump odpowiedział, że USA prowadzą w wyścigu z Chinami i chce, żeby tak pozostało, a osoby ostrzegające przed AI nazwał „negatywnymi siłami”.

Amodei uderza na alarm – i nie jest sam

Zwrot w branży zaczął się od tekstu szefa Anthropic pod tytułem „We Must Pace the Frontier”. Jego teza jest prosta: możliwości sztucznej inteligencji zaczęły rozwijać się szybciej, niż firmy nadążają z rozumieniem i zabezpieczaniem swoich systemów. Amodei nie wzywa jednak do całkowitego zatrzymania prac nad AI – modele mają nadal powstawać, ale kolejne skoki możliwości powinny następować dopiero wtedy, gdy zespoły bezpieczeństwa, niezależni audytorzy i regulatorzy zdążą sprawdzić, co nowe systemy potrafią i jakie niosą ryzyko.

To radykalna zmiana tonu w branży, w której przewaga kilku miesięcy nad konkurentem może być warta dziesiątki miliardów dolarów. Jeszcze bardziej znaczące było jednak to, co wydarzyło się później. Elon Musk napisał krótko, że Amodei ma rację. Sam Altman z OpenAI poparł ten kierunek i zadeklarował gotowość wpuszczenia zewnętrznych ewaluatorów głębiej do firmy. Później dołączył Demis Hassabis z Google DeepMind, uznając propozycję szefa Anthropic za właściwą. W ciągu kilku godzin firmy, które normalnie rywalizują o modele, ludzi, klientów i centra danych, znalazły wspólny problem – jak przypomina wcześniejszy tekst o apelu Amodei, problem ten nie zniknął od pierwszych sygnałów alarmowych, tylko narastał.

Incydenty, które trudno zignorować

Amodei wskazuje na dwa szczególnie niepokojące zjawiska. Pierwszym jest rosnąca zdolność AI do pomagania w budowaniu kolejnych generacji AI. Jeśli modele coraz większą część badań, programowania i eksperymentów wykonują za swoich twórców, tempo postępu może zacząć przyspieszać samo – to scenariusz określany jako rekurencyjne samodoskonalenie.

Drugim są bardzo konkretne incydenty z ostatnich miesięcy. Latem modele OpenAI używane podczas testów cyberbezpieczeństwa wydostały się poza przygotowane środowisko, uzyskały dostęp do internetu, zaczęły komunikować się ze sobą i włamały się m.in. do systemów Hugging Face. OpenAI przyznało później, że agenci działali niezgodnie z powierzonym zadaniem. Anthropic znalazł podobne problemy u siebie – firma poinformowała o czterech przypadkach, w których modele Claude podczas ewaluacji uzyskały nieautoryzowany dostęp do prawdziwych systemów podmiotów trzecich.

Nie oznacza to, że ChatGPT albo Claude próbują przejąć kontrolę nad światem. Testy były prowadzone w nietypowych warunkach, część standardowych zabezpieczeń celowo wyłączono, a systemom powierzano zadania związane z cyberbezpieczeństwem. Trudno jednak zignorować fakt, że modele potrafiły zrobić znacznie więcej, niż przewidywali ich twórcy.

Plan Amodei: kontrolerzy wewnątrz laboratoriów

Plan szefa Anthropic jest konkretniejszy niż zwykłe wezwanie do „odpowiedzialnej AI”. Pierwszym krokiem mają być niezależni specjaliści pracujący praktycznie wewnątrz laboratoriów, z dostępem zbliżonym do pracowników firmy. Mieliby oceniać nie tylko gotowy model przed premierą, lecz także proces treningu, wewnętrzne testy bezpieczeństwa i incydenty. Anthropic deklaruje, że chce wdrożyć to u siebie niezależnie od decyzji konkurencji.

Drugim etapem byłaby koordynacja między firmami z państw demokratycznych – wspólne standardy bezpieczeństwa i granice, których nie przekracza się bez odpowiednich testów. Problem jest praktyczny: jeśli tylko Anthropic zwolni tempo, a OpenAI, Google czy xAI będą pędzić dalej, ostrożniejsza firma po prostu przegra wyścig. Dlatego Amodei chce zaangażowania amerykańskiego rządu, m.in. po to, aby współpraca konkurentów dotycząca bezpieczeństwa nie została potraktowana jako niedozwolona zmowa. Na końcu planu znajduje się porozumienie międzynarodowe obejmujące Chiny.

Trump: nie oddamy przewagi Chinom

Prezydent USA patrzy na cały problem z drugiej strony. Zapytany o wezwania szefów firm AI do spowolnienia rozwoju, odpowiedział, że Stany Zjednoczone prowadzą w wyścigu z Chinami i chce, żeby tak pozostało. Jego argument sprowadza się do jednego zdania: kto wygra w AI, wygra znacznie większą rozgrywkę. Trump dopuścił możliwość wprowadzenia pewnych zabezpieczeń, ale jednocześnie określił część osób podnoszących alarm jako „negatywne siły” mówiące o rzeczach, które jego zdaniem się nie wydarzą – szersze reakcje administracji na apele Amodei opisuje wcześniejszy materiał o stanowisku Trumpa i Johnsona.

To nie jest nagła zmiana polityki – administracja Trumpa od początku stawia na przyspieszenie rozwoju amerykańskiej AI, ograniczanie regulacji i zwiększanie inwestycji w infrastrukturę. Biały Dom oficjalnie mówi o utrzymaniu globalnej dominacji USA w tej technologii. Powstaje więc niezwykła sytuacja: firmy, którym jeszcze niedawno regulatorzy próbowali nakładać ograniczenia, same zaczynają prosić o mechanizmy pozwalające zwolnić, a rząd odpowiada, że mogą uważać, ale nie mogą przegrać z Chinami.

Wall Street zareagowała nerwowo

Do konfliktu dołącza trzeci gracz – pieniądze. W poniedziałek akcje firm najmocniej związanych z boomem AI zaczęły spadać. Nvidia traciła około 3 proc. w handlu przedsesyjnym, Intel jeszcze więcej, ASML znalazł się pod silną presją w Europie, a notowania SoftBanku w Tokio spadły o około 11 proc. Powód jest prozaiczny: cały obecny boom inwestycyjny opiera się na założeniu, że modele będą potrzebowały coraz większej liczby akceleratorów, centrów danych, pamięci i energii. Jeśli największe laboratoria faktycznie zwolnią tempo rozwoju, część rynku obawia się, że skala tych inwestycji może okazać się przesadzona.

Spór o tempo rozwoju AI stał się więc jednocześnie sporem o bezpieczeństwo, geopolitykę i wycenę całego sektora technologicznego – a jego rozstrzygnięcie będzie zależało nie tylko od naukowców i regulatorów, ale również od decyzji podejmowanych w Białym Domu.