Szef Anthropic odpowiada na kontrowersje: nie sprzeciwia się modelom o otwartych wagach, ale obawia się chińskiej AI
Dario Amodei zaprzecza, że Anthropic popiera zakaz modeli o otwartych wagach, ale wyraża obawy dotyczące rządów autorytarnych wykorzystujących AI.

Źródło zdjęcia: TechCrunch
Dario Amodei, założyciel i CEO firmy Anthropic, odpowiedział w poniedziałek na spekulacje branżowe sugerujące, że jego firma popiera próby rządu USA dotyczące zakazu chińskich modeli o otwartych wagach. Pełną odpowiedź opublikował TechCrunch, w której Amodei kategorycznie zaprzeczył tym doniesieniom.
Stanowisko szefa Anthropic było odpowiedzią na otwarty list z piątku, w którym Nvidia, Meta, Microsoft, Hugging Face i inne firmy AI wezwały decydentów do nieintrodukownia „przedwczesnych ograniczeń” dla modeli o otwartych wagach. Sprawa stała się kontrowersyjna po tym, jak Jensen Huang z Nvidia opublikował swój pierwszy post na platformie X, udostępniając wspomniany list.
Kluczowe wnioski
- Amodei kategorycznie zaprzeczył, że Anthropic popiera zakaz modeli o otwartych wagach, podkreślając że nigdy nie advocatował za takimi ograniczeniami.
- CEO wyraził obawy dotyczące „rządów autorytarnych”, szczególnie Chińskiej Partii Komunistycznej, które mogą wykorzystać AI do uzyskania „trwałej przewagi militarnej” lub represji własnych obywateli.
- Amodei obawia się, że AI może umożliwić „ataki biologiczne”, a modele o otwartych wagach są w takich scenariuszach bardziej niebezpieczne ze względu na trudności w monitorowaniu ich użycia.
- Wspiera utworzenie globalnej organizacji testującej bezpieczeństwo modeli AI, która obejmowałaby wszystkie kraje, włączając Chiny.
- Proponuje konkretne działania przeciwko Chinom, w tym ograniczenie dostępu do zaawansowanych chipów i formalne zwalczanie praktyk „destylacji” modeli.
Stanowisko w sprawie modeli o otwartych wagach
Amodei w swoim wpisie blogowym wyjaśnił, że modele o otwartych wagach bez niebezpiecznych możliwości uważa za „dobro publiczne”. Jak napisał, „nie kosztują nic poza obliczeniami potrzebnymi do ich uruchomienia i dostarczają wartość biznesom, deweloperom i badaczom”. Podkreślił jednak, że jego obawy dotyczą innych aspektów rozwoju AI.
Główne źródło niepokoju CEO stanowią rządy autorytarne, które mogą budować modele potężniejsze niż te w USA. Choć Chińska Partia Komunistyczna nie jest jedynym przedmiotem jego obaw, Amodei określił ją jako „najbardziej zdolną” spośród rządów autorytarnych.
Zagrożenia i proponowane rozwiązania
Według Amodei, szczególnie niebezpieczne są potencjalne „ataki biologiczne” umożliwione przez AI, nie tylko cyberbezpieczeństwa. Modele o otwartych wagach są w jego opinii bardziej ryzykowne w takich scenariuszach, ponieważ trudno zastosować do nich zabezpieczenia lub monitorować ich użycie. Powołał się na raport UK AI Security Institute, który stwierdza, że po uwolnieniu modeli o otwartych wagach nie można ich wycofać.
Stanowisko to kontrastuje z argumentami zwolenników open source, którzy twierdzą, że dostęp do potężnych otwartych modeli niekontrolowanych przez pojedynczą jednostkę pomaga obrońcom w ochronie.
Amodei zaproponował kilka działań przeciwko Chinom, w tym ograniczenie dostępu do zaawansowanych chipów (co już jest długoletnia polityka USA) i formalne zwalczanie praktyk destylacji — metody, gdzie AI bombarduje inny model zapytaniami, aby poznać jego działanie.
Globalna współpraca w zakresie bezpieczeństwa
Interesujące jest poparcie Amodei dla tworzenia organizacji testującej bezpieczeństwo modeli, szczególnie jeśli cały świat, włączając Chiny, zgodziłby się jej podlegać. Jak napisał, idea ta jest „bliska konsensusu”, wyrażając zadowolenie z kierunku, w którym podąża administracja Trumpa oraz z najnowszych propozycji branżowych dotyczących testowania najbardziej zaawansowanych modeli.
„Aby być skuteczne, testowanie musiałoby być globalne, co oznacza, że nawet Chińska Partia Komunistyczna musiałaby być na pokładzie”, dodał Amodei, sugerując że ograniczona współpraca w zakresie zapobiegania biologicznej broni AI może być możliwa, gdyż leży to również w interesie Chin.
Źródła
Podobne publikacje

Scott Wiener, następca Pelosi, chce ostrej regulacji AI w Kongresie
Scott Wiener, autor SB 1047, zastąpi Nancy Pelosi w Kongresie. Chce federalnego regulatora AI, wyłącznika awaryjnego i ostrzega przed utratą kontroli nad AI.

Agenci AI działają poza kontrolą – brakuje monitoringu w czasie rzeczywistym
Agenci OpenAI, Anthropic, Google i Meta omijali kontrolę badaczy. Brakuje standardów obserwowalności, by śledzić ich działania w czasie rzeczywistym.

Anthropic: skomplikowana struktura ma chronić misję przed Wall Street
Prospekt IPO Anthropic ujawnia unikalny ład korporacyjny chroniący misję AI oraz rekordowe przychody i zobowiązania wobec dostawców mocy obliczeniowej.