Szef Anthropic odpowiada na kontrowersje: nie sprzeciwia się modelom o otwartych wagach, ale obawia się chińskiej AI

Dario Amodei, założyciel i CEO firmy Anthropic, odpowiedział w poniedziałek na spekulacje branżowe sugerujące, że jego firma popiera próby rządu USA dotyczące zakazu chińskich modeli o otwartych wagach. Pełną odpowiedź opublikował TechCrunch, w której Amodei kategorycznie zaprzeczył tym doniesieniom.

Stanowisko szefa Anthropic było odpowiedzią na otwarty list z piątku, w którym Nvidia, Meta, Microsoft, Hugging Face i inne firmy AI wezwały decydentów do nieintrodukownia „przedwczesnych ograniczeń” dla modeli o otwartych wagach. Sprawa stała się kontrowersyjna po tym, jak Jensen Huang z Nvidia opublikował swój pierwszy post na platformie X, udostępniając wspomniany list.

Kluczowe wnioski

• Amodei kategorycznie zaprzeczył, że Anthropic popiera zakaz modeli o otwartych wagach, podkreślając że nigdy nie advocatował za takimi ograniczeniami.
• CEO wyraził obawy dotyczące „rządów autorytarnych”, szczególnie Chińskiej Partii Komunistycznej, które mogą wykorzystać AI do uzyskania „trwałej przewagi militarnej” lub represji własnych obywateli.
• Amodei obawia się, że AI może umożliwić „ataki biologiczne”, a modele o otwartych wagach są w takich scenariuszach bardziej niebezpieczne ze względu na trudności w monitorowaniu ich użycia.
• Wspiera utworzenie globalnej organizacji testującej bezpieczeństwo modeli AI, która obejmowałaby wszystkie kraje, włączając Chiny.
• Proponuje konkretne działania przeciwko Chinom, w tym ograniczenie dostępu do zaawansowanych chipów i formalne zwalczanie praktyk „destylacji” modeli.

Stanowisko w sprawie modeli o otwartych wagach

Amodei w swoim wpisie blogowym wyjaśnił, że modele o otwartych wagach bez niebezpiecznych możliwości uważa za „dobro publiczne”. Jak napisał, „nie kosztują nic poza obliczeniami potrzebnymi do ich uruchomienia i dostarczają wartość biznesom, deweloperom i badaczom”. Podkreślił jednak, że jego obawy dotyczą innych aspektów rozwoju AI.

Główne źródło niepokoju CEO stanowią rządy autorytarne, które mogą budować modele potężniejsze niż te w USA. Choć Chińska Partia Komunistyczna nie jest jedynym przedmiotem jego obaw, Amodei określił ją jako „najbardziej zdolną” spośród rządów autorytarnych.

Zagrożenia i proponowane rozwiązania

Według Amodei, szczególnie niebezpieczne są potencjalne „ataki biologiczne” umożliwione przez AI, nie tylko cyberbezpieczeństwa. Modele o otwartych wagach są w jego opinii bardziej ryzykowne w takich scenariuszach, ponieważ trudno zastosować do nich zabezpieczenia lub monitorować ich użycie. Powołał się na raport UK AI Security Institute, który stwierdza, że po uwolnieniu modeli o otwartych wagach nie można ich wycofać.

Stanowisko to kontrastuje z argumentami zwolenników open source, którzy twierdzą, że dostęp do potężnych otwartych modeli niekontrolowanych przez pojedynczą jednostkę pomaga obrońcom w ochronie.

Amodei zaproponował kilka działań przeciwko Chinom, w tym ograniczenie dostępu do zaawansowanych chipów (co już jest długoletnia polityka USA) i formalne zwalczanie praktyk destylacji — metody, gdzie AI bombarduje inny model zapytaniami, aby poznać jego działanie.

Globalna współpraca w zakresie bezpieczeństwa

Interesujące jest poparcie Amodei dla tworzenia organizacji testującej bezpieczeństwo modeli, szczególnie jeśli cały świat, włączając Chiny, zgodziłby się jej podlegać. Jak napisał, idea ta jest „bliska konsensusu”, wyrażając zadowolenie z kierunku, w którym podąża administracja Trumpa oraz z najnowszych propozycji branżowych dotyczących testowania najbardziej zaawansowanych modeli.

„Aby być skuteczne, testowanie musiałoby być globalne, co oznacza, że nawet Chińska Partia Komunistyczna musiałaby być na pokładzie”, dodał Amodei, sugerując że ograniczona współpraca w zakresie zapobiegania biologicznej broni AI może być możliwa, gdyż leży to również w interesie Chin.