Od PGP do Mythos: dlaczego kontrola eksportu technologii cybernetycznych rzadko działa

W ubiegły piątek Biały Dom nakazał firmie Anthropic ograniczenie eksportu jej zaawansowanych modeli AI Fable i Mythos poza terytorium Stanów Zjednoczonych, powołując się na nieokreślone względy bezpieczeństwa narodowego. Gigant sztucznej inteligencji w pośpiechu wstrzymał oba modele, które od tygodnia pozostają niedostępne dla wszystkich użytkowników. Ten epizod stanowi pierwszy prawdziwy test zdolności rządu USA do wykorzystania kontroli eksportu w celu ograniczenia zaawansowanych technologii AI, podobnie jak wcześniej próbował – z różnymi rezultatami – ograniczać szyfrowanie i oprogramowanie szpiegowskie, jak opisuje TechCrunch.

Kluczowe wnioski

• Anthropic został zmuszony do natychmiastowego wstrzymania modeli Fable i Mythos w ciągu około 90 minut od otrzymania dyrektywy Departamentu Handlu.
• Mythos był dostępny jedynie dla około 150 sprawdzonych firm i organizacji rządowych ze względu na swoje potencjalne zdolności cybernetyczne.
• Zakaz został wywołany dwoma zdarzeniami: dostępem południowokoreańskiego operatora telekomunikacyjnego podejrzewanego o powiązania z Chinami oraz znalezieniem przez Amazon sposobu na ominięcie zabezpieczeń modelu Fable 5.
• Historia pokazuje, że kontrola eksportu technologii cybernetycznych rzadko osiąga zamierzone cele – od porażki z szyfrowaniem PGP w latach 90. po problemy z ograniczaniem oprogramowania szpiegowskiego.
• Obecnie trwa pat między Anthropic a administracją Trumpa, którego rozstrzygnięcie może wpłynąć na przyszłe zasady dla innych laboratoriów AI.

Kontekst modelu Mythos i przyczyny zakazu

Anthropic od kwietnia marketował Mythos jako rodzaj cybernetycznej maszyny zagłady, która mogłaby siać spustoszenie w internecie, gdyby została zbyt szeroko udostępniona. Właśnie dlatego przed zakazem dostęp do modelu miało jedynie około 150 sprawdzonych firm i organizacji rządowych. Celem było pomoc obrońcom w zabezpieczeniu ich oprogramowania i usług, zanim złoczyńcy osiągną możliwości podobne do Mythos.

Według doniesień, zakaz wywołały dwa kolejne wydarzenia. Po pierwsze, Anthropic udzielił dostępu do Mythos południowokoreańskiemu operatorowi telekomunikacyjnemu w ramach swojego ograniczonego programu partnerskiego. Amerykańscy urzędnicy zaniepokoili się po zidentyfikowaniu tej firmy jako podejrzewanej o powiązania z Chinami. Firma, według powszechnych doniesień SK Telecom, zaprzeczyła jakimkolwiek połączeniom z Chinami.

Drugim wydarzeniem było zgłoszenie CEO Amazon Andy'ego Jassy'ego do administracji, że badacze Amazon znaleźli sposób na ominięcie zabezpieczeń Fable 5. Anthropic kwestionuje określenie tego jako „jailbreak”, nazywając to wąskim, już załatanym problemem, a nie całkowitą porażką środków bezpieczeństwa modelu.

Historia niepowodzeń kontroli eksportu

Rządy próbują używać kontroli eksportu do ograniczania proliferacji niebezpiecznych technologii cybernetycznych od dziesięcioleci, ale ich bilans jest w najlepszym razie przeciętny. Rząd USA stoi za prawdopodobnie najbardziej spektakularną porażką tego podejścia z początku i połowy lat 90.

W tym czasie informatycy rozwijali technologie szyfrowania do zabezpieczania danych podróżujących przez internet. Jednym z produktów szyfrujących było Pretty Good Privacy (PGP) – popularne oprogramowanie, które mogło zaszyfrować dane i uczynić je praktycznie niemożliwymi do odszyfrowania, nawet jeśli zostały przechwycone podczas przesyłania do odbiorcy przez internet.

Rząd USA początkowo postrzegał PGP jako niebezpieczną broń, obawiając się, że uniemożliwi to agencjom wywiadowczym podsłuchiwanie e-maili przecinających ich sieci. Aby zatrzymać dystrybucję PGP, amerykańska Służba Celna otworzyła śledztwo karne przeciwko twórcy PGP Philowi Zimmermannowi za rzekome naruszenie kontroli eksportu uzbrojenia. Odpowiedział on publikując kod źródłowy PGP jako drukowaną książkę, wywołując to, co dziś znane jest jako „Crypto Wars”.

Zimmermann później wygrał kluczową bitwę, gdy śledztwo zostało zamknięte, torując drogę dla kluczowych algorytmów szyfrowania end-to-end, takich jak te używane przez miliardy użytkowników Signal i WhatsApp.

Problemy z kontrolą oprogramowania szpiegowskiego

Na początku 2010 roku badacze zaczęli odkrywać zachodnie oprogramowanie szpiegowskie używane przeciwko dysydentom na Bliskim Wschodzie. W odpowiedzi kilka rządów zgodziło się rozszerzyć Porozumienie z Wassenaar – międzynarodowy traktat ograniczający eksport oprogramowania i technologii podwójnego zastosowania używanych zarówno w zastosowaniach cywilnych, jak i wojskowych.

Pomysł polegał na sklasyfikowaniu oprogramowania do inwigilacji i hakowania jako podwójnego zastosowania, zmuszając tym samym producentów oprogramowania szpiegowskiego do uzyskiwania licencji eksportowych na sprzedaż swoich produktów za granicą.

Jednak Porozumienie z Wassenaar zawsze miało dwie inherentne słabości. Po pierwsze, kilka krajów nie przestrzega umowy, w tym Izrael, który jest domem dla niektórych z najbardziej aktywnych producentów oprogramowania szpiegowskiego na świecie. Po drugie, umowa zależy od krajów stosujących ją do firm w ich granicach według własnego uznania.

Przez pewien czas włoski rząd pozwolił jednemu z czołowych producentów oprogramowania szpiegowskiego w kraju, Hacking Team, na licencję eksportu swoich narzędzi na cały świat, pomimo historii firmy sprzedawania oprogramowania szpiegowskiego represyjnym rządom, które używały go do hakowania dziennikarzy i aktywistów praw człowieka.

Mimo kilku sukcesów, takich jak zamknięcie niemieckiej firmy FinFisher w 2022 roku po wieloletnim śledztwie prokuratorów za rzekome sprzedawanie oprogramowania szpiegowskiego Turcji bez licencji eksportowej, ogólny bilans pozostaje mieszany. Wiele firm szpiegowskich po prostu przenosi swoje operacje do krajów o łagodnej kontroli eksportu.

W momencie pisania tego artykułu pat między Anthropic a administracją Trumpa nadal trwa. Sposób rozwiązania tego konfliktu może kształtować nie tylko dostęp Anthropic do zagranicznych rynków, ale także zasady, według których będą musiały działać inne laboratoria AI.