Rząd USA uzyskał dostęp do testowania modeli AI przed ich publikacją

Program ma na celu ocenę zaawansowanych systemów AI pod kątem potencjalnych zagrożeń dla bezpieczeństwa narodowego, zanim trafią one do powszechnego użytku.

Kluczowe wnioski

• Rząd USA podpisał nowe umowy z trzema dodatkowymi firmami AI: Google DeepMind, Microsoft i xAI, rozszerzając program testowania bezpieczeństwa.
• CAISI przeprowadziło już ponad 40 ewaluacji modeli AI, w tym niektórych nieopublikowanych jeszcze systemów.
• Laboratoria AI dostarczają również wersje swoich modeli z ograniczonymi zabezpieczeniami do celów testowych.
• Nowe porozumienia umożliwiają testowanie w środowiskach klasyfikowanych, co zwiększa zakres analiz bezpieczeństwa.
• Ekspansja programu następuje w kontekście szybkiego rozwoju AI i intensyfikującej się rywalizacji technologicznej z Chinami.

Rozszerzenie programu testowania

CAISI, będące częścią amerykańskiego Departamentu Handlu, systematycznie rozbudowuje swoją współpracę z najważniejszymi laboratoriami AI. Nowe umowy z Google DeepMind, Microsoft i xAI uzupełniają wcześniejsze porozumienia zawarte z Anthropic i OpenAI.

„Niezależna, rygorystyczna nauka pomiarowa jest niezbędna do zrozumienia zaawansowanej AI i jej implikacji dla bezpieczeństwa narodowego” — wyjaśnia dyrektor CAISI, Chris Fall. Agencja już teraz przeprowadza kompleksowe analizy, mając na koncie ponad 40 ewaluacji różnych systemów AI.

Testowanie w środowiskach klasyfikowanych

Kluczowym elementem rozszerzonych umów jest możliwość przeprowadzania testów w środowiskach klasyfikowanych. To znaczący krok naprzód w porównaniu do pierwotnych porozumień, które koncentrowały się głównie na wspólnych ocenach bezpieczeństwa i badaniach nad łagodzeniem ryzyka.

Laboratoria AI współpracują z rządem, dostarczając nie tylko standardowe wersje swoich modeli, ale również specjalne warianty z ograniczonymi zabezpieczeniami. Takie podejście pozwala testerom na dokładniejszą analizę potencjalnych luk bezpieczeństwa i sposobów ich wykorzystania.

Program zyskuje na znaczeniu w kontekście coraz większych możliwości modeli AI w zakresie identyfikowania i wykorzystywania słabości systemów bezpieczeństwa, a także nasilającej się konkurencji technologicznej z Chinami.

Rozszerzenie współpracy między rządem USA a pięcioma największymi laboratoriami AI stanowi istotny krok w kierunku proaktywnego podejścia do bezpieczeństwa sztucznej inteligencji, umożliwiając identyfikację zagrożeń przed wprowadzeniem systemów do powszechnego użytku.