Opus 5 może rozwiązać problem prompt injection — największą lukę bezpieczeństwa agentów AI

Anthropic twierdzi, że ich najnowszy model Opus 5 jest niemal odporny na ataki prompt injection w swoim własnym oprogramowaniu. To przełomowe osiągnięcie w dziedzinie bezpieczeństwa AI, szczególnie istotne dla agentów przeglądarkowych, które do tej pory były szczególnie podatne na tego typu zagrożenia. Szczegółowe informacje przedstawiono w raporcie bezpieczeństwa opublikowanym przez Anthropic.

Kluczowe wnioski

• Opus 5 osiągnął 0% skuteczności ataków prompt injection w 129 scenariuszach testowych dla agentów przeglądarkowych.
• W ogólnych testach prompt injection przeprowadzonych przez firmę Gray Swan, skuteczność ataków spadła z 5,5% (Opus 4.8) do 2,0% po 15 próbach.
• Zerowy wskaźnik skuteczności dotyczy tylko trybu Auto Mode w produktach takich jak Claude Cowork, który stosuje podwójną warstwę ochrony.
• Bez dodatkowych zabezpieczeń, Opus 5 osiąga 3,7% podatności, podczas gdy Sonnet 5 radzi sobie lepiej z wynikiem 0,93%.

Rewolucja w bezpieczeństwie AI

Prompt injection to jedna z najpoważniejszych luk bezpieczeństwa w systemach sztucznej inteligencji. Atak polega na przemyceniu złośliwych instrukcji przez manipulację danych wejściowych, na przykład poprzez ukryty tekst na stronie internetowej. Problem był tak poważny, że OpenAI przyznało w grudniu, że prompt injection może nigdy nie zostać w pełni rozwiązany.

Opus 5 prowadzi w rankingu Gray Swan IPI, benchmarku testującym odporność na prompt injection. Po 15 próbach, wskaźnik skuteczności ataków wynosi 2,0%, wyprzedzając Mythos 5 (2,6%) i Fable 5 (2,8%).

Dwuwarstwowa ochrona Auto Mode

Kluczem do sukcesu Opus 5 jest tryb Auto Mode, który implementuje dwuwarstwową strategię obrony. Pierwsza warstwa skanuje przychodzące dane w poszukiwaniu ukrytych instrukcji, zanim model je przetworzy. Druga warstwa blokuje niebezpieczne działania przed ich wykonaniem.

Aby atak się powiódł, napastnik musi pokonać obie warstwy niezależnie, co znacznie zwiększa poziom bezpieczeństwa. Bez tych zabezpieczeń, sam model Opus 5 osiąga wskaźnik podatności na poziomie 3,7%, co nadal jest lepszym wynikiem niż poprzednie wersje, ale daleko od idealnego zera.

Przełom Anthropic w walce z prompt injection może fundamentalnie zmienić sposób, w jaki projektujemy i wdrażamy agentów AI, szczególnie tych działających w środowisku przeglądarek internetowych, gdzie zagrożenie było dotychczas największe.