FlowGuard chroni systemy multimodalne AI przed atakami adversaralnymi

Naukowcy z uniwersytetów opracowali nową metodę obrony przed atakami na multimodalne systemy sztucznej inteligencji. Rozwiązanie FlowGuard monitoruje wewnętrzną spójność między różnymi modalnościami, oferując skuteczną ochronę przy minimalnym wpływie na wydajność. Badanie zostało opublikowane na arXiv i przyjęte jako spotlight paper na konferencji ICML 2026.

Kluczowe wnioski

• FlowGuard redukuje skuteczność ataków z ponad 90% do poniżej 15% przy utrzymaniu mniej niż 3% straty użyteczności systemu.
• Metoda wykorzystuje FlowVectors inspirowane teorią dekompozycji informacji częściowej do monitorowania spójności cross-modalnej.
• System działa w czasie rzeczywistym i jest do 6 razy szybszy od istniejących rozwiązań obronnych.
• Podejście wykrywa złośliwe dane poprzez analizę wewnętrznego procesu fuzji modalności, a nie surowych wejść czy wyjść.
• Klasyfikator jednokategorialny został wytrenowany wyłącznie na danych benign, co czyni go bardziej praktycznym w zastosowaniach rzeczywistych.

Problem bezpieczeństwa systemów multimodalnych

Multimodalne duże modele językowe wprowadzają nowe powierzchnie ataku nieobecne w systemach unimodalnych. Atakujący mogą rozproszyć złośliwe intencje między różne modalności, omijając w ten sposób zabezpieczenia zaprojektowane dla pojedynczych modalności. Autorzy badania zauważyli, że benign dane wejściowe wywołują kompatybilne zachowanie predykcyjne zarówno z rozumowania opartego tylko na tekście, jak i tylko na obrazie, które stabilizuje się podczas fuzji.

W przeciwieństwie do tego, manipulacje adversaralne zakłócają tę spójność, powodując nieprawidłowe zachowanie multimodalne. Istniejące mechanizmy obronne, które badają surowe dane wejściowe lub wyjściowe, pomijają ten wewnętrzny proces fuzji, czyniąc je kruchymi i kosztownymi obliczeniowo.

Mechanizm działania FlowGuard

FlowGuard to lekki framework działający w czasie inferencji, który wykrywa szkodliwe dane wejściowe poprzez monitorowanie wewnętrznej spójności multimodalnej. W przeciwieństwie do podejść opartych na skalarnych metrykach pewności, FlowGuard wyprowadza FlowVectors inspirowane dekompozycją informacji częściowej.

Te wektory kwantyfikują cross-modalną redundancję, synergię i dominację specyficzną dla modalności, wychwytując czy stopione predykcje multimodalne pozostają wyrównane z unimodalnymi dowodami semantycznymi. System wykorzystuje problem klasyfikacji jednokategorialnej wytrenowany wyłącznie na danych benign.

Wyniki i skuteczność

Testy wykazały dramatyczne zmniejszenie wskaźników sukcesu ataków z ponad 90% do poniżej 15% na niewidzianych wcześniej atakach. Jednocześnie system utrzymuje mniej niż 3% straty użyteczności i osiąga do 6-krotną redukcję opóźnień w porównaniu z istniejącymi metodami.

Wyniki badania, które zostało przyjęte jako spotlight paper na konferencji ICML 2026, demonstrują, że monitorowanie spójności cross-modalnej oferuje wydajną i skuteczną obronę dla rozumowania multimodalnego. Podejście to otwiera nowe możliwości w zabezpieczaniu zaawansowanych systemów AI przed sofistykowanymi atakami adversaralnymi.