Framework TRUST wprowadza zdecentralizowany audyt systemów sztucznej inteligencji

Naukowcy z Yu-Chao Huang na czele opublikowali w serwisie arXiv nowy framework TRUST, który ma zrewolucjonizować sposób audytu systemów sztucznej inteligencji. Badanie dostępne w arXiv przedstawia zdecentralizowane podejście do weryfikacji dużych modeli rozumowania i systemów wieloagentowych, które według autorów eliminuje główne problemy obecnych scentralizowanych rozwiązań.

Framework TRUST (Transparent, Robust, and Unified Services for Trustworthy AI) ma rozwiązać cztery kluczowe ograniczenia obecnych systemów audytu: podatność na ataki i błędy systematyczne, problemy ze skalowalnością, brak przejrzystości oraz zagrożenia prywatności związane z ujawnianiem procesów rozumowania.

Kluczowe wnioski

• TRUST osiąga 72,4% dokładności, przewyższając standardowe metody o 4–18 punktów procentowych w testach na różnych modelach językowych.
• System pozostaje odporny nawet przy 20% uszkodzonych węzłów, a protokół DAAN osiąga 70% skuteczności w identyfikacji przyczyn błędów przy 60% oszczędności tokenów.
• Framework gwarantuje bezpieczeństwo przy udziale do 30% złośliwych uczestników dzięki wielopoziomowemu mechanizmowi konsensusu.
• Badania z udziałem człowieka potwierdzają skuteczność projektu (F1 = 0,89, Brier = 0,074).
• System wspiera cztery kluczowe zastosowania: zdecentralizowany audyt, odporne na manipulacje rankingi, bezpieczne adnotacje danych i zarządzane autonomiczne agenty.

Innowacje techniczne frameworka

TRUST wprowadza trzy główne innowacje techniczne. Pierwszą są hierarchiczne skierowane grafy acykliczne (HDAGs), które rozkładają rozumowanie Chain-of-Thought na pięć poziomów abstrakcji, umożliwiając równoległy rozproszony audyt. Druga innowacja to protokół DAAN, który projektuje interakcje wieloagentowe na grafy interakcji przyczynowych (CIGs) w celu deterministycznej atrybucji przyczyn źródłowych.

Trzecim elementem jest wielopoziomowy mechanizm konsensusu działający wśród kontrolerów obliczeniowych, ewaluatorów LLM i ekspertów ludzkich z głosowaniem ważonym udziałami. System ten gwarantuje poprawność nawet przy 30% udziale złośliwych uczestników.

Bezpieczeństwo i prywatność

Autorzy udowodnili twierdzenie o bezpieczeństwie i rentowności, które zapewnia, że uczciwi audytorzy osiągają zyski, podczas gdy złośliwi aktorzy ponoszą straty. Wszystkie decyzje są rejestrowane w blockchain, ale segmentacja zaprojektowana z myślą o prywatności zapobiega rekonstrukcji zastrzeżonej logiki.

Framework obsługuje cztery główne zastosowania: zdecentralizowany audyt systemów AI, odporne na manipulacje rankingi modeli, bezpieczne adnotacje danych bez potrzeby zaufania oraz zarządzane autonomiczne agenty. Według autorów, TRUST pioniersko wprowadza zdecentralizowany audyt AI dla bezpiecznego i odpowiedzialnego wdrażania systemów zdolnych do rozumowania.

TRUST reprezentuje znaczący krok naprzód w kierunku bezpieczniejszej i bardziej przejrzystej sztucznej inteligencji, oferując konkretne rozwiązania dla rosnących wyzwań związanych z weryfikacją zaawansowanych systemów AI.