Wyjaśnialność AI bez fundamentów – krytyka metryk wierności XAI

Artykuł pozycyjny opublikowany na arXiv przez Marco Zullicha, Emily Schiller, Ivana Gentile, Davida Dembinsky'ego, Adriano Lucieriego, Kiliana Göllera i Steffena Seitza stawia niewygodne pytanie dla całej dziedziny wyjaśnialnej sztucznej inteligencji (XAI): czy metryki „wierności” (faithfulness), które mają gwarantować, że wyjaśnienie modelu rzeczywiście odzwierciedla jego działanie, w ogóle da się rzetelnie policzyć? Praca, zgłoszona 24 września 2026 roku, została zaprezentowana na warsztacie XAI podczas konferencji IJCAI-ECAI 2026.

Autorzy nie proponują nowej metody wyjaśniania modeli – zamiast tego krytycznie analizują fundamenty, na których opiera się ocena jakości istniejących narzędzi XAI dla ważności cech (feature importance). Ich teza jest radykalna: narzędzia te od dekady nie spełniają obietnicy budowania zaufania do modeli uczenia maszynowego, a w praktyce mogą wręcz szkodzić, prowadząc użytkowników do ślepego zaufania błędnym predykcjom.

Kluczowe wnioski

• Autorzy twierdzą, że narzędzia XAI, promowane jako sposób na zwiększenie zaufania do modeli przez uczynienie ich działania bardziej zrozumiałym dla ludzi, w ogólności zawiodły w realizacji tego celu – dowody zbierane przez ostatnią dekadę wskazują na systemowy problem.
• Zamiast budować zaufanie, XAI może prowadzić do nadmiernego polegania na błędnych predykcjach modelu, co z kolei może skutkować „awersją algorytmiczną” – czyli nieufnością wobec AI jako takiej.
• W praktyce metody wyjaśnialności sprawdzają się głównie jako narzędzie debugowania – dostarczają anegdotycznego wglądu w to, czego model się nauczył, a nie rzetelnego obrazu jego działania.
• Głównym problemem jest „niewierność” (unfaithfulness/infidelity) – wyjaśnienia nadmiernie upraszczają wewnętrzne mechanizmy modelu, przez co odbiegają od tego, co model faktycznie robi.
• Istniejące metryki mierzące wierność wyjaśnień mają poważne ograniczenia, które sprawiają, że ich rzetelne obliczenie jest albo niewykonalne, albo wymaga nieproporcjonalnie dużych zasobów obliczeniowych.

Czym jest „wierność” wyjaśnień i dlaczego trudno ją zmierzyć

W centrum pracy stoi pojęcie faithfulness – stopnia, w jakim wyjaśnienie generowane przez metodę XAI jest zgodne z rzeczywistym mechanizmem działania modelu. Jeśli udałoby się rzetelnie skwantyfikować tę wierność, otrzymalibyśmy obiektywną miarę jednego z kluczowych elementów wiarygodności wyjaśnienia – coś, co pozwoliłoby ocenić, czy dane narzędzie XAI naprawdę pokazuje, co „myśli” model, czy tylko tworzy przekonujący, lecz mylący obraz.

Problem w tym, że – jak piszą autorzy – obecne metryki faithfulness obarczone są poważnymi ograniczeniami. W pracy pozycyjnej wymieniono pięć głównych braków tych metryk, które sprawiają, że ich zastosowanie w praktyce jest albo niemożliwe, albo bardzo kosztowne obliczeniowo. Abstrakt nie precyzuje, na czym dokładnie polega każdy z tych pięciu problemów, jednak sama konkluzja jest jasna: dzisiejszy aparat oceny wiarygodności wyjaśnień AI nie jest wystarczająco solidny, by móc mówić o „wierności bez punktów odniesienia” – stąd zresztą tytuł pracy, nawiązujący do braku stabilnych kotwic (anchors), do których można by porównywać jakość wyjaśnienia.

Ten brak solidnych metryk ma bezpośrednie konsekwencje praktyczne. Skoro nie potrafimy rzetelnie zmierzyć, na ile wyjaśnienie modelu odpowiada jego rzeczywistemu działaniu, to każda deklaracja „ten model jest transparentny, bo pokazaliśmy, które cechy były ważne” powinna być traktowana z ostrożnością. Problem ten nie jest wyłącznie akademicki – dotyka bezpośrednio obszarów, w których decyzje AI wymagają uzasadnienia przed ludźmi: medycyny, finansów czy systemów prawnych.

Od debugowania do zaufania – gdzie XAI się sprawdza, a gdzie zawodzi

Jednym z najciekawszych wątków artykułu jest rozróżnienie między dwiema funkcjami, jakie mogą pełnić narzędzia XAI. Pierwotnie miały one służyć budowaniu zaufania – użytkownik widzi, dlaczego model podjął daną decyzję, i dzięki temu może ją zweryfikować lub jej ufać. Autorzy wskazują jednak, że ta funkcja się nie sprawdza: zamiast weryfikacji, obserwuje się nadmierne poleganie na wyjaśnieniach, nawet gdy predykcja modelu jest błędna. To z kolei – jak zauważają – może prowadzić do zjawiska odwrotnego, czyli algorithmic aversion, gdy użytkownicy zaczynają odrzucać AI w ogóle, bo raz zawiedli się na mylącym wyjaśnieniu.

Druga funkcja, która według autorów faktycznie działa, to wykorzystanie XAI jako narzędzia debugowania. W tej roli metody wyjaśnialności dostarczają anegdotycznego, punktowego wglądu – na przykład pozwalają inżynierowi sprawdzić, czy model „patrzy” na sensowne fragmenty danych wejściowych przy konkretnym przykładzie. To wartościowe, ale znacznie skromniejsze zastosowanie niż oryginalna obietnica budowania ogólnego zaufania do systemów AI. Temat rzetelnej interpretacji danych przez systemy AI pojawia się też w kontekście innych prac – podobne wyzwania związane z oceną jakości i interpretowalnością danych opisano w materiale o nowym frameworku AI do interpretacji tabel i oceny jakości danych.

Cztery kierunki na przyszłość

Mimo krytycznego tonu, praca nie kończy się jedynie diagnozą problemu. Autorzy proponują cztery możliwe kierunki badań, które mogłyby wzmocnić wiarygodność metryk faithfulness. Abstrakt nie ujawnia szczegółów tych propozycji, jednak sama ich liczba – cztery konkretne drogi badawcze – sugeruje, że zespół nie poprzestaje na krytyce, lecz stara się wyznaczyć konstruktywną agendę dla społeczności zajmującej się wyjaśnialną sztuczną inteligencją.

Fakt, że praca została zaprezentowana na dedykowanym warsztacie XAI w ramach IJCAI-ECAI 2026 – jednej z czołowych konferencji z zakresu sztucznej inteligencji – wskazuje, że problem wiarygodności metryk wyjaśnialności jest traktowany przez badaczy jako istotny i aktualny temat dyskusji, a nie marginalna uwaga metodologiczna.

Praca Zullicha i współautorów stanowi przypomnienie, że samo istnienie narzędzi XAI nie gwarantuje rzetelnego wglądu w działanie modeli AI – bez solidnych, dobrze zdefiniowanych metryk wierności, deklaracje o „wyjaśnialności” i „transparentności” systemów uczenia maszynowego pozostają trudne do zweryfikowania.