PathoSage — przełomowy system AI eliminuje halucynacje w diagnostyce patologicznej
PathoSage rozwiązuje kluczowy problem halucynacji w modelach AI poprzez oddzielenie procesu zbierania i oceny dowodów medycznych.

Źródło zdjęcia: arXiv.org
Zespół badaczy opracował PathoSage — zaawansowany system AI do analizy patologicznej, który rozwiązuje kluczowy problem halucynacji w modelach multimodalnych poprzez oddzielenie procesu zbierania i oceny dowodów medycznych. Badanie zostało opublikowane na arXiv 18 maja 2026 roku.
Tradycyjne multimodalne modele językowe w patologii często „halucynują” cechy morfologiczne, co może prowadzić do błędnych diagnoz. PathoSage wprowadza innowacyjne podejście trzystopniowe, które systematycznie separuje pobieranie wiedzy, zbieranie dowodów i ich ostateczną ocenę.
Kluczowe wnioski
- PathoSage wykorzystuje trzystopniową architekturę: oddzielne pobieranie wiedzy, zbieranie dowodów i ich niezależną ocenę w świeżym kontekście
- System wprowadza Strukturalną Deliberację Dowodów, która analizuje sprzeczne informacje i redukuje błąd zakotwiczenia poznawczego
- Innowacyjny system Beta-Bernoulli bez trenowania modeluje długoterminową niezawodność narzędzi poprzez ciągłe przypisywanie punktów
- Testy wykazały skuteczne ograniczenie halucynacji VQA i rozwiązywanie konfliktów między klasyfikatorami
- Badanie podkreśla znaczenie jawnej adjudykacji dowodów i modelowania niezawodności narzędzi dla solidnych agentów patologicznych
Przełomowa architektura trzystopniowa
Serce systemu PathoSage stanowi podział procesu analizy na trzy wyraźnie oddzielone etapy. W przeciwieństwie do tradycyjnych systemów agentowych, które łączą wyniki narzędzi i pobieraną wiedzę we wspólnym kontekście, PathoSage traktuje każdy etap jako niezależny proces. To podejście ma kluczowe znaczenie dla eliminacji kontaminacji kontekstu i zmniejszenia podatności na sprzeczne dowody.
Centralnym elementem jest moduł Strukturalnej Deliberacji Dowodów, który niezależnie ocenia heterogeniczne dowody pochodzące z różnych narzędzi. System przeprowadza analizę konfliktów między źródłami informacji, a następnie generuje ostateczną ocenę w całkowicie świeżym kontekście, minimalizując wpływ błędu zakotwiczenia poznawczego.
System doświadczenia Beta-Bernoulli
Autorzy wprowadzili rewolucyjny system modelowania niezawodności narzędzi, który nie wymaga dodatkowego trenowania. System Beta-Bernoulli z ciągłym przypisywaniem punktów śledzi długoterminową wiarygodność poszczególnych narzędzi diagnostycznych. Na tej podstawie konstruuje priors ważone podobieństwem dla przyszłego użycia narzędzi.
To rozwiązanie pozwala systemowi PathoSage na adaptacyjne uczenie się z doświadczenia, stopniowo poprawiając precyzję diagnoz poprzez inteligentne zarządzanie zaufaniem do różnych źródeł informacji medycznej.
Wyniki badań i przewaga nad konkurencją
Eksperymenty przeprowadzone przez zespół badaczy wykazały, że PathoSage skutecznie przewyższa zarówno silne modele MLLM w patologii, jak i konkurencyjne systemy agentowe. System wykazał szczególną skuteczność w eliminacji halucynacji podczas zadań VQA (Visual Question Answering) oraz w rozwiązywaniu sytuacji, gdy różne klasyfikatory przedstawiają sprzeczne wyniki.
Autorzy podkreślają, że jawna adjudykacja dowodów połączona ze świadomym modelowaniem niezawodności narzędzi stanowią kluczowe składniki budowy solidnych systemów AI w patologii. To podejście otwiera nowe możliwości dla precyzyjnej diagnostyki medycznej wspomaganej sztuczną inteligencją.
Źródła
Podobne publikacje

KPMG wycofuje raport o AI z powodu halucynacji sztucznej inteligencji
KPMG użyło AI do pisania raportu o AI, co doprowadziło do nieprawdziwych informacji o organizacjach takich jak UBS czy NHS. Firma wycofała dokument.

Pro²Assist — proaktywny asystent AI przewyższa konkurencję o 21% w zadaniach wieloetapowych
Naukowcy stworzyli system AI z okularami AR, który proaktywnie pomaga w złożonych zadaniach. 90% użytkowników oceniło go jako przydatny.
Naukowcy wymyślili fałszywą chorobę. AI przekonała ludzi, że jest prawdziwa
Eksperiment Stanforda ujawnił, jak systemy AI generują przekonujące, ale fałszywe informacje medyczne o nieistniejących chorobach.