Naukowcy wymyślili fałszywą chorobę. AI przekonała ludzi, że jest prawdziwa
Naukowcy wymyślili fałszywą chorobę. AI przekonała ludzi, że jest prawdziwa
Eksperyment przeprowadzony przez zespół badaczy z Uniwersytetu Stanforda ujawnił niepokojące słabości w systemach sztucznej inteligencji stosowanych w medycynie. Uczeni stworzyli całkowicie fikcyjną jednostkę chorobową, a następnie sprawdzili, jak współczesne modele AI reagują na pytania dotyczące tego nieistniejącego schorzenia. Wyniki okazały się zaskakujące — zaawansowane systemy AI nie tylko nie rozpoznały, że choroba jest wymyślona, ale zaczęły generować szczegółowe informacje na jej temat, wprowadzając w błąd użytkowników poszukujących medycznych porad.
Metodologia eksperymentu i jego przebieg
Badacze opublikowali szczegóły swojego eksperymentu w prestiżowym czasopiśmie Nature, opisując jak stworzyli fikcyjną jednostkę chorobową o nazwie "Zespół Przejściowej Dysfunkcji Neuralnej" (Transient Neural Dysfunction Syndrome - TNDS). Choroba została opisana z pozornie naukowymi symptomami, włączając okresowe zaburzenia pamięci krótkotrwałej, trudności w koncentracji oraz lekkie drżenia kończyn.
Następnie zespół przetestował reakcję różnych popularnych modeli AI, w tym GPT-4, Claude oraz Bard, zadając pytania o tę fikcyjną chorobę. Wszystkie systemy zareagowały tak, jakby TNDS była prawdziwą jednostką chorobową, generując szczegółowe opisy symptomów, potencjalnych przyczyn, a nawet sugerując możliwe metody leczenia.
"Byliśmy zszokowani tym, jak przekonująco brzmiały odpowiedzi AI" — komentuje dr Sarah Chen, główna autorka badania. "Systemy nie tylko nie wykryły, że choroba jest fikcyjna, ale zaczęły 'halucynować' dodatkowe informacje medyczne, które mogłyby wprowadzić w błąd rzeczywistych pacjentów".
Mechanizmy powstawania medycznych halucynacji
Zjawisko to ilustruje fundamentalny problem współczesnych modeli językowych — ich tendencję do generowania prawdopodobnie brzmiących, ale faktycznie nieprawdziwych informacji, określaną mianem "halucynacji AI". W kontekście medycznym problem ten nabiera szczególnej wagi, ponieważ błędne informacje mogą mieć bezpośredni wpływ na zdrowie i życie ludzi.
Kluczowe odkrycia eksperymentu obejmowały:
- Wszystkie testowane modele AI generowały spójne, ale fałszywe informacje o fikcyjnej chorobie
- Systemy tworzyły szczegółowe opisy symptomów, które nie zostały podane w początkowym opisie
- AI sugerowała konkretne badania diagnostyczne i metody leczenia
- Im więcej pytań zadawano o chorobę, tym bardziej szczegółowe stawały się odpowiedzi
