Badanie MIT: chatboty AI osłabiają zdolność wykrywania fake newsów

Badanie przeprowadzone przez Pattie Maes i jej zespół z MIT Media Lab rzuca nowe światło na to, jak korzystanie z chatbotów AI wpływa na naszą samodzielną zdolność odróżniania prawdy od fałszu. Wyniki są niepokojące: choć sztuczna inteligencja początkowo wyraźnie pomaga w wykrywaniu fake newsów, z czasem prowadzi do osłabienia tej umiejętności, gdy pomoc AI zostaje odebrana.

Kluczowe wnioski

• Uczestnicy badania oceniający pary nagłówków i obrazów przez cztery tygodnie byli początkowo o 21% dokładniejsi w rozpoznawaniu fałszywych informacji, gdy korzystali z pomocy chatbota.
• Do czwartego tygodnia stali się o 15% gorsi w identyfikowaniu fake newsów bez wsparcia AI niż byli przed rozpoczęciem badania.
• Mimo to około jedna czwarta uczestników zgłosiła, że subiektywnie czuje się lepiej w tej umiejętności – wbrew rzeczywistym wynikom.
• Zjawisko to badacze nazywają „paradoksem zależności od AI”, obserwowanym już wcześniej w innych obszarach, w tym w medycynie.
• Styl komunikacji chatbota ma znaczenie: modele udzielające bezpośrednich odpowiedzi zwiększają zależność, podczas gdy te stosujące pytania sokratejskie uczą samodzielnego rozumowania.

Jak zaprojektowano badanie

Uczestnicy przez cztery tygodnie oceniali pary nagłówków wiadomości i towarzyszących im obrazów, próbując rozpoznać, które z nich są prawdziwe, a które fałszywe. Część z nich korzystała przy tym z pomocy chatbota AI. Na starcie efekt był jednoznacznie pozytywny – wsparcie sztucznej inteligencji zwiększało dokładność ocen o 21% w porównaniu z sytuacją, gdy uczestnicy działali samodzielnie.

Problem pojawił się później. Gdy po czterech tygodniach badacze sprawdzili, jak radzą sobie uczestnicy pozbawieni pomocy AI, okazało się, że ich zdolność do samodzielnego wykrywania dezinformacji spadła o 15% względem poziomu wyjściowego z początku badania. Innymi słowy, regularne korzystanie z chatbota nie tylko nie wzmocniło umiejętności krytycznej oceny informacji, ale ją osłabiło.

Co szczególnie istotne, subiektywne poczucie kompetencji nie odpowiadało rzeczywistym wynikom – około jedna czwarta badanych była przekonana, że stała się lepsza w rozpoznawaniu fałszywych treści, mimo że dane wskazywały na coś przeciwnego.

Paradoks zależności od AI

Anku Rani, doktorantka w Media Arts and Sciences i jedna z głównych autorek badania, wskazuje na źródło problemu: „Użytkownicy dają się ponieść entuzjazmowi wobec tych 'magicznych' modeli językowych, zapominając, że są to po prostu modele statystyczne przewidujące kolejny 'token' w sekwencji”. To pozorne poczucie pewności, jakie dają odpowiedzi generowane przez AI, może usypiać czujność krytyczną i zniechęcać do samodzielnego wysiłku poznawczego.

Zjawisko opisane w badaniu MIT nie jest odosobnione – autorzy podkreślają, że podobny „paradoks zależności od AI” obserwowano już wcześniej w innych dziedzinach, w tym w medycynie. Mechanizm wydaje się uniwersalny: gdy narzędzie AI dostarcza szybkich, gotowych odpowiedzi, użytkownik przestaje ćwiczyć własne procesy oceny i wnioskowania, co w efekcie prowadzi do erozji kompetencji, które wcześniej posiadał lub które mógłby rozwinąć.

Warto w tym kontekście zwrócić uwagę na powiązane obserwacje z innych badań dotyczących wpływu AI na jakość ludzkiej pracy intelektualnej – AI może skłonić naukowców do pracy szybszej, nie lepszej, co sugeruje, że przyspieszenie dzięki sztucznej inteligencji nie zawsze idzie w parze z rzeczywistym wzrostem jakości czy głębi rozumowania.

Styl AI ma znaczenie: „mówić” czy „pytać”

Kluczowym odkryciem badania jest to, że nie każda forma wsparcia AI działa tak samo destrukcyjnie na samodzielne myślenie. Badacze zauważyli, że pewne style komunikacji chatbota wiązały się z silniejszą samodzielną skutecznością uczestników w przyszłości – nawet jeśli na starcie spowalniały proces oceny.

Valdemar Danry, drugi z głównych autorów badania i doktorant w tej samej jednostce, wyjaśnia różnicę: „Modele AI, które 'mówią', udzielając bezpośrednich odpowiedzi, częściej sprzyjają zależności, podczas gdy te, które 'pytają' poprzez sokratejskie zadawanie pytań, lepiej angażują użytkownika w faktyczne nauczenie się samodzielnego rozpoznawania prawdy”. Zaznacza jednak, że jest to wyraźny kompromis między szybkością a wysiłkiem intelektualnym – chatbot zadający pytania wymaga więcej czasu i zaangażowania od użytkownika, ale w dłuższej perspektywie buduje trwałe umiejętności krytycznego myślenia, których nie da bezpośrednia odpowiedź.

Ten wniosek ma istotne implikacje dla projektowania systemów AI wspierających użytkowników w ocenie informacji – wskazuje, że sama obecność pomocy AI nie jest problemem, ale sposób, w jaki ta pomoc jest udzielana, decyduje o tym, czy prowadzi do rozwoju kompetencji czy do ich zaniku.

Co to oznacza dla Polski

W polskim kontekście, gdzie walka z dezinformacją i fake newsami jest coraz istotniejszym elementem debaty publicznej, wnioski z badania MIT mają praktyczne znaczenie. Coraz częściej korzystamy z asystentów AI wbudowanych w wyszukiwarki, media społecznościowe czy aplikacje newsowe, aby szybciej ocenić wiarygodność informacji. Badanie sugeruje, że warto zwracać uwagę na to, jak projektowane są takie narzędzia – te, które prowokują do samodzielnego zastanowienia się (np. zadając pytania zamiast podawać gotową ocenę), mogą być bardziej wartościowe edukacyjnie niż te oferujące jednoznaczne werdykty „prawda” lub „fałsz”. Temat ten może być istotny również z perspektywy unijnych regulacji dotyczących AI Act, które kładą nacisk na przejrzystość i wpływ systemów AI na autonomię decyzyjną użytkowników.

Badanie zespołu MIT Media Lab stanowi ważne przypomnienie, że korzystanie z chatbotów AI w celu weryfikacji informacji może przynosić krótkotrwałą korzyść, jednocześnie osłabiając długoterminową samodzielną zdolność krytycznego myślenia – a sposób, w jaki AI komunikuje się z użytkownikiem, może być kluczowy dla tego, czy narzędzie ostatecznie wzmacnia, czy podkopuje ludzkie kompetencje.