Sztuczna inteligencja uwierzyła w fikcyjną chorobę. Naukowcy alarmują o zagrożeniach dezinformacji medycznej

Zespół badaczy z uniwersytetów w Wielkiej Brytanii przeprowadził eksperyment, który ujawnił niepokojące luki w funkcjonowaniu systemów AI. Naukowcy stworzyli całkowicie fikcyjną chorobę, a następnie obserwowali, jak popularne modele językowe nieświadomie rozpowszechniają fałszywe informacje medyczne, traktując je jako autentyczne dane naukowe.

Eksperyment z fikcyjną chorobą

Badanie, opublikowane w prestiżowym czasopiśmie Nature, pokazuje, w jaki sposób systemy sztucznej inteligencji mogą stać się nieświadomymi propagatorami dezinformacji medycznej. Naukowcy stworzyli szczegółowy opis nieistniejącej choroby, kompletny z objawami, metodami diagnostyki oraz proponowanym leczeniem.

Fikcyjna choroba została opisana z wykorzystaniem terminologii medycznej i struktury typowej dla autentycznych publikacji naukowych. Badacze celowo nadali jej wiarygodny charakter, wykorzystując wzorce znane z rzeczywistej literatury medycznej.

Kluczowe elementy eksperymentu obejmowały:

• Stworzenie fałszywej nazwy choroby brzmiącej naukowo
• Opracowanie listy objawów mimetycznych w stosunku do istniejących schorzeń
• Przygotowanie szczegółowych protokołów diagnostycznych
• Zaproponowanie terapii wykorzystującej rzeczywiste, ale nieodpowiednie w tym kontekście leki

Reakcja systemów AI

Podczas testowania różnych modeli językowych, badacze odkryli, że systemy AI nie tylko akceptowały fałszywe informacje jako prawdziwe, ale także aktywnie je rozpowszechniały. Modele generowały dodatkowe "szczegóły" na temat nieistniejącej choroby, tworząc złudzenie głębokiej wiedzy medycznej.

"To, co zaobserwowaliśmy, było szczególnie niepokojące — AI nie tylko powtarzały fałszywe informacje, ale także je rozwijały, dodając pozornie wiarygodne detale medyczne" — komentują autorzy badania.

Systemy sztucznej inteligencji wykazały tendencję do:

• Generowania dodatkowych objawów choroby
• Proponowania alternatywnych metod diagnostyki
• Tworzenia powiązań z rzeczywistymi schorzeniami
• Sugerowania modyfikacji w nieistniejących protokołach leczenia

Implikacje dla medycyny cyfrowej

Odkrycie to rzuca nowe światło na rosnące wykorzystanie AI w opiece zdrowotnej i dostępie do informacji medycznych. W erze, gdy coraz więcej pacjentów korzysta z chatbotów medycznych i systemów AI do uzyskiwania porad zdrowotnych, podatność tych technologii na rozpowszechnianie dezinformacji stanowi poważne zagrożenie dla bezpieczeństwa publicznego.