Cyberprzestępcy wykorzystują udostępniane rozmowy ChatGPT i Claude do dystrybucji malware

Cyberprzestępcy wykorzystują funkcję udostępniania rozmów w ChatGPT i Claude do rozpowszechniania złośliwego oprogramowania. Jak wynika z najnowszego raportu firmy bezpieczeństwa Push Security, atakujący tworzą fałszywe konwersacje, które wyglądają jak oficjalne instrukcje instalacji lub komunikaty o awariach systemów. Szczegółową analizę tego nowego rodzaju zagrożeń opisuje The Decoder.

Problem polega na tym, że obie platformy AI umożliwiają użytkownikom publiczne udostępnianie konwersacji poprzez specjalne linki URL. Ofiary trafiają na te fałszywe rozmowy przez płatne reklamy w wyszukiwarkach. Ponieważ linki prowadzą do zaufanych domen (chatgpt.com i claude.ai), narzędzia bezpieczeństwa nie wykrywają zagrożenia, a użytkownicy są bardziej skłonni zaufać treściom.

Kluczowe wnioski

• Cyberprzestępcy wykorzystują funkcję udostępniania rozmów w ChatGPT i Claude do tworzenia fałszywych przewodników instalacji zawierających malware.
• Ataki wykorzystują zaufanie użytkowników do oficjalnych domen chatgpt.com i claude.ai, co pozwala ominąć systemy bezpieczeństwa.
• Najnowsza odmiana ataków używa funkcji renderowania kodu w ChatGPT do tworzenia pełnych fałszywych stron błędów wewnątrz udostępnionej rozmowy.
• Firma Push Security nazwała tę technikę ataku „LLMShare” i ostrzega przed rosnącą popularnością tej metody.
• Podobne kampanie zostały już udokumentowane przez BleepingComputer i Kaspersky, co wskazuje na szersze rozpowszechnienie problemu.

Mechanizm ataków LLMShare

Atakujący tworzą udostępnione rozmowy, które naśladują oficjalne komunikaty o awariach systemów lub szczegółowe przewodniki instalacji oprogramowania. Push Security zidentyfikowała kilka wariantów tej techniki. Jedna z nowszych metod wykorzystuje funkcję renderowania kodu w ChatGPT do stworzenia kompletnej fałszywej strony błędu bezpośrednio wewnątrz udostępnionej rozmowy. Następnie użytkownicy są kierowani do pobrania zainfekowanej aplikacji desktopowej.

W przypadku Claude atakujący tworzą fałszywe przewodniki wsparcia technicznego Apple, które zawierają złośliwe polecenia Terminal. Przykładem może być udostępniona rozmowa Claude pokazująca fałszywy przewodnik pobierania dla nieistniejącego „Claude Code”, który w rzeczywistości dostarcza malware na urządzenie ofiary.

Dlaczego te ataki są skuteczne

Kluczowym elementem skuteczności ataków LLMShare jest wykorzystanie zaufania użytkowników do znanych platform AI. Linki prowadzące do chatgpt.com czy claude.ai są postrzegane jako bezpieczne, co sprawia, że systemy bezpieczeństwa rzadko je blokują. Dodatkowo użytkownicy są bardziej skłonni zaufać treściom hostowanym na tych domenach niż na przypadkowych stronach internetowych.

Firma Push Security udokumentowała konkretne wskaźniki zagrożenia, w tym adresy URL udostępnionych rozmów oraz hash SHA256 złośliwego oprogramowania. Pokazuje to skalę i organizację tych ataków, które wykorzystują infrastrukturę zaufanych platform do dystrybucji malware.

Rosnąca popularność tej metody ataku, potwierdzona przez raporty BleepingComputer i Kaspersky, wskazuje na potrzebę zwiększenia świadomości użytkowników oraz możliwych zmian w sposobie działania funkcji udostępniania rozmów w platformach AI.