Przejdź do treści
4 min czytania

Luka w ChatGPT pozwalała przejmować konta użytkowników

Badacze opisali, jak kombinacja biblioteki MathLive, YouTube i CSP pozwoliła przejąć konta ChatGPT przez zwykły link.

Parameter Labs opisali szczegóły poważnej luki bezpieczeństwa w ChatGPT, która pozwalała na przejęcie konta innego użytkownika za pomocą zwykłego linku do udostępnionej rozmowy. Informację nagłośnił Simon Willison na swoim blogu, komentując zarówno samą technikę ataku, jak i wysokość wypłaconej nagrody za jej zgłoszenie.

Luka dotyczyła mechanizmu, który OpenAI nazywało wcześniej „Canvas”, a w najnowszej wersji funkcjonuje jako „HTML previews” – interaktywne, niestandardowe aplikacje HTML wyświetlane w ChatGPT w odizolowanym (sandboxowanym) iframe. Taka izolacja ma kluczowe znaczenie bezpieczeństwa: kod HTML uruchamiany w tych podglądach nie powinien mieć możliwości komunikacji z API OpenAI ani dostępu do prywatnych danych użytkownika. Badacze z Parameter Labs pokazali jednak, że ten mur ochronny dało się obejść.

Kluczowe wnioski

  • Atak wykorzystywał bibliotekę MathLive, używaną przez OpenAI do obsługi wykresów matematycznych – jej wirtualną klawiaturę można było uruchomić w rodzicielskiej stronie poprzez postMessage() wysłane z sandboxowanego iframe.
  • Kod odbierający te komunikaty korzystał z innerHTML, więc każdy, kto wysłał odpowiednią wiadomość, mógł wstrzyknąć dowolny HTML do strony nadrzędnej – a nie istniał mechanizm blokujący taką możliwość dla innych sandboxowanych ramek, w tym podglądów HTML.
  • Choć innerHTML nie wykonuje bezpośrednio znaczników <script>, dało się w ten sposób wstrzyknąć nowy iframe pozbawiony już ograniczeń sandboxa.
  • Reguły CSP OpenAI blokowały skrypty inline i dopuszczały ładowanie kodu tylko z kilku domen – jedną z nich był jednak YouTube, a jego endpoint oEmbed dało się wykorzystać do „odbicia” i uruchomienia własnego JavaScriptu.
  • Po uzyskaniu wykonania kodu JavaScript w ChatGPT atakujący mógł bez trudu pobrać prywatne dane użytkownika z API i wyprowadzić je na zewnątrz poprzez odwołanie do obrazka.

Jak krok po kroku zbudowano łańcuch ataku

Cały atak opierał się na połączeniu kilku pozornie niegroźnych elementów funkcjonalności ChatGPT. Punktem wyjścia była biblioteka MathLive, wykorzystywana przez OpenAI przy obsłudze wykresów – posiada ona własną wirtualną klawiaturę, którą można wywołać w stronie nadrzędnej za pomocą komunikatu postMessage() wysłanego z poziomu sandboxowanego iframe.

Problem polegał na tym, że kod obsługujący te wiadomości wykorzystywał innerHTML do wstawiania treści. W praktyce oznaczało to, że dowolny nadawca komunikatu mógł wstrzyknąć własny HTML do strony nadrzędnej ChatGPT. Co istotne, OpenAI nie ograniczyło tej możliwości wyłącznie do zaufanych źródeł – mogły z niej korzystać również inne sandboxowane ramki, w tym te wyświetlające podglądy HTML tworzone przez niezaufany, zewnętrzny kod.

Samo wstrzyknięcie HTML przez innerHTML nie pozwala na bezpośrednie uruchomienie znacznika <script>, ale wystarczyło, by stworzyć nowy iframe – tym razem już bez atrybutu sandbox, a więc bez żadnych ograniczeń bezpieczeństwa. To był kluczowy moment przełamania izolacji.

Od wstrzyknięcia HTML do pełnego wykonania kodu

Ostatnia przeszkoda stanowiła polityka bezpieczeństwa treści (CSP) OpenAI, która blokowała skrypty inline i dopuszczała ładowanie kodu wyłącznie z ograniczonej listy zaufanych domen. Jedną z dozwolonych domen był jednak YouTube – a dokładniej jego endpoint oEmbed, który dało się wykorzystać do odbicia i wykonania własnego kodu JavaScript w kontekście strony ChatGPT.

Gdy atakującym udało się uzyskać wykonanie JavaScriptu bezpośrednio w ChatGPT, dalsza część ataku stała się trywialna – jak podkreśla źródło. Mogli już swobodnie odpytywać wewnętrzne API, pobierać prywatne dane zalogowanego użytkownika i wyprowadzać je na zewnątrz, odwołując się do zewnętrznego obrazka, który rejestrował przesyłane w adresie URL informacje.

Finalny efekt całego łańcucha był prosty do opisania, ale groźny w skutkach: wystarczyło stworzyć odpowiednio spreparowany link do udostępnionej rozmowy w ChatGPT. Gdy inny zalogowany użytkownik otworzył taki link, atakujący mógł wykraść jego prywatne dane albo wykonać w jego imieniu dowolne działania w serwisie.

Reakcja OpenAI i ocena wysokości nagrody

OpenAI zamknęło lukę i wypłaciło badaczom z Parameter Labs nagrodę w ramach programu bug bounty w wysokości 5 000 dolarów. Simon Willison, komentując tę kwotę, ocenił ją jako zbyt niską jak na podatność o tak poważnym potencjale – umożliwiającą przecież przejęcie konta i wykradanie prywatnych danych przy minimalnej interakcji ofiary, czyli jedynie kliknięciu w link.

Historia ta pokazuje, jak złożone i trudne do przewidzenia mogą być konsekwencje łączenia ze sobą pozornie niepowiązanych elementów dużych, rozbudowanych aplikacji webowych – biblioteki matematycznej, mechanizmu komunikacji między ramkami, polityki CSP i usługi zewnętrznej, jaką jest YouTube. Każdy z tych elementów z osobna wydawał się bezpieczny, lecz ich kombinacja otworzyła drogę do pełnego przejęcia sesji użytkownika.

Co to oznacza dla Polski

Dla firm i instytucji w Polsce korzystających z ChatGPT – zarówno w wersji konsumenckiej, jak i w ramach wdrożeń biznesowych – opisany przypadek jest przypomnieniem, że narzędzia AI oparte na interaktywnych, generowanych treściach (jak podglądy HTML czy artefakty) niosą ryzyko klasycznych podatności webowych, takich jak XSS, nawet przy zastosowaniu sandboxingu i polityk CSP. W kontekście unijnego AI Act oraz RODO, które nakładają na organizacje obowiązek odpowiedniego zabezpieczenia przetwarzanych danych osobowych, tego typu luki w popularnych narzędziach AI powinny skłaniać działy IT i bezpieczeństwa do ostrożności przy udostępnianiu linków do rozmów czy wyników generowanych przez AI, a także do monitorowania komunikatów producentów o wykrytych i załatanych podatnościach.

Podsumowując, ujawniony przez Parameter Labs łańcuch podatności w ChatGPT pokazuje, że nawet starannie zaprojektowana izolacja sandboxowa może zostać przełamana przez sprytne połączenie kilku drobnych niedopatrzeń – a cena błędu w świecie AI bywa znacznie wyższa niż wypłacona za niego nagroda.

Udostępnij
Powrót do nawigacji