Przejdź do treści
7 min czytania

Grok Build ujawnia poufne dane użytkowników, w tym samego SpaceXSI

Agent programistyczny Grok Build od SpaceXSI udostępniał dane z tysięcy aplikacji, w tym badania lekarskie i dokumenty firm. Winny jest sposób budowy linków.

Grok Build ujawnia poufne dane użytkowników, w tym samego SpaceXSI

Źródło zdjęcia: Ars Technica

Grok Build, agent do tzw. vibe codingu rozwijany przez SpaceXSI, ujawnia dane tysięcy swoich użytkowników. Wśród nich są poufne informacje biznesowe i inne wrażliwe materiały. Jak opisuje Ars Technica, powołując się na badania firmy Claroc, w gronie poszkodowanych znalazła się także sama spółka należąca do Elona Muska, która oferuje tę platformę.

Źródłem problemu są linki, za pomocą których użytkownicy Grok Build udostępniają innym stworzone aplikacje. Adresy są losowane, więc w założeniu do danych powinien dotrzeć tylko ten, kto zna dokładny URL. Jedna decyzja projektowa twórców platformy przekreśla jednak to zabezpieczenie: każdy może wyliczyć tysiące działających projektów. Poza rzadkimi wyjątkami kliknięcie takiego linku otwiera aplikację i pokazuje wszystkie powiązane z nią dane.

Najważniejsze informacje

  • Firma Claroc znalazła w aplikacjach Grok Build m.in. wewnętrzne plany biznesowe, propozycje reklamowe, wyniki badań lekarskich oraz nazwiska i numery identyfikacyjne pracowników.
  • Ujawnione dane pochodziły też z 24 aplikacji zbudowanych przez samo SpaceXSI, czyli połączone SpaceX i xAI.
  • Pasywne wyszukiwanie DNS zwróciło 43 601 linków w domenie grok.me. Ponad 35 tys. z nich, czyli blisko 95 proc., było publicznie dostępnych.
  • Błąd polega na umieszczeniu losowego fragmentu adresu po lewej stronie domeny, a nie w ścieżce URL. Dzięki temu linki da się wykryć przez pasywny DNS.
  • Podobne ryzyko dotyczy innych kreatorów aplikacji, takich jak Lovable, Bolt i Replit. Według Claroc to jednak w Grok Build znaleziono zdecydowanie najwięcej wrażliwych danych firmowych.

Wyciek z wnętrza SpaceXSI

Badacze Claroc przyznają, że najbardziej zaskoczyło ich odkrycie materiałów należących do samego producenta Groka. Wśród 24 aplikacji SpaceXSI znalazły się m.in.:

  • oznaczony jako poufny plan wdrożenia nowego członka zespołu sprzedaży korporacyjnej,
  • mapa terytoriów sprzedażowych obejmująca 594 klientów,
  • wewnętrzne adresy systemów używanych przez zespół sprzedaży,
  • propozycje reklamowe.

„Byliśmy w szoku. Firma, która tworzy Groka, miała własne wewnętrzne materiały otwarte dla każdego, kto miał link, a nam nikt go nigdy nie przekazał. Gdyby zespół sprzedaży kupił do tego narzędzie, stałoby ono za firmowym logowaniem, dostępne tylko dla zespołu. Zbudowane z pomocą AI, trafiło do sieci otwarte dla każdego z linkiem” – napisała Claroc we wtorkowym wpisie.

Claroc powiadomiła SpaceXSI o wycieku w niedzielę. Nikt nie odpowiedział, więc przedstawiciel firmy oznaczył na platformie X Elona Muska i Matta Palmera, menedżera odpowiedzialnego za Groka. W poniedziałek wieczorem wszystkie 24 aplikacje SpaceXSI wciąż udostępniały dane. Firma zaczęła usuwać linki kilka godzin po tym, jak Ars Technica wysłała jej pytania do artykułu. W chwili publikacji tekstu linki do wszystkich 24 aplikacji zwracały błąd „app not found”. Niemal wszystkie pozostałe dane były natomiast nadal dostępne.

Kogo dotyczy ekspozycja

Claroc znalazła wrażliwe dane także innych użytkowników Grok Build, w tym pracowników firm z listy Fortune 500 i kontrahenta z branży obronnej. Wśród przykładów znalazły się:

  • peruwiańska firma budowlana: panel medycyny pracy z wynikami 3784 badań lekarskich pracowników,
  • Tesla: karta wyników centrum serwisowego z nazwiskami 22 techników, ich produktywnością i statusem premii,
  • amerykański kontrahent zajmujący się inżynierią okrętów dla US Navy: lista 108 osób pracujących przy kontrakcie na wsparcie logistyczne marynarki,
  • czołowy operator luksusowych rejsów: lista kontrolna kuchni okrętowej z pełnymi nazwiskami i identyfikatorami członków załogi,
  • firma z sektora ochrony zdrowia: aplikacja dla personelu szpitala z listą około 3565 pracowników z nazwiskami i identyfikatorami,
  • amerykańska firma usług IT: poufna oferta dla dużego klienta detalicznego wraz z wykazem sprzętu,
  • norwesko-fińska grupa lotniczo-obronna: plan załadunku i procedura ładowania dla budynku z materiałami wybuchowymi w zakładzie w USA oraz macierz szkoleń BHP (HSE),
  • amerykańska firma budująca domy: lista około 583 potencjalnych nabywców z budżetami i notatkami o finansowaniu,
  • malezyjski holding: monitoring 37 inwestycji z danymi o zyskach i sprzedaży,
  • firma transportu samochodów: około 4000 zleceń przewozu pojazdów z cenami i marżami,
  • amerykański dostawca kolokacji i hostingu: poufna oferta tranzytu IP dla europejskiego operatora.

Asaf Aprozper, współzałożyciel i CTO Claroc, powiedział, że jego firma właśnie powiadamia poszkodowane organizacje. Po rozmowie z CISO operatora luksusowych rejsów firma ta, jak relacjonuje Aprozper, „ściągnęła cały zespół bezpieczeństwa, gdy tylko przekazaliśmy ustalenia, i już pracuje nad ograniczeniem ekspozycji w Groku”.

Gdzie tkwi błąd: losowość po złej stronie domeny

Udostępnianie linków ma przyspieszać tworzenie i wdrażanie aplikacji. Użytkownik wydaje polecenie głosem lub tekstem, a po kilku minutach ma działającą aplikację gotową do wewnętrznych testów. Link pozwala szybko pokazać ją uprawnionym osobom. Początek adresu tworzą dwa lub więcej tzw. dice words, czyli losowo generowane słowa w rodzaju „failing chassis traders”. Użytkownik może je zmienić. Końcówką adresu jest grok.me. Plan kampanii reklamowej X znajdował się na przykład pod adresem https://cinder-crane-sand-frost.grok.me.

Taki schemat ma utrudniać zgadywanie linków. Poprawnie wdrożona fraza z trzech losowych słów daje około 38 bitów entropii, co oznacza miliardy możliwych kombinacji. Mechanizm ten bywa nazywany kontrolą dostępu opartą na uprawnieniach (capability-based access control): samo posiadanie adresu jest autoryzacją do zasobów, które się za nim kryją. Google od dawna stosuje to podejście w swoich dokumentach, a ich adresy mają postać w rodzaju docs.google.com/document/d/[długi losowy ciąg]/edit.

Krytyczny błąd SpaceXSI polega na tym, że w linkach Grok Build losowy fragment stoi przed domeną, a nie za nią, jak w Google. To pozwala łatwo wyliczyć linki za pomocą usług pasywnego DNS. Usługi te monitorują centralne serwery DNS. Gdy pojawia się zapytanie o adres IP nigdy wcześniej niewidzianej nazwy, transakcja trafia do publicznie przeszukiwalnej bazy. Gdyby Grok poszedł drogą Google, linki byłyby niewidoczne dla takich wyszukiwań.

Ars Technica przypomina, że Muse, agent Meta, o którym Mark Zuckerberg mówił, że od podstaw zbudowano go z myślą o bezpieczeństwie, niedawno zawiesił funkcję udostępniania linków po tym, jak również wykryto w nim wyciek wrażliwych danych.

Spór o ustawienia domyślne

Według Aprozpera testy prowadzone przez ostatni tydzień pokazały, że Grok domyślnie ustawia dostęp na „Anyone with the link”, czyli dla każdego, kto ma link. Użytkownik może zmienić to na „invited users” (zaproszeni użytkownicy) lub „only you” (tylko ty).

Inną wersję przedstawił przedstawiciel Cursora, serwisu do programowania z AI, który SpaceXSI niedawno przejęło. W e-mailu napisał, że aplikacje Grok Build „są domyślnie prywatne i nic nie staje się publiczne, chyba że twórca zdecyduje się to udostępnić”. Dodał, że konkurencyjne agenty programistyczne od ChatGPT, Lovable i Bolt również pozwalają generować linki do udostępniania.

Testy Aprozpera przeczą pierwszej części tej wypowiedzi. Za każdym razem Grok Build wymagał od użytkownika ręcznej zmiany ustawienia z dostępu dla każdego z linkiem na jedną z dwóch pozostałych opcji.

Uwaga o konkurencji jest natomiast trafna. Aprozper potwierdza, że Lovable, Bolt i Replit „również nadają każdej aplikacji własny adres internetowy, więc te same rekordy DNS ujawniają także je. To jednak w Groku znaleźliśmy zdecydowanie najwięcej wrażliwych danych firmowych”. Użytkownicy tych platform również mogą więc ujawnić poufne informacje przez udostępniane linki. Prawidłową praktykę stosują z kolei opublikowane artefakty Claude (claude.ai/public/artifacts/), udostępniane rozmowy ChatGPT (chatgpt.com/share/) i Gemini (gemini.google.com/share/). We wszystkich trzech przypadkach tajny, losowy fragment znajduje się w ścieżce adresu, więc DNS go nie widzi. To kolejny w ostatnim czasie przykład, że wygoda narzędzi AI może iść w parze z poważnymi lukami. Wcześniej opisywaliśmy m.in. lukę w ChatGPT pozwalającą przejmować konta użytkowników.

Przedstawiciel Cursora nie odpowiedział na dalsze pytania Ars Technica. Dotyczyły one tego, czy SpaceXSI celowo upubliczniło własne wewnętrzne informacje, dlaczego usunęło dane dopiero po pytaniach redakcji i czy zamierza powiadomić klientów, którzy w podobny sposób ujawnili swoje dane.

Co to oznacza dla Polski

Problem nie ma granic, bo dotyczy samej konstrukcji adresów, a nie lokalizacji użytkownika. Polskie firmy i zespoły, które budują wewnętrzne narzędzia w Grok Build, Lovable, Bolt czy Replit, są narażone na ten sam rodzaj ekspozycji. W praktyce warto:

  • sprawdzić ustawienia udostępniania wszystkich istniejących aplikacji i zmienić „Anyone with the link” na „invited users” lub „only you”, chyba że aplikacja ma być celowo publiczna,
  • nie przechowywać w prototypach budowanych z pomocą AI danych osobowych, medycznych ani handlowych bez dodatkowej warstwy logowania,
  • pamiętać, że w UE nazwiska i identyfikatory pracowników, takie jak w opisanych przypadkach, to dane osobowe chronione przez RODO, a ich ujawnienie jest incydentem ochrony danych.

Podsumowanie

Przypadek Grok Build pokazuje, że jedna decyzja projektowa, czyli umieszczenie losowego fragmentu w subdomenie zamiast w ścieżce adresu, wystarczyła, by tysiące rzekomo prywatnych aplikacji stały się publicznie dostępne. Do czasu zmian w platformie każdy, kto udostępnia aplikacje z Grok Build, powinien ograniczyć dostęp do zaproszonych osób.

Udostępnij

Źródła

Powrót do nawigacji