Wszyscy uczą się bezpieczeństwa AI w czasie rzeczywistym — nawet Google

Francis de Souza, dyrektor operacyjny Google Cloud, w wywiadzie dla TechCrunch podkreślił, że wszystkie firmy — włączając Google — nadal uczą się, jak skutecznie zabezpieczać systemy sztucznej inteligencji. Jego zdaniem bezpieczeństwo AI nie może być dodatkiem wprowadzanym po fakcie, lecz musi być integralną częścią strategii od samego początku.

De Souza ostrzegł przed zjawiskiem „shadow AI” — sytuacją, gdy pracownicy sięgają po konsumenckie narzędzia AI bez nadzoru organizacyjnego. Według niego firmy muszą przyjąć platformowe podejście do AI, gdzie bezpieczeństwo, zarządzanie i audytowalność są wbudowane od początku.

Kluczowe wnioski

• Średni czas między pierwszym naruszeniem a przekazaniem ataku do następnego etapu skrócił się z ośmiu godzin do 22 sekund, co wymaga obrony w tempie maszynowym.
• Agenty AI mogą odkrywać zapomniane repozytoria danych w firmowych systemach, ujawniając wrażliwe informacje z nieaktualizowanych serwerów SharePoint.
• Google automatycznie podwyższa limity rozliczeniowe dla deweloperów bez wyraźnej zgody, co może prowadzić do nieoczekiwanych rachunków sięgających dziesiątek tysięcy dolarów.
• Nawet po usunięciu skompromitowanego klucza API, atakujący mogą go używać przez kolejne 23 minuty ze względu na powolne rozprzestrzenianie się unieważnień w infrastrukturze Google.
• Strategia AI musi iść w parze ze strategią danych i bezpieczeństwa — nie można ich traktować jako oddzielnych zagadnień.

Nowe zagrożenia w erze AI

De Souza zwrócił uwagę na fundamentalną zmianę w krajobrazie zagrożeń. Powierzchnia ataku rozszerzyła się daleko poza tradycyjny perimetr sieciowy. „Oprócz zwykłej infrastruktury mamy teraz modele. Mamy pipeline'y danych używane do trenowania modeli. Mamy agentów, mamy prompty. Wszystko to wymaga ochrony” — wyjaśnił.

Szczególnie niepokojące jest zjawisko, gdy agenty poruszające się po wewnętrznych systemach firmy odkrywają zapomniane repozytoria danych. „Wiele organizacji ma stare serwery SharePoint [i kontrole dostępu], których tak naprawdę nie aktualizowały, ale to nie miało znaczenia, bo nikt nie wiedział, gdzie się znajdują. Ale agenty wędrujące po przedsiębiorstwie znajdą te zasoby danych i ujawnią znajdujące się na nich informacje.”

Problemy z automatycznymi rozliczeniami Google

Seria raportów The Register ujawniła poważne problemy z automatycznym systemem rozliczeniowym Google Cloud. Deweloperzy otrzymywali pięciocyfrowe rachunki po nieautoryzowanych wywołaniach API do modeli Gemini — usług, których nigdy nie używali ani świadomie nie włączyli.

Rod Danan, CEO platformy Prentus, otrzymał rachunek na 10 138 dolarów w ciągu około 30 minut po tym, jak atakujący wykorzystali jego skompromitowany klucz API. Isuru Fonseka, deweloper z Sydney, obudził się z opłatami w wysokości około 17 000 dolarów australijskich, mimo przekonania, że ma limit wydatków wynoszący 250 dolarów.

Problem polegał na tym, że automatyczne systemy Google podnosiły poziomy rozliczeniowe na podstawie historii konta, zwiększając efektywne limity do nawet 100 000 dolarów bez wyraźnej zgody użytkowników. Google zwróciło pieniądze po publikacji raportów, ale poinformowało, że nie planuje zmiany polityki automatycznego podnoszenia poziomów, priorytetowo traktując zapobieganie awariom usług nad egzekwowaniem preferencji budżetowych użytkowników.

Obrona w tempie maszynowym

Rozwiązaniem na nowe zagrożenia ma być obrona napędzana przez AI. „Widzimy teraz powstanie w pełni agentycznej obrony natywnej dla AI, gdzie organizacje mogą uruchamiać agentów kierujących ich obroną” — powiedział de Souza. „Zamiast obrony kierowanej przez ludzi lub nawet z człowiekiem w pętli, możesz teraz mieć ludzi nadzorujących w pełni agentyczną obronę.”

Wyzwaniem pozostaje jednak niedobór wykwalifikowanych specjalistów i szybko mnożące się podatności. Jak zauważyła Lea Kissner, główna dyrektor ds. bezpieczeństwa informacji w LinkedIn, branża będzie potrzebowała ludzi do radzenia sobie z „bug-apokalipsą”, a zrozumienie bezpieczeństwa AI w sposób zrównoważony długoterminowo może potrwać kilka lat.

Wszyscy — nawet giganci technologiczni jak Google — uczą się zabezpieczania AI w czasie rzeczywistym, co czyni ten okres szczególnie wymagającym dla wszystkich organizacji wdrażających sztuczną inteligencję.