AI nie zastępuje SRE, ale osłabia ich kompetencje
Badania z medycyny i lotnictwa pokazują, że AI przejmując rutynowe zadania SRE, może powodować deskilling i zjawisko never-skillingu wśród inżynierów.

Źródło zdjęcia: newsletter.signoz.io
Kiedy sztuczna inteligencja przejmuje 95 proc. reagowania na incydenty, co dzieje się z ludźmi, którzy mają zajmować się pozostałymi 5 proc. – tymi najtrudniejszymi przypadkami? Zgodnie z analizą opublikowaną w newsletterze SigNoz, odpowiedź nie jest optymistyczna: AI nie zastępuje inżynierów SRE (Site Reliability Engineering), lecz powoli odziera ich z kompetencji, które kiedyś były ich chlebem powszednim.
Autorka tekstu, Elizabeth z SigNoz, odrzuca dwie popularne w branży tech prognozy – że SRE to przyszłość całego inżynierii oprogramowania oraz że AI pochłonie wszystkie zawody techniczne, łącznie z SRE. Zamiast tego proponuje bardziej przyziemne pytanie: czy AI, przejmując rutynową część pracy, czyni ludzi gorszymi w tych rzadkich, ale krytycznych momentach, gdy to właśnie oni muszą interweniować?
Kluczowe wnioski
- Badanie z medycyny pokazało, że endoskopiści korzystający z AI do wykrywania polipów po pewnym czasie notowali spadek skuteczności samodzielnego wykrywania z 28 proc. do 22 proc.
- W lotnictwie piloci długodystansowych lotów intensywnie korzystający z autopilota tracą świadomość sytuacyjną i zdolności manualnego pilotażu na tyle, że amerykańska FAA wprowadziła obowiązkowy czas ręcznego latania.
- PagerDuty dzieli incydenty na trzy poziomy: znane problemy automatyzowane w pełni, częściowo rozpoznane przypadki z rekomendacjami AI oraz nowe, złożone awarie, które nadal wymagają ludzkiego prowadzenia.
- Badacze opisują zjawisko „never-skillingu” – sytuację, w której młodsi inżynierowie nigdy nie zdążą zbudować fundamentalnych umiejętności, bo AI przejmuje większość pracy, zanim oni zdążą się jej nauczyć.
- Fundamentem całej dyskusji jest praca kognitywistki Lisanne Bainbridge z 1983 roku pt. „Ironies of Automation”, jedna z najczęściej cytowanych publikacji w badaniach nad czynnikiem ludzkim.
Paradoks automatyzacji sprzed czterech dekad
Autorka cofa się do 1983 roku, gdy Lisanne Bainbridge opublikowała pracę badającą, co dzieje się, gdy fabryki i systemy przemysłowe automatyzują pracę operatorów. Wnioski były paradoksalne: im więcej automatyzuje się dany proces, tym ważniejszy staje się operator w rzadkich momentach, gdy automatyzacja zawodzi – a jednocześnie im rzadziej operator ćwiczy swoje umiejętności, tym gorzej radzi sobie właśnie w tych momentach. Automatyzacja, która miała usunąć człowieka z pętli decyzyjnej, w praktyce zostawiła mu najgorszą możliwą pracę: długie okresy biernego monitorowania przerywane rzadkimi, wysoko ryzykownymi kryzysami, na które był coraz mniej przygotowany.
Elizabeth przeprowadza bezpośrednią analogię do rewolucji AI. Automatyzacja przemysłowa przejęła rutynowe zadania fizyczne, a pozostali pracownicy musieli radzić sobie z wyjątkami, do których stracili już „pamięć mięśniową”. AI robi dokładnie to samo z pracownikami wiedzy – przejmuje rutynowe zadania poznawcze: dopasowywanie wzorców, triage, rozwiązywanie znanych problemów – zostawiając ludziom rzadkie, złożone, niejednoznaczne przypadki. Są to jednocześnie te dokładnie problemy, które wymagają głębokiej ekspertyzy – ekspertyzy, która zanika, gdy przestaje się ją ćwiczyć.
Co już automatyzuje AI w pracy SRE i co to oznacza
Autorka przedstawia obraz obecnego stanu automatyzacji w site reliability engineering. Dziś w pełni zautomatyzowane lub silnie wspomagane przez AI są: redukcja szumu alertów i inteligentne grupowanie, wykonywanie runbooków dla znanych problemów, wykrywanie wzorców w logach i flagowanie anomalii, podstawowe sugestie przyczyn źródłowych na podstawie historycznych danych o incydentach oraz auto-remediacja dla dobrze poznanych trybów awarii, jak restart zawieszonego poda czy skalowanie usługi pod dużym obciążeniem.
Na horyzoncie są bardziej ambitne cele: korelacja wielu sygnałów (metryk, logów i śladów), autonomiczna analiza przyczyn źródłowych dla częściowo rozpoznanych awarii, przewidywanie incydentów zanim wpłyną na użytkowników oraz ocena ryzyka zmian i automatyczne wycofywanie (rollback) prowadzone przez AI.
PagerDuty formalizuje to w modelu trzypoziomowym: incydenty poziomu 1 to znane problemy z gotowymi rozwiązaniami, automatyzowane całkowicie. Poziom 2 obejmuje częściowo rozpoznane problemy, gdzie AI daje rekomendacje wymagające ludzkiej walidacji. Poziom 3 to nowe, złożone, kaskadowe awarie – tu decyzje nadal podejmują ludzie, a AI dostarcza jedynie kontekstu wspierającego.
Problem, na który wskazuje autorka, jest fundamentalny: jeśli ludzcy inżynierowie angażują się wyłącznie w incydenty poziomu 3 – nowe, nigdy wcześniej niewidziane awarie – to gdzie mają zbudować intuicję potrzebną do ich rozwiązywania? Intuicja rozwija się zazwyczaj przez lata praktycznego reagowania na incydenty, rozpoznawania wzorców budowanego przez powtarzalność oraz rodzaj „instynktownego” zrozumienia systemu, które powstaje tylko dzięki bolesnym nocnym wezwaniom do awarii.
Kryzys deskillingu i zjawisko never-skillingu
Badania nad deskillingiem powodowanym przez AI w różnych dziedzinach pokazują spójny obraz. Wspomniane badanie z medycyny – spadek skuteczności wykrywania polipów z 28 proc. do 22 proc. po okresie korzystania z AI – pokazuje, że lekarze nie zapomnieli teorii, tylko przestali ćwiczyć praktyczną umiejętność. Podobnie badania lotnicze wykazały mierzalny spadek świadomości sytuacyjnej i zdolności manualnego latania u pilotów intensywnie korzystających z autopilota, co skłoniło FAA do wprowadzenia obowiązkowego czasu ręcznego pilotażu.
Autorka opisuje też osobiste doświadczenie: w ciągu ostatniego roku AI przestało być narzędziem, po które sięgała okazjonalnie, a stało się pierwszym odruchem, zawsze. Jej instynktem jest oddelegowanie jak największej części pracy AI i stosowanie własnego myślenia tylko tam, gdzie jest to absolutnie nieuniknione. Problem w tym, że te momenty stają się jedynym treningiem dla mózgu – i można poczuć, jak „rdzewieje”.
Najniebezpieczniejsze jest to, że spadku kompetencji nie czuje się na bieżąco – jest on maskowany przez wrażenie hiperproduktywności. Badania kognitywne sugerują, że narzędzia AI sprawiają, że zadania wydają się łatwiejsze i poprawiają widoczną wydajność, przez co użytkownicy nie są w stanie trafnie ocenić faktycznego stanu swoich umiejętności. Czujesz się kompetentny, dashboardy świecą na zielono, aż w środę trafia się nowy incydent niepasujący do żadnego wzorca znanego AI – i wtedy okazuje się, że mięsień zdążył zaniknąć.
Dla SRE objawia się to konkretnie: przestają czytać surowe strumienie logów, bo AI je streszcza; przestają formułować hipotezy podczas incydentów, bo AI podpowiada przyczyny źródłowe; przestają budować mentalne modele architektury systemu, bo AI mapuje zależności za nich. Każda z tych zmian z osobna wygląda jak wygrana na polu produktywności. Łącznie wydrążają jednak dokładnie tę ekspertyzę, która sprawia, że SRE jest skuteczny, gdy coś idzie nie tak w sposób, którego nikt nie przewidział.
Jeszcze poważniejszym problemem niż deskilling jest zjawisko, które badacze zaczęli nazywać never-skillingiem. Deskilling oznacza utratę zdolności, którą kiedyś się posiadało. Never-skilling oznacza, że dana zdolność nigdy nie została rozwinięta. Młodsi inżynierowie wchodzący dziś do zawodu, w środowisku gdzie AI obsługuje większość przepływu reagowania na incydenty, mają coraz mniej okazji do zbudowania fundamentalnej intuicji przez praktykę. Sam proces szkolenia jest zepsuty i nie naprawia się samoistnie – SRE zauważają spadek swoich umiejętności i w odpowiedzi jeszcze bardziej polegają na AI, co dalej je osłabia, tworząc błędne koło, z którego trudno uciec.
Co można z tym zrobić
Autorka podkreśla, że SigNoz zdecydowanie nie odrzuca narzędzi AI – przeciwnie, firma integruje je coraz mocniej, bo to jedyna droga naprzód. Proponuje jednak kilka konkretnych rozwiązań.
- Celowa nieefektywność – podobnie jak FAA wymaga ręcznego pilotażu nawet przy w pełni sprawnym autopilocie, zespoły SRE mogą wyznaczać wybrane incydenty – nawet te, które AI mogłoby obsłużyć – jako okazje do praktyki, traktując to jako długoterminową inwestycję w świeżość kompetencji, kosztem szybszego rozwiązania.
- Budowanie modelu „human-in-the-loop”, a nie „human-on-the-side” – istnieje istotna różnica między systemem, w którym człowiek jedynie zatwierdza rekomendację AI, a takim, w którym aktywnie angażuje się w problem wraz z AI. Pierwszy model utrzymuje człowieka w roli nadzorcy, co – jak pokazała Bainbridge – prowadzi do „rozpadu czujności”, drugi zaś zachowuje zaangażowanie poznawcze.
To zjawisko nie ogranicza się do SRE – inżynieria oprogramowania jako całość mierzy się z tym samym napięciem, bo AI pisze coraz więcej kodu, recenzuje coraz więcej pull requestów i obsługuje coraz więcej debugowania. Agenci AI działający bez wystarczającego monitoringu w czasie rzeczywistym to osobny, choć powiązany problem, pokazujący, że rosnąca autonomia AI w infrastrukturze technologicznej wymaga nowych form nadzoru.
SigNoz, jako firma budująca otwartoplatformowe narzędzie do obserwowalności, które dostarcza SRE metryki, ślady i logi, traktuje pytanie o deskilling nie jako retoryczną ciekawostkę, lecz jako czynnik bezpośrednio kształtujący sposób wbudowywania AI w ich produkt. Jak wyjaśnia autorka, podejście firmy polega na uruchomieniu asystenta AI, który pomaga SRE wykorzystywać moc dużych modeli językowych przy jednoczesnym utrzymaniu człowieka w pełnej kontroli. Większa autonomia ma być wprowadzana stopniowo, w ramach jasnych zabezpieczeń i dopiero wtedy, gdy zaufanie zostanie wypracowane. Firma podkreśla przewagę wynikającą z posiadania samych danych obserwowalności – w przeciwieństwie do większości produktów AI dla SRE, które integrują się z narzędziami obserwowalności przez API i pracują na ograniczonym, pośrednim widoku systemów.
Jak podsumowuje autorka, celem SigNoz nie jest AI, które zastępuje SRE, lecz AI, które ich wzmacnia. Wbrew popularnym prognozom ludzie pozostaną niezbędni dla decyzji, które mają największe znaczenie, zwłaszcza tych wpływających na infrastrukturę produkcyjną. Przyszłość SRE to człowiek wraz z AI zaprojektowanym celowo tak, by utrzymać ludzi czujnych, zaangażowanych i gotowych na te 5 proc. przypadków, które naprawdę się liczą.
Artykuł z SigNoz nie neguje wartości AI w pracy zespołów utrzymujących systemy – ostrzega jedynie, że bezrefleksyjne oddawanie jej coraz większej części codziennych zadań może po cichu niszczyć dokładnie te kompetencje, które są potrzebne, gdy automatyzacja w końcu zawiedzie.
Źródła
Podobne publikacje

BEEP.rent udostępnia agentom AI wynajem aut przez serwer MCP
BEEP.rent uruchomił serwer MCP z 18 funkcjami, przez który agenci AI wyszukują i rezerwują auta na wynajem. Twórcy agentów dostają 10% wartości netto najmu.

AI w lotnictwie: samoloty bez pilotów i mniej kontrolerów ruchu
AI w lotnictwie rozwija się błyskawicznie: system SMART w FAA, autonomiczny lot Joby przez USA i drony. Eksperci pytają, czy tej technologii można zaufać.

Paul Christiano z OpenAI ostrzega: wypadek z AI może nas zabić
Paul Christiano, członek zarządu OpenAI Foundation, mówi o ryzyku przejęcia kontroli przez AI. Wyjaśniamy jego argumenty o reward hackingu i ich słabe punkty.