Ukryte błędy agentów AI w data science – nowe badanie

Badanie opublikowane 9 października 2026 roku przez zespół naukowców – Xue Li, Hongqian Xia, Daniel Gomm, Aécio Santos, Cornelius Wolff i Madelon Hulsebos – podważa sposób, w jaki dotychczas oceniano tzw. agentów data science, czyli systemy AI mające automatyzować cały proces analizy danych: od sformułowania zadania aż po zbudowanie modelu predykcyjnego. Autorzy pracy „The Silent Failures in Agentic Data Science” dowodzą, że powszechnie stosowane metody ewaluacji skupiają się wyłącznie na końcowej trafności predykcji i poprawności kodu, pomijając fundamentalne zasady metodologiczne samej data science.

Jak zauważają badacze, duże modele językowe znacząco obniżyły barierę wejścia do pisania kodu, co naturalnie doprowadziło do powstania agentów obiecujących pełną automatyzację projektowania i wykonywania zadań analitycznych. Problem w tym, że ocenianie wyłącznie wyniku końcowego maskuje poważne błędy metodologiczne – takie jak wyciek danych (data leakage) czy niewłaściwa walidacja modelu – które w praktyce mogą podważać wiarygodność całego rozwiązania, nawet jeśli samo „działa”.

Kluczowe wnioski

• Autorzy przeanalizowali 220 zadań data science realizowanych przez popularne frameworki i modele agentowe, identyfikując powszechne tryby awarii niewidoczne w standardowych benchmarkach.
• Stworzono rozszerzalny zestaw testów obejmujący starannie dobrane zadania sprawdzające sześć konkretnych rodzajów błędów w kontrolowanych warunkach.
• Przeprowadzono jakościową analizę porównującą pipeline'y agentowe z rozwiązaniami ekspertów na konkursach Kaggle.
• Większość rozwiązań agentowych zawiera co najmniej jeden błąd metodologiczny – niezależnie od złożoności „uprzęży” agentowej czy mocy obliczeniowej modelu.
• Wykryto dodatnią korelację między występowaniem wycieku danych a wysoką trafnością predykcji, co potwierdza konieczność oceny agentów wykraczającej poza samą dokładność.

Trzy perspektywy oceny zamiast jednej metryki

Dotychczasowe benchmarki agentowej data science koncentrowały się niemal wyłącznie na tym, czy finalny model przewiduje dobrze i czy kod się uruchamia bez błędów. Zespół Li i współautorów argumentuje, że to podejście daje jedynie „wstępny wgląd” w możliwości agentów, nie mówiąc nic o tym, czy droga do wyniku była metodologicznie poprawna.

Aby wypełnić tę lukę, badacze zaprojektowali trzy uzupełniające się metody oceny. Pierwsza to szeroko zakrojona analiza trybów awarii na próbie 220 zadań realizowanych przez różne frameworki i modele agentowe – pozwalająca uchwycić skalę problemu w realistycznych warunkach. Druga to autorski, modułowy zestaw testów, zaprojektowany tak, by w sposób kontrolowany wymuszać i wykrywać sześć konkretnych, zdefiniowanych rodzajów błędów. Trzecia metoda ma charakter jakościowy – polega na bezpośrednim zestawieniu pipeline'ów wygenerowanych przez agentów z rozwiązaniami ludzkich ekspertów, autorów zwycięskich zgłoszeń w konkursach Kaggle.

Taka triangulacja metod miała na celu ujawnienie problemów, które pozostają niewidoczne, gdy patrzy się wyłącznie na końcowy wynik liczbowy – stąd tytułowe „ciche awarie” (silent failures).

Wyciek danych, słaba walidacja i brak kreatywności

Wyniki są jednoznaczne i niepokojące dla twórców systemów agentowych. Większość testowanych rozwiązań zawierała przynajmniej jeden poważny błąd metodologiczny – przy czym nie miało znaczenia, jak złożony był framework agentowy ani jak potężny był użyty model językowy. Innymi słowy, same rozbudowane architektury agentowe czy większe modele nie gwarantują metodologicznej rzetelności procesu analitycznego.

Szczególnie istotne jest odkrycie dodatniej korelacji między występowaniem wycieku danych a wysoką predykcyjną skutecznością modelu. Oznacza to, że agenci, którzy w jakiś sposób „zajrzeli” do informacji ze zbioru testowego podczas treningu – co jest klasycznym i poważnym błędem metodologicznym w data science – osiągali na pierwszy rzut oka lepsze wyniki. To właśnie takie przypadki pokazują, dlaczego ocena oparta wyłącznie na trafności jest myląca: system może wyglądać na skuteczny, podczas gdy w rzeczywistości jego wynik jest artefaktem błędu, a nie realnej jakości modelu.

Jakościowa analiza porównawcza z rozwiązaniami z konkursów Kaggle dorzuca kolejny ważny wniosek. Agenci data science generalnie wykazują brak kreatywności w rozwiązywaniu problemów oraz niedostatek wiedzy dziedzinowej w porównaniu z ludźmi, którzy wygrywają prestiżowe konkursy analityczne. Sugeruje to, że obecne systemy agentowe potrafią odtwarzać standardowe, „podręcznikowe” podejścia do analizy danych, ale brakuje im głębszego zrozumienia kontekstu problemu i umiejętności nietypowego, eksperckiego myślenia, które decyduje o zwycięstwie w konkurencyjnych konkursach.

Te obserwacje wpisują się w szerszy nurt krytycznych analiz systemów agentowych – podobne wątpliwości co do rzeczywistej wartości dodanej złożonych architektur agentowych pojawiały się już w kontekście zespołów agentów AI, które generują wysokie koszty przy znikomej poprawie jakości. Niezależnie od dziedziny zastosowania, badania wskazują, że sama rozbudowa architektury agentowej nie rozwiązuje fundamentalnych problemów jakościowych.

Znaczenie dla rozwoju zaufanych systemów agentowych

Autorzy formułują jasny postulat dla całej społeczności badawczej zajmującej się agentową data science: zasadnicza analiza trybów awarii, taka jak przedstawiona w tej pracy, powinna stać się integralną częścią każdej ewaluacji systemów agentowych – nie dodatkiem, lecz podstawowym elementem procesu oceny. Bez tego podejścia, jak podkreślają, dalszy rozwój agentów analitycznych może utknąć na etapie systemów, które wyglądają na skuteczne w testach, ale generują niewiarygodne lub metodologicznie wadliwe wyniki w praktycznych zastosowaniach.

Praca ma więc znaczenie praktyczne dla wszystkich firm i instytucji planujących wdrożenie agentów AI do zadań analitycznych – od automatycznego przygotowywania raportów po budowę modeli predykcyjnych wspierających decyzje biznesowe. Jeśli agent generuje model, którego wysoka trafność wynika z ukrytego wycieku danych, decyzje biznesowe oparte na takim modelu mogą prowadzić do kosztownych błędów w rzeczywistych, produkcyjnych warunkach – gdzie żadnego „przecieku” ze zbioru testowego oczywiście nie ma.

Zespół udostępnia opracowany zestaw testów jako rozwiązanie wielokrotnego użytku, rozszerzalne o kolejne scenariusze błędów, co ma umożliwić innym badaczom i twórcom narzędzi systematyczne wykrywanie podobnych problemów we własnych systemach agentowych.

Podsumowanie

Badanie „The Silent Failures in Agentic Data Science” pokazuje, że większość dzisiejszych agentów data science popełnia ukryte błędy metodologiczne – takie jak wyciek danych czy wadliwa walidacja – które pozostają niezauważone, gdy ocenia się je wyłącznie przez pryzmat trafności predykcji. Autorzy apelują o wprowadzenie systematycznej analizy trybów awarii jako standardu w ewaluacji agentowych systemów analitycznych, nazywając to kluczowym krokiem w budowie naprawdę wiarygodnych narzędzi agentowych.