MIT: algorytmiczna monokultura w rekrutacji nie musi szkodzić kandydatom

Badanie MIT podważa dotychczasowe obawy dotyczące tak zwanej „algorytmicznej monokultury” — zjawiska, w którym wiele firm w danej branży korzysta z tego samego algorytmu do podejmowania decyzji, na przykład podczas rekrutacji pracowników. Naukowcy z MIT dowodzą, że skutki takiej praktyki są znacznie bardziej złożone, niż wcześniej sugerowano, a w niektórych sytuacjach monokultura może wręcz działać na korzyść kandydatów do pracy.

Narzędzia AI coraz częściej zastępują ludzki osąd w procesach decyzyjnych. Algorytmy przesiewające CV są dziś powszechnie wykorzystywane w rekrutacji, poprawiając efektywność i konsekwencję podejmowanych decyzji. Część badaczy ostrzegała jednak, że powszechne wdrażanie zautomatyzowanych systemów może w efekcie doprowadzić do sytuacji, w której cała branża korzysta z jednego, wspólnego algorytmu — a to rodzi ryzyko „systematycznego wykluczenia”, czyli sytuacji, w której kandydat odrzucony przez algorytm jednej firmy zostałby odrzucony przez wszystkie inne firmy stosujące ten sam system.

Kluczowe wnioski

• Naukowcy z MIT, Brian Hedden i Manish Raghavan, systematycznie przeanalizowali główne zarzuty wobec algorytmicznej monokultury i wykazali, że większość z nich nie jest przekonująca lub nie dotyczy każdej jej formy.
• Matematycznie udowodnili, że monokultura tworzy „informacyjne echo komory” ograniczające eksplorację — w rekrutacji może to zmniejszać szansę, że najlepsi kandydaci faktycznie zdobędą pracę.
• Łączenie różnych algorytmów rekrutacyjnych w jeden „zespół” (ensemble) pozwala pokonać to ograniczenie i sprawia, że monokultura może działać co najmniej tak dobrze, jak polikultura, w której różne firmy używają różnych algorytmów.
• Zarzut „systematycznego wykluczenia” okazał się słabszy niż zakładano — całkowita liczba osób zatrudnionych nie zmienia się przez to, że firmy korzystają z tego samego algorytmu.
• Wręcz przeciwnie: algorytmiczna monokultura może zwiększyć siłę przetargową kandydatów do pracy, ponieważ firmy konkurują o ten sam pul kandydatów, co podnosi wynagrodzenia.
• Praca naukowa ukazała się w czasopiśmie Philosophical Perspectives.

Od bankowości do rekrutacji: monokultura nie jest nowością

Algorytmiczna monokultura, czyli sytuacja, w której wszystkie decyzje w danej dziedzinie podejmowane są przy użyciu tego samego algorytmu, nie jest nowym fenomenem. Jak zauważają autorzy badania, decyzje kredytowe były dawniej podejmowane niezależnie przez bankierów w poszczególnych bankach, a obecnie wszyscy bankierzy korzystają z tych samych, ustandaryzowanych informacji opartych na wynikach kredytowych — pochodzących z algorytmu Fair Isaac Corporation (FICO). Podobnie, niewielka grupa algorytmów przesiewających CV jest powszechnie wykorzystywana przez wiele firm z listy Fortune 500.

„Obawa polega na tym, że w miarę jak więcej ludzi korzysta z AI i algorytmów do zdobywania informacji i podejmowania decyzji, powstaje więcej okazji do tego rodzaju korelacji” — mówi Manish Raghavan, profesor MIT Sloan School of Management i EECS, główny badacz w Laboratory for Information and Decision Systems (LIDS).

Aby lepiej zrozumieć to zjawisko, Raghavan wraz z Brianem Heddenem, profesorem w Department of Linguistics and Philosophy, który dzieli stanowisko w ramach MIT Schwarzman College of Computing z Department of Electrical Engineering and Computer Science i również jest głównym badaczem LIDS, systematycznie ocenili zalety i wady algorytmicznej monokultury. Skoncentrowali się na rekrutacji, ale zaznaczają, że ich podejście mogłoby dotyczyć również innych dziedzin, takich jak udzielanie pożyczek. Zastrzegają jednak, że inne obszary — na przykład tworzenie treści przez generatywną AI czy prowadzone przez AI badania naukowe — mogą działać inaczej, a monokultura w tych dziedzinach może być bardziej problematyczna.

Systematyczne wykluczenie kontra siła przetargowa kandydatów

Jednym z pierwszych obiektów analizy był popularny argument przeciwko algorytmicznej monokulturze: przekonanie, że korzystanie z tego samego algorytmu prowadzi do systematycznego wykluczania określonych osób z możliwości zatrudnienia. Zjawisko to mogłoby wystąpić w rekrutacji, ponieważ jeśli jedna firma odrzuca CV kandydata na podstawie algorytmu, ten sam kandydat najprawdopodobniej spotka się z podobnym „przypadkowym pechem” w każdej innej firmie korzystającej z tego samego systemu.

Po systematycznej ocenie tego argumentu za pomocą serii modeli odzwierciedlających wiele różnych sytuacji, badacze doszli do wniosku, że argument ten nie jest przekonujący, ponieważ ogólna liczba osób zatrudnionych nie zależy od tego, czy firmy korzystają z tego samego algorytmu, czy z różnych. Zamiast tego, algorytmiczna monokultura może wzmocnić pozycję negocjacyjną kandydatów do pracy.

„Wszystkie wakaty zostają wypełnione i tyle samo osób ma pracę, ale firmy walczą o tę samą pulę kandydatów, co faktycznie podnosi wynagrodzenia” — wyjaśnia Raghavan.

Badacze analizowali również zarzuty związane z kwestią sprawczości (agency) kandydatów — dostarczony fragment tekstu źródłowego kończy się w momencie omawiania sytuacji, w której kandydat aplikuje o pracę, jednak wcześniejsze wnioski wskazują na główny kierunek argumentacji autorów: skutki monokultury zależą przede wszystkim od konkretnych okoliczności — dziedziny, w której jest stosowana, oraz od dokładności samego algorytmu.

Znaczenie: skutki zależą od szczegółów, nie od samej zasady

„Trend w kierunku algorytmicznej monokultury to realistyczny scenariusz i naprawdę ważna kwestia, którą wywołuje wykorzystanie AI, ale trudno w oderwaniu od kontekstu powiedzieć, czy monokultura byłaby czymś złym. Zależy to od szczegółów, takich jak dziedzina, o której mówimy, oraz dokładność samego algorytmu” — podsumowuje Brian Hedden.

Kluczowym wnioskiem z badania jest to, że rozwiązaniem potencjalnych ograniczeń monokultury nie musi być powrót do polikultury — wielu różnych algorytmów stosowanych przez różne firmy — a raczej odpowiednie zaprojektowanie systemu, na przykład poprzez łączenie różnych podejść algorytmicznych w jeden zespół decyzyjny (ensemble). Takie rozwiązanie może pozwolić uniknąć problemu informacyjnych „echo komór” ograniczających eksplorację i jednocześnie zachować zalety standaryzacji, jakie niesie ze sobą powszechne stosowanie jednego, dobrze przetestowanego systemu.

Badanie MIT wpisuje się w szerszą debatę o roli algorytmów decyzyjnych w kluczowych dla życia obszarach, takich jak zatrudnienie czy dostęp do kredytu — obszarach, w których pojedyncza decyzja algorytmiczna może mieć trwały wpływ na losy konkretnej osoby.

Podsumowując, praca Heddena i Raghavana pokazuje, że algorytmiczna monokultura nie jest z definicji ani dobra, ani zła — jej skutki zależą od konkretnego zastosowania, konstrukcji algorytmu i sposobu, w jaki jest wdrażany, a odpowiednio zaprojektowane systemy łączące różne podejścia mogą zniwelować jej najważniejsze wady.