Amazon zamknął wewnętrzny ranking AI po manipulacjach pracowników

Amazon zamknął wewnętrzny system rankingowy sztucznej inteligencji po tym, jak pracownicy zaczęli manipulować wynikami przez bezsensowne używanie AI. Jak donosi Financial Times, działania te znacznie zwiększyły koszty chmury obliczeniowej firmy.

System o nazwie „Kirorank” oceniał pracowników na podstawie ich aktywności na platformie deweloperskiej Amazon Kiro. Niektórzy pracownicy zaczęli kierować agenty AI na bezcelowe zadania jedynie po to, by wspinać się w rankingu.

Kluczowe wnioski

• Amazon zlikwidował system rankingowy „Kirorank” z powodu manipulacji pracowników używających AI do bezsensownych zadań.
• Działania te spowodowały wzrost kosztów chmury obliczeniowej firmy przy braku faktycznej wartości biznesowej.
• Amazon planuje wydać około 200 miliardów dolarów w 2026 roku, głównie na infrastrukturę AI.
• Firma wyznaczyła cel, by ponad 80% deweloperów używało AI co najmniej raz w tygodniu.
• Problem podobnego „gamingu” systemów AI pojawił się również w Meta.

Problem z motywacją przez metryki

Dave Treadwell, starszy wiceprezes Amazon, zwrócił się do pracowników z apelem: „Proszę, nie używajcie AI tylko po to, żeby używać AI”. Przyznał, że dashboard został stworzony z „dobrymi intencjami”, ale ostatecznie generował dodatkowe koszty zamiast wartości.

Sytuacja jest szczególnie niezręczna w kontekście ambitnych planów Amazon związanych ze sztuczną inteligencją. Firma nie tylko zamierza przeznaczyć ogromne środki na rozwój infrastruktury AI, ale również ustaliła konkretny cel dotyczący adopcji technologii przez swoich deweloperów.

Nowe podejście do mierzenia efektywności

W odpowiedzi na problemy z manipulacją, Amazon zmienił sposób mierzenia wykorzystania AI. Zamiast surowego śledzenia konsumpcji tokenów, firma przeszła na monitorowanie „znormalizowanych wdrożeń” — czyli kodu generowanego przez AI, który faktycznie przynosi wartość biznesową.

Problem nie jest unikalny dla Amazon. Podobne wzorce zachowań pojawiły się w Meta, gdzie pracownicy również próbowali manipulować wewnętrznymi wskaźnikami wykorzystania AI. To pokazuje szersze wyzwanie w projektowaniu systemów motywacyjnych dla nowych technologii.

Amazon musi teraz znaleźć równowagę między zachęcaniem do adopcji AI a zapewnieniem, że technologia jest wykorzystywana w sposób produktywny i opłacalny.