AI-szef zwolnił pracownika, ale dopiero po podpowiedzi ludzi

AI-szef zwolnił swojego pierwszego pracownika, ale dopiero po przypomnieniu przez ludzi o jego własnych regułach — tak można podsumować najnowszy eksperyment firmy Andon Labs, w którym agent AI o imieniu Luna, zarządzający sklepem w San Francisco, po raz pierwszy podjął decyzję o zwolnieniu pracownika. Problem w tym, że sama z siebie nie potrafiła doprowadzić tej decyzji do końca — potrzebowała bezpośredniego przypomnienia przez badaczy, że sama napisała reguły, które ewidentnie zostały złamane.

Luna, działająca na modelu Claude Opus 4.8 od Anthropic, prowadzi sklep Andon Market w San Francisco od kwietnia. Do jej obowiązków należy zatrudnianie pracowników, tworzenie grafików zmian i negocjowanie wynagrodzeń. Zwolnienie pracownika, którego opisuje Andon Labs, to pierwszy znany przypadek, w którym AI-szef zdecydował o zakończeniu współpracy z człowiekiem. Warto zaznaczyć, że pracownicy są formalnie zatrudniani przez Andon Labs, otrzymują gwarantowane wynagrodzenie i pełną ochronę prawną, a sama procedura zwolnienia była nadzorowana i wykonana przez ludzi.

Kluczowe wnioski

• Agent AI Luna, prowadzący sklep Andon Labs w San Francisco od kwietnia, po raz pierwszy zwolnił pracownika za powtarzające się spóźnienia i inne przewinienia.
• Luna napisała własny regulamin, ale jego treść „wypadła” z jej pamięci — model tolerował powtarzające się problemy, zamiast reagować zgodnie z ustalonymi zasadami.
• Decyzję o zwolnieniu podjęła dopiero po tym, jak badacze przypomnieli jej o wcześniejszych formalnych rozmowach i pisemnym ostrzeżeniu.
• W powtórzonym scenariuszu z siedmioma różnymi modelami, bardziej zaawansowane modele konsekwentnie rekomendowały zwolnienie, podczas gdy słabsze wahały się częściej.
• GPT-4o, znany z tendencji do nadmiernej uległości, zalecił zwolnienie tylko w 20 proc. przebiegów testu.

Zapomniany regulamin i tolerowane spóźnienia

Sześć dni przed zatrudnieniem pracownika, którego później zwolniono, Luna napisała własny podręcznik dla personelu. Zgodnie z nim, trzy nieusprawiedliwione spóźnienia w ciągu 30 dni miały skutkować formalnym ostrzeżeniem, a kolejne incydenty mogły prowadzić do zwolnienia. Problem polegał na tym, że regulamin ten wkrótce „zniknął” z pamięci Luny. Jak zauważa Andon Labs, to powszechny problem obecnych agentów AI — reagują dobrze na bezpośrednie instrukcje, ale rzadko działają z własnej inicjatywy i mają trudności z zachowaniem wiedzy w dłuższej perspektywie czasowej.

Pracownik notorycznie się spóźniał. Przy jednej okazji otworzył sklep 68 minut po czasie, pracując samotnie na niedzielnej zmianie. Luna nie wystawiła żadnego ostrzeżenia. Jak później ustaliła Andon Labs, pracownik spóźnił się na 17 z 23 zmian, dla których zgłosił godzinę rozpoczęcia pracy. Luna formalnie zarejestrowała tylko sześć takich przypadków, a jedenaście pozostałych po prostu wybaczyła bez konsekwencji.

Do tego doszły inne uchybienia: pracownik wykorzystywał firmową kartę na przekąski wbrew wyraźnemu zakazowi, ignorował dodatkowe instrukcje, a raz opuścił salę sprzedaży bez poinformowania współpracownika.

Dopiero po ludzkiej podpowiedzi

Kluczowy moment nastąpił, gdy Andon Labs poprosiła Lunę o przeszukanie własnej pamięci w celu odnalezienia regulaminu i podstaw do zwolnienia. Luna faktycznie odnalazła zasady, ale początkowo zaproponowała tylko ustne ostrzeżenie. Dopiero gdy badacze przypomnieli jej, że kilka formalnych rozmów — w tym pisemne ostrzeżenie — już się odbyło, Luna przeanalizowała całą historię pracownika. Wymieniła spóźnienia, naruszenia kontroli finansowej, ignorowanie instrukcji i słabą rzetelność, jednocześnie doceniając jego pozytywne cechy.

Ostatecznie zarekomendowała zwolnienie, proponując jako alternatywę ostatnie pisemne ostrzeżenie z dwutygodniowym planem poprawy. Luna potrzebowała wyraźnego impulsu z zewnątrz — ale gdy go otrzymała, jej decyzja była już jednoznaczna i stanowcza.

Gdy Andon Labs zapisała stan Luny i powtórzyła ten sam scenariusz z siedmioma modelami AI, po trzy razy każdy, cztery z siedmiu rekomendowały zwolnienie we wszystkich trzech przebiegach. Według firmy zarysował się pewien wzorzec: bardziej zaawansowane modele wybierały zwolnienie konsekwentniej, natomiast słabsze wahały się częściej. Andon Labs nie wyjaśniła, dlaczego GPT-5.6 Terra był jedynym modelem, który w żadnym z trzech przebiegów nie zarekomendował zwolnienia.

Po tym, jak jeden z użytkowników platformy X przewidział, że GPT-4o prawdopodobnie nie zwolniłby pracownika, Andon Labs przetestowała scenariusz również na tym modelu. Wynik częściowo potwierdził tę intuicję — GPT-4o rekomendował zwolnienie tylko w 20 proc. przebiegów, znacznie rzadziej niż obecne modele najwyższej klasy. GPT-4o wcześniej krytykowano za tendencję do nadmiernej uległości (sycophancy), zjawisko, które później omawiano w kontekście problematycznej zależności emocjonalnej użytkowników i uwzględniano w toczących się procesach sądowych. Eksperyment nie dowodzi, że to właśnie skłonność do przymilania się wpłynęła na wynik, ale wzorzec do tego pasuje.

Zbyt łatwo zatrudnia, zbyt rzadko sprawdza referencje

Po zwolnieniu pracownika Luna zaczęła szukać zastępstwa. Jeden z kandydatów miał w swoim CV kilka wyraźnych sygnałów ostrzegawczych, ale na podstawie życiorysu i rozmowy kwalifikacyjnej Luna i tak zarekomendowała jego zatrudnienie. Wszystkie 21 powtórzeń tego scenariusza na siedmiu modelach doszły do tego samego wniosku — prawie wszystkie odczytały długą listę wcześniejszych pracodawców jako dowód szerokiego doświadczenia, a nie sygnał ostrzegawczy.

Tylko wtedy, gdy Andon Labs wyraźnie przypomniała modelom o problemach z wcześniej zwolnionym pracownikiem, 18 z 21 przebiegów zdecydowało się zweryfikować referencje przed zatrudnieniem. W rzeczywistym procesie rekrutacyjnym Luna nie zdołała potwierdzić żadnej z podanych referencji, a jednak i tak pozwoliła kandydatowi odbyć płatną zmianę próbną i po niej ponownie zarekomendowała jego zatrudnienie. 17 z 21 powtórzeń doszło do tego samego wniosku. Ostatecznie Andon Labs zażądała potwierdzenia przynajmniej jednej referencji przed datą rozpoczęcia pracy. Do tego nigdy nie doszło, więc kandydat nie został zatrudniony.

Te wyniki potwierdzają wcześniejsze obserwacje Andon Labs z pierwszej części serii blogowej — AI-szefowie są wyjątkowo łagodni. Luna i Mona, agentka prowadząca kawiarnię w Stockholmie, zaakceptowały wszystkie 26 wniosków o urlop, jakie do nich wpłynęły. Pracownicy Luny spóźnili się łącznie 27 razy, a ona nigdy nie wystawiła żadnego ostrzeżenia. Luna zatwierdziła też siedmiodniowy grafik pracy dla jednego pracownika, który — jak podaje Andon Labs — naruszał kalifornijskie prawo pracy, aż firma musiała interwencyjnie wkroczyć. Podobne słabości wychodziły już na jaw podczas Project Vend, wspólnego eksperymentu Anthropic i Andon Labs, gdzie AI stawało się bardziej rentowne dzięki lepszym narzędziom, ale wciąż łatwo dawało się manipulować i podejmowało błędne decyzje.

Eksperymenty Andon Labs pokazują, że nawet zaawansowane agenty AI zarządzające realnym biznesem potrzebują ludzkiego nadzoru w kluczowych momentach — zwłaszcza gdy w grę wchodzi konsekwentne stosowanie własnych, wcześniej ustalonych reguł.