Governance ratuje rozmowy agentów LLM od kolapsu — nowe badanie

Nowe badanie opublikowane na arXiv opisuje eksperyment, który obnaża słaby punkt systemów wieloagentowych opartych na dużych modelach językowych: gdy dwaj agenci LLM o strukturalnie sprzecznych celach prowadzą wieloturową rozmowę bez wspólnej funkcji celu, nie dochodzi do rywalizacji, lecz do kolapsu. Autorzy — Alexander Liss, Nicholas Desmond i Santiago Gil Gallego — zaproponowali warstwę governance nazwaną Experience Orchestrator (EO), która ma zastąpić brakującą wspólną funkcję celu i sterować przebiegiem rozmowy w sposób kontrolowany, zamiast pozwalać jej się „rozsypać”.

Praca powstała jako zgłoszenie na konferencję AI Engineer World's Fair 2026 i liczy 13 stron, zawiera 3 wykresy i 3 tabele. Zespół przetestował swoje rozwiązanie w symulowanym środowisku usług finansowych, w którym agent witryny (site agent) próbuje przekonać wirtualnego odwiedzającego do kontaktu z doradcą, a odwiedzający zachowuje psychologicznie realistyczny opór wobec takiej rozmowy.

Kluczowe wnioski

• Bez wspólnej funkcji celu interakcja dwóch agentów LLM prowadzi do „kolapsu”: odwiedzający kapituluje, agent witryny przestaje zmieniać strategię, a rozmowa kończy się bez realizacji celu żadnej ze stron.
• Experience Orchestrator (EO) łączy trzy mechanizmy kontrolne: Contextual Bandit dobierający treści na podstawie danych z rzeczywistej analityki webowej, kontroler PID wymuszający konsekwencję zachowań przez dynamiczne ograniczenia schematu oraz tracker przekonań POMDP modelujący probabilistycznie intencje odwiedzającego.
• W 60 000 symulacji EO osiągnęło wskaźnik kontaktu z doradcą wśród odwiedzających o wysokiej intencji na poziomie 78,1% wobec 46,1% dla naiwnej kontroli LLM — wzrost o 32 punkty procentowe.
• Wybór wariantu przez Contextual Bandit odpowiadał za 97% wariancji wyników między czynnikami, co potwierdza, że o rezultacie decyduje polityka governance, nie warunki początkowe środowiska.
• Analiza na poziomie person (persona-level) wykazała dwa odrębne reżimy: dla odwiedzających bez naturalnej skłonności do konwersji warstwa governance decyduje o tym, czy system działa; dla osób już blisko konwersji empatyczne domyślne zachowania naiwnego LLM są w zasadzie wystarczające.

Problem kolapsu rozmów wieloagentowych

Autorzy wychodzą od obserwacji, która ma szersze znaczenie dla wszystkich systemów wieloagentowych zbudowanych na LLM: kiedy dwa modele o przeciwstawnych celach rozmawiają wiele tur bez zewnętrznego mechanizmu koordynacji, wynik nie jest dynamiczną rywalizacją, jak można by się intuicyjnie oczekiwać, a raczej stagnacją. Agent reprezentujący witrynę przestaje różnicować swoje podejście, druga strona ustępuje, a cała interakcja wygasa bez osiągnięcia jakiegokolwiek celu. To zjawisko autorzy nazywają „collapse” i traktują jako centralny problem, który uzasadnia potrzebę wprowadzenia zewnętrznej warstwy kontrolnej.

Pytanie badawcze postawione w pracy jest wprost sformułowane: czy warstwa governance oparta na teorii kontroli może zastąpić brakującą wspólną funkcję celu w systemie wieloagentowym? Jest to pytanie istotne nie tylko dla scenariusza usług finansowych, ale dla szerszej klasy zastosowań, w których agenty AI muszą prowadzić dłuższe, celowe interakcje z użytkownikami o zmiennych i nie zawsze współpracujących intencjach.

Architektura Experience Orchestrator

EO zarządza wspólną trajektorią rozmowy za pomocą trzech komplementarnych mechanizmów. Pierwszy to Contextual Bandit (CB), który wybiera „ramiona” treści — czyli konkretne warianty komunikatów i strategii — skalibrowane na podstawie rzeczywistych danych z analityki webowej. Drugi to kontroler PID, znany z klasycznej teorii sterowania, który wymusza behawioralną konsekwencję poprzez dynamiczne ograniczenia schematu, pilnując, by agent witryny nie odbiegał od zamierzonego kierunku działania. Trzeci element to tracker przekonań oparty na częściowo obserwowalnym procesie decyzyjnym Markowa (POMDP), który utrzymuje probabilistyczny model intencji odwiedzającego, aktualizowany w miarę postępu rozmowy.

Połączenie tych trzech mechanizmów pozwala systemowi reagować na zmieniające się sygnały od użytkownika, zamiast trzymać się sztywnego scenariusza lub — jak w przypadku naiwnej kontroli LLM — dryfować w kierunku najmniejszego oporu.

Wyniki symulacji i ich znaczenie

Skala testów jest znacząca: zespół przeprowadził 60 000 symulacji, co pozwoliło na statystycznie solidne porównanie EO z naiwną kontrolą oparta na LLM. Efekt był wyraźny — 78,1% wskaźnik kontaktu z doradcą wśród odwiedzających o wysokiej intencji przy EO wobec 46,1% dla kontroli naiwnej, czyli wzrost o 32 punkty procentowe. Kluczowy wniosek metodologiczny dotyczy tego, co faktycznie napędza ten wynik: wybór wariantu treści przez Contextual Bandit tłumaczy aż 97% wariancji wyników między czynnikami. Innymi słowy, to sama polityka governance, a nie punkt wyjścia symulowanego scenariusza, decyduje o tym, dokąd trafia trajektoria rozmowy.

Analiza na poziomie person uwidoczniła jednak ważne zróżnicowanie. Dla odwiedzających, którzy nie mają żadnej naturalnej skłonności do konwersji, warstwa governance okazuje się różnicą między systemem działającym a niedziałającym — bez EO takie interakcje po prostu się nie udają. Z drugiej strony dla osób już bliskich zaangażowania empatyczne, domyślne zachowania naiwnego modelu LLM są w większości przypadków wystarczające, a dodatkowa warstwa kontrolna przynosi mniej korzyści. To rozróżnienie sugeruje, że governance nie jest uniwersalnie potrzebne w każdej interakcji, lecz staje się kluczowe właśnie w trudniejszych, mniej podatnych scenariuszach.

Ograniczenia badania

Autorzy jasno zaznaczają zastrzeżenia dotyczące wniosków. Wszystkie wyniki są uzyskane w symulacji LLM-do-LLM, a nie w interakcji z rzeczywistymi ludźmi. Kontroler PID nie został jeszcze skalibrowany pod kątem nieprzewidywalności prawdziwych użytkowników, co oznacza, że jego skuteczność w warunkach rzeczywistych może różnić się od wyników symulacyjnych. Sami autorzy wskazują walidację EO na żywym ruchu użytkowników jako krytyczny kolejny krok badania.

Praca wpisuje się w szerszy trend badań nad kontrolą i koordynacją systemów wieloagentowych opartych na dużych modelach językowych, gdzie problem braku wspólnego celu między agentami staje się coraz bardziej praktyczny w miarę wdrażania takich systemów w środowiskach komercyjnych, na przykład w automatyzacji obsługi klienta czy sprzedaży.

Podsumowując, badanie pokazuje, że warstwa governance oparta na kontroli teoretycznej może częściowo zastąpić brak wspólnej funkcji celu w rozmowach między agentami LLM, dając wymierny wzrost skuteczności — zwłaszcza w najtrudniejszych scenariuszach — choć jej wartość musi jeszcze zostać potwierdzona w kontakcie z realnymi użytkownikami.