RealtimeBench i TORSI: agenci AI uczeni działania pod presją czasu

Zespoły badawcze pracujące nad agentami opartymi na dużych modelach językowych coraz częściej zderzają się z problemem, który w laboratoryjnych testach łatwo przeoczyć: świat nie czeka, aż model skończy myśleć. Nowa praca The World Won't Wait: Evaluating and Teaching Agents Under a Live Clock, opublikowana 14 października 2026 roku przez Ningxin Pana, Hanyu Li, Yeqinga Shena, Ninga Dinga, Yehui Tanga i Wentao Zhanga, pokazuje, że czas potrzebny na wnioskowanie i wywołania narzędzi może zdecydować o sukcesie lub porażce agenta znacznie bardziej niż sama jakość jego decyzji.

Autorzy wprowadzają nowy benchmark – RealtimeBench – oraz metodę treningową o nazwie TORSI, które razem mają odpowiedzieć na pytanie, jak uczyć systemy AI działania w środowiskach zmieniających się w czasie rzeczywistym, a nie tylko w statycznych, „wstrzymanych” symulacjach.

Kluczowe wnioski

• RealtimeBench to zestaw 180 zadań podzielonych na sześć typów gier, w którym gry toczą się dalej podczas gdy agent wnioskuje – inaczej niż w typowych benchmarkach, gdzie świat czeka na decyzję modelu.
• W testach parowanych model GPT-6.1-sol wygrywa z szybszym modelem Jev, gdy gry są zatrzymane na czas podejmowania decyzji, ale przegrywa z nim, gdy gry toczą się dalej w czasie rzeczywistym.
• Autorzy proponują metodę TORSI (Two-Timescale Offline Recursive Self-Improvement), w której „wolny nauczyciel” analizuje błędy i testuje poprawki w trybie wstrzymanym, a następnie zapisuje instrukcje dla „szybkiego ucznia” działającego bez wsparcia nauczyciela podczas rozgrywki.
• Po dwóch rundach treningu TORSI średni wynik testowy modelu Jev wzrósł z 13,51 do 24,19 punktu w skali postępu 0–100, z poprawą we wszystkich sześciu typach gier.
• Te same instrukcje, wypracowane dla Jev, poprawiły również średnie wyniki trzech innych modeli – bez konieczności ich ponownego dostrajania.

Dlaczego szybkość bywa ważniejsza niż poprawność

Większość dzisiejszych benchmarków dla agentów AI zakłada, że świat „czeka” – dopóki model nie zwróci odpowiedzi, środowisko pozostaje niezmienne. To wygodne założenie upraszcza ewaluację, ale jak zauważają autorzy pracy, rozmija się z rzeczywistością wielu zastosowań praktycznych, w których proces decyzyjny toczy się równolegle z upływem czasu – gry czasu rzeczywistego, handel algorytmiczny, sterowanie robotami czy reagowanie na zdarzenia w systemach monitoringu.

Żeby uchwycić ten problem empirycznie, zespół stworzył RealtimeBench – zbiór 180 zadań rozłożonych na sześć różnych typów gier, w którym rozgrywka postępuje niezależnie od tego, jak długo agent potrzebuje na wnioskowanie i wywołanie narzędzi. To fundamentalna różnica względem klasycznych testów: w RealtimeBench czas myślenia ma bezpośredni koszt, bo opóźniona, nawet trafna decyzja może przyjść za późno.

Najbardziej wymowny jest eksperyment porównawczy między dwoma modelami – GPT-6.1-sol oraz szybszym, ale potencjalnie mniej dokładnym modelem Jev. W trybie wstrzymanym, gdzie czas rozumowania nie ma znaczenia, GPT-6.1-sol wypada lepiej. Gdy jednak gry toczą się dalej podczas inferencji, role się odwracają – przewagę zyskuje szybszy Jev. To pokazuje, że ranking modeli oparty wyłącznie na jakości odpowiedzi może być mylący w zastosowaniach wymagających działania pod presją czasu.

TORSI: dwuskalowe uczenie między nauczycielem a uczniem

Odpowiedzią autorów na ten problem jest metoda TORSI – Two-Timescale Offline Recursive Self-Improvement. Mechanizm opiera się na podziale ról między dwa „timescale’e” działania systemu.

„Wolny nauczyciel” analizuje przypadki porażek agenta i testuje możliwe poprawki w trybie offline, czyli w grach wstrzymanych między kolejnymi próbami – ma więc czas na dogłębną refleksję, bez presji zegara. Na tej podstawie zapisuje zestaw wielokrotnego użytku instrukcji, które trafiają do „szybkiego ucznia” – modelu działającego już w realnym czasie, bez możliwości konsultacji z nauczycielem podczas samej rozgrywki. To, które z wypracowanych aktualizacji faktycznie trafiają do ucznia, decydują wyniki walidacyjne – mechanizm selekcji ma zapobiec wdrażaniu poprawek, które w praktyce nie przynoszą realnej korzyści.

Efekty tego podejścia są mierzalne. Po dwóch rundach treningu TORSI średni wynik testowy modelu Jev w skali postępu 0–100 wzrósł z 13,51 do 24,19 – a poprawa objęła wszystkie sześć typów gier w RealtimeBench, nie tylko wybrane kategorie. Co istotne dla praktycznego zastosowania metody, instrukcje wypracowane przez nauczyciela dla Jev okazały się transferowalne: podniosły średnie wyniki trzech innych modeli bez konieczności ich ponownego dostrajania. Oznacza to, że wypracowana wiedza nie jest przypisana wyłącznie do jednego modelu, lecz działa jako uniwersalny zestaw reguł postępowania w środowiskach czasu rzeczywistego.

Znaczenie dla rozwoju agentów AI

Praca wpisuje się w szerszy nurt badań nad tym, jak zaprojektować systemy agentowe, które pozostają skuteczne nie tylko w laboratoryjnych, statycznych testach, lecz także w dynamicznym świecie, gdzie opóźnienie decyzji ma realny koszt. Autorzy określają ten kierunek mianem „inteligencji czasu rzeczywistego” – zdolności modeli do organizowania deliberacji, uczenia się i działania na różnych skalach czasowych jednocześnie.

Podejście to nawiązuje do problemów poruszanych również w innych niedawnych badaniach nad efektywnością agentów AI – m.in. w analizach dotyczących tego, że zespoły agentów AI generują wysokie koszty przy znikomej poprawie jakości, czy w pracach pokazujących, że czyszczenie historii czatu pomaga agentom AI szukać lepiej. Wspólnym mianownikiem tych badań jest przekonanie, że sama moc obliczeniowa i jakość pojedynczej odpowiedzi modelu nie wystarczą – liczy się też architektura procesu decyzyjnego w czasie.

Dla twórców systemów agentowych działających w realnych warunkach – od robotyki po handel algorytmiczny – wniosek z RealtimeBench i TORSI jest jasny: ocena modeli wyłącznie pod kątem poprawności odpowiedzi, bez uwzględnienia czasu potrzebnego na jej wypracowanie, może prowadzić do błędnych wyborów technologicznych. Metoda zaproponowana przez zespół Pana i współautorów pokazuje jednocześnie konkretną ścieżkę poprawy – rozdzielenie powolnej refleksji od szybkiego działania, połączone z mechanizmem selekcji opartym na wynikach walidacyjnych.