Recursive stawia na rekurencyjne samodoskonalenie AI w modelu Flint

Nowy model open-weight o nazwie Flint, stworzony przez startup Recursive, pokazuje, że koncepcja w pełni rekurencyjnego samodoskonalenia AI (ang. recursive self-improvement, RSI) – czyli wykorzystania sztucznej inteligencji do budowania kolejnych wersji samej siebie – przestaje być tylko teorią. Jak opisuje Will Knight na łamach Wired, autor testował Flinta przez kilka dni i uznał go za „przerażająco dobry” jak na model tej wielkości.

Recursive, firma stojąca za Flintem, stawia na RSI nie tylko jako metodę rozwoju samej sztucznej inteligencji, ale też jako narzędzie do przyspieszania postępu w innych dziedzinach nauki. Według CEO i współzałożyciela firmy Richarda Sochera „niemal każdy aspekt całego pipeline’u modelu został faktycznie wykonany i udoskonalony przez AI”.

Kluczowe wnioski

• Recursive wykorzystał własny system rekurencyjnej AI o nazwie Eureka Machine do automatyzacji większości procesu tworzenia modelu Flint, co pozwoliło niewielkiemu zespołowi badaczy zbudować model klasy światowej w zaledwie kilka miesięcy.
• Eureka Machine wprowadziła szereg innowacji: nowy sposób trenowania modelu bazowego, nowe architektury modeli oraz kod zoptymalizowany pod konkretne chipy krzemowe.
• Flint ma 40 miliardów parametrów i w testach benchmarkowych udostępnionych przez Recursive przewyższa inne modele o podobnej wielkości i architekturze w zadaniach programistycznych.
• Firma pozyskała 650 milionów dolarów finansowania przy wycenie 4,65 miliarda dolarów, od inwestorów takich jak Google Ventures, Greycroft, Nvidia i AMD Ventures.
• Temat RSI jest na tyle kontrowersyjny, że kilka ustaw w Kongresie USA proponuje jego zakaz, podczas gdy Recursive uznaje obawy przed taką technologią za bliższe science fiction niż realnemu zagrożeniu.

Jak powstał Flint i kim są jego twórcy

Socher, były główny naukowiec w Salesforce, wraz ze współzałożycielami – w tym Jeffem Clune’em, profesorem University of British Columbia, badającym sposoby budowania systemów AI zdolnych do nieograniczonego uczenia się – postawił sobie za cel wykorzystanie AI do budowy AI. Zwykle już dziś sztuczna inteligencja jest szeroko wykorzystywana do pomocy w budowaniu, testowaniu i ulepszaniu innych modeli AI dzięki swoim umiejętnościom programistycznym. To przyspiesza proces dopracowywania modelu i testowania nowych pomysłów bez konieczności dużego zaangażowania ludzi.

Można jednak pójść krok dalej i stworzyć pętlę, w której AI samodzielnie decyduje, jakie usprawnienia wprowadzić, a następnie rozpoczyna kolejną rundę ulepszeń. Obecnie technika ta jest ograniczona, ale jeśli AI będzie w stanie wnosić wkład w każdy aspekt rozwoju modelu, proces ten mógłby teoretycznie trwać w nieskończoność.

Socher podkreśla, że Flint powstał przy użyciu systemu niezdolnego do wymknięcia się spod kontroli człowieka. Celem Recursive jest doprowadzenie Eureka Machine do pełnego rekurencyjnego samodoskonalenia, ale proces ten ma nadal być nadzorowany przez ludzi, którzy mogliby go zatrzymać, gdyby coś poszło nie tak. „Mamy nadzieję, że to pokaże ludziom, że faktycznie mamy wszystkie elementy na miejscu”, by zbudować taki system – powiedział Socher.

Kontrowersje wokół rekurencyjnego samodoskonalenia

Niektórzy eksperci obawiają się, że pozwolenie AI na samodzielne doskonalenie się w ten sposób mogłoby ostatecznie doprowadzić do katastrofy. Zwolennicy tej tezy twierdzą, że sztuczna inteligencja zdolna do nieograniczonego samoulepszania mogłaby wymknąć się spod kontroli człowieka i uznać ludzi za przeszkodę w realizacji swoich celów.

Obawy te zyskały szerszy rozgłos we wrześniu, gdy badacz opuścił Anthropic, ostrzegając, że postępy w AI – w tym właśnie rekurencyjne samodoskonalenie – mogą doprowadzić do wyginięcia ludzkości w ciągu kilku lat. Obawę tę podzieliło wtedy wielu innych ekspertów. Temat RSI stał się na tyle kontrowersyjny, że kilka ustaw w Kongresie USA proponuje jego zakaz.

Recursive podchodzi do tych obaw sceptycznie, traktując je bardziej jako scenariusz z filmów science fiction niż realne zagrożenie, i uważa, że ustawowe ograniczenia RSI są zbędną przeszkodą dla postępu technologicznego. Nie jest też jasne, jak daleko zaszły inne amerykańskie laboratoria w pogoni za rekurencyjnym samodoskonaleniem – choć część opublikowanych już prac sugeruje, że w pełni rekurencyjne systemy są już wykonalne. Zespół z Microsoftu, Carnegie Mellon University i University of Virginia opublikował niedawno pracę pokazującą, jak agent kodujący AI może rekurencyjnie ulepszać samego siebie, modyfikując zarówno oprogramowanie pośredniczące (harness), które przekłada rozumowanie na działanie, jak i wagi własnego modelu.

Jak Flint sprawdził się w praktyce

Autor Wired testował Flinta na komputerze Mac z 48 GB pamięci RAM – zasobie wystarczającym jedynie na uruchomienie modelu o umiarkowanej wielkości, jak Flint z jego 40 miliardami parametrów. Dla porównania największe modele dostępne obecnie liczą sobie po kilka bilionów parametrów i mogą działać wyłącznie na przemysłowych serwerowniach.

Model posłużył do stworzenia kilku programów i okazał się zarówno szybki, jak i bardzo zdolny. Jak zauważył autor testu, modele tej wielkości bywają zwykle irytująco podatne na błędy lub wolne w porównaniu z Claude czy Codex, ale Flint trafnie realizował każde polecenie programistyczne. Zbudowano za jego pomocą konsolową listę zadań, program przeszukujący sieć w poszukiwaniu interesujących badań związanych z rekurencyjnym samodoskonaleniem, a także prostą stronę internetową wyjaśniającą, jak działa RSI.

Socher przekonuje, że podejście zastosowane przy budowie Flinta może sprawić, że najnowocześniejsza sztuczna inteligencja stanie się bardziej dostępna. „To jedyny sposób, w jaki tak mały zespół może stworzyć model, który jest faktycznie lepszy od każdego innego modelu w swojej klasie” – powiedział. „Mamy nadzieję, że pokaże to ludziom, że [rekurencyjne samodoskonalenie] jest w rzeczywistości czymś dobrym i przyniesie korzyści wielu osobom”.

Przykład Flinta pokazuje, że granica między badaniami nad bezpieczeństwem AI a praktycznym zastosowaniem rekurencyjnego samodoskonalenia zaciera się szybciej, niż sugerowałyby dotychczasowe debaty regulacyjne – a losy ustaw proponowanych w Kongresie USA mogą w najbliższych miesiącach zadecydować, czy tego typu eksperymenty będą kontynuowane na otwartym rynku.