Jak inżynierowie celowo wszczepili AI losowość i halucynacje

Nowe badanie historyka nauki z MIT pokazuje, że skłonność dzisiejszych modeli AI do „halucynacji” nie jest błędem systemowym, lecz świadomym dziedzictwem decyzji podjętych przez inżynierów już w połowie XX wieku. Rozmowa MIT News z Benjaminem Lindquistem, adiunktem w sekcji historii MIT i głównym badaczem w Laboratory for Information and Decision Systems, odsłania, jak twórcy wczesnych sieci neuronowych celowo wprowadzali losowość do algorytmów, by naśladować ludzką kreatywność – i jak ta decyzja odbija się echem w dzisiejszych systemach generatywnej AI.

Lindquist, który dzieli stanowisko między MIT Schwarzman College of Computing a Wydziałem Elektrotechniki i Informatyki (EECS), opisuje te odkrycia w nowym artykule opublikowanym w czasopiśmie „Past and Present”. Jego teza jest prowokacyjna: twórcy nowoczesnej AI nie próbowali wyeliminować nieprzewidywalności z maszyn myślących – wprost przeciwnie, celowo ją w nie wszczepili, wierząc, że to właśnie element chaosu i nieracjonalności jest niezbędny, by maszyna mogła myśleć choćby odrobinę jak człowiek.

Kluczowe wnioski

• Historyk Benjamin Lindquist z MIT w artykule opublikowanym w „Past and Present” wskazuje, że inżynierowie z lat 50. XX wieku celowo wprowadzali losowość do algorytmów, próbując odtworzyć ludzką kreatywność.
• Kluczową postacią był John Pierce, inżynier elektryk z Bell Labs, który na początku lat 50. uważał, że matematyka w sztuce może służyć do usuwania porządku, a nie jego wprowadzania.
• Wiele wczesnych sztucznych sieci neuronowych budowali psychologowie, chcący zajrzeć do „czarnej skrzynki” umysłu i zobaczyć, jak powstają produktywne błędy myślenia.
• O ile dziś cenimy ChatGPT czy Claude za poprawne odpowiedzi, wczesni twórcy sieci neuronowych cenili je właśnie za odwrotność – za zdolność dawania zaskakujących, dziwnych wyników.
• Zdaniem Lindquista dzisiejsze systemy komercyjne, takie jak te OpenAI czy Anthropic, przeszły „wygładzenie dziwności” z powodów prawnych i finansowych, choć ten element wciąż tkwi w ich fundamentach.

Matematyka jako narzędzie na rzecz chaosu

Zdaniem Lindquista w świecie nauki i sztuki od dawna panowało przekonanie, że przypadek odgrywa istotną rolę w odkryciach i kreatywności – w zdolności do tworzenia nowych idei. Kreatywność utożsamiano z nieoczekiwanymi skokami logicznymi, a nawet ze stanem przypominającym sen, który pozwala spojrzeć na problem z zupełnie nowej perspektywy.

Jedną z kluczowych postaci tego nurtu był John Pierce, znany inżynier elektryk z Bell Labs. Na początku lat 50. XX wieku rozpowszechnił on pogląd, że matematyka może być wartościowa w sztuce – ale nie w sposób, jakiego moglibyśmy się spodziewać. Jak wyjaśnia Lindquist, gdy myślimy o dziele sztuki wykorzystującym matematykę, wyobrażamy sobie coś bardzo uporządkowanego i precyzyjnego. Pierce doszedł jednak do wniosku zupełnie przeciwnego: użyteczność matematyki polegała na tym, że mogła ona usuwać porządek ze sztuki. W bardzo wyrachowany sposób matematyka mogła więc dodawać element niespodzianki jako sposób na odejście od schematów – i ten element nieregularności mógł właśnie prowadzić do wglądu i odkrycia.

Jednym z popularnych sposobów wprowadzania takiej nieregularności do z natury przewidywalnych komputerów były sztuczne (losowe) sieci neuronowe. Wiele z nich budowali psychologowie, którzy wierzyli, że umożliwiając naukowcom stworzenie modelu mózgu, sztuczne sieci neuronowe pozwolą zajrzeć do jego wnętrza – w tym zrozumieć, jak mózg popełnia błędy, które okazują się produktywne. Zamiast być „czarnymi skrzynkami”, systemy te miały – zdaniem badaczy – otworzyć tę czarną skrzynkę umysłu i pozwolić naukowcom zobaczyć cały ten „bałagan”, który naprawdę się w niej dzieje.

Istniał jednak drugi obóz w świecie AI, który uważał, że myślenie kreatywne to po prostu „zwykłe” myślenie wykonywane lepiej. Lindquist podkreśla, że interesujące jest zestawienie tych dwóch prostych, heurystycznych sposobów rozumienia inteligencji i kreatywności – oraz obserwacja, w jaki sposób się one zazębiają, a w jaki nie. Debata dotyczyła tego, na czym właściwie polega ludzka pomysłowość, a następnie – jak odtworzyć tę pomysłowość w formie maszynowej.

Od laboratoryjnej ciekawostki do dzisiejszych chatbotów

Najbardziej uderzającym odkryciem Lindquista jest to, że wczesni zwolennicy sieci neuronowych cenili je z powodów dokładnie odwrotnych niż dziś. Współcześnie sięgamy po ChatGPT czy Claude, bo oczekujemy, że ich odpowiedzi będą w większości poprawne. Tymczasem – jak zauważa badacz – wiele z pierwszych osób promujących te systemy ceniło je właśnie za to, że od czasu do czasu dawały odpowiedzi odbiegające od oczekiwań. Istniały już wtedy systemy potrafiące generować rozsądne i przewidywalne wyniki; sieci neuronowe doceniano natomiast za to, że mogły dawać odpowiedzi nieoczekiwane, a nawet dziwaczne.

Jednym z powodów, dla których dziś inaczej patrzymy na te systemy, może być sposób, w jaki funkcjonują. Wczesne sieci neuronowe pozostawały zamknięte w laboratoriach, więc dziwny czy błędny wynik nie niósł żadnych realnych konsekwencji w świecie zewnętrznym. Dziś jest inaczej – istnieją powody prawne i finansowe, dla których firmy takie jak OpenAI czy Anthropic nie chcą chatbota, który daje nieoczekiwane lub „zbyt kreatywne” odpowiedzi. Zdaniem Lindquista nastąpiło więc swoiste „wygładzenie dziwności” tych systemów. Wciąż mogą ją mieć zakodowaną w rdzeniu działania, ale jest ona dziś w dużej mierze tłumiona.

Lindquist dodaje też, że przez długi czas dominującym podejściem w AI była tzw. sztuczna inteligencja symboliczna (symbolic AI), zakładająca, że świat da się opisać zbiorem reguł. To właśnie napięcie między podejściem opartym na regułach a podejściem opartym na losowości i naśladowaniu „bałaganiarskiego” ludzkiego umysłu – według Lindquista – doprowadziło ostatecznie do dzisiejszej dominacji sieci neuronowych, a wraz z nią do zjawiska znanego dziś jako halucynacje AI.

Nieunikniony kompromis między kreatywnością a przewidywalnością

Centralna teza Lindquista brzmi, że próba zbudowania maszyny naśladującej ludzkie zachowanie zawsze niesie ze sobą nieuchronny kompromis między kreatywnością a przewidywalnością. Im bardziej system ma być zdolny do oryginalnych, nieoczekiwanych skojarzeń – a więc im bliżej ludzkiej kreatywności – tym trudniej zagwarantować, że jego odpowiedzi będą zawsze poprawne i spójne. Halucynacje, które dziś traktujemy jako wadę współczesnych dużych modeli językowych, w świetle badań Lindquista jawią się raczej jako pozostałość po pierwotnym projekcie, w którym losowość i odrobina „szaleństwa” były traktowane jako cecha pożądana, a nie usterka do wyeliminowania.

Badania Benjamina Lindquista pokazują więc, że problem halucynacji w dzisiejszych modelach AI ma długą historię sięgającą lat 50. XX wieku – kiedy to inżynierowie i psychologowie świadomie wszczepiali maszynom element nieprzewidywalności, wierząc, że to właśnie on jest kluczem do maszynowej kreatywności.