Werner Vogels z AWS: AI nie zna prawdy, tylko prawdopodobieństwo

Werner Vogels, dyrektor techniczny Amazona i jeden z architektów AWS, ostrzega, że generatywna sztuczna inteligencja nie przywróci nam utraconej pewności co do rzetelności informacji – wręcz przeciwnie, wymusi budowę zupełnie nowej architektury zaufania. Jego zdaniem duże modele językowe to statystyczne generatory słów, które nie mają pojęcia prawdy ani inteligencji, a mylenie płynności ich wypowiedzi z gwarancją poprawności to poważny błąd kategorii.

Kluczowe wnioski

• Werner Vogels dołączył do Amazona w 2004 r., a od stycznia 2005 r. jest dyrektorem technicznym firmy; wcześniej dekadę pracował naukowo na Cornell University nad systemami rozproszonymi i ma doktorat z informatyki Vrije Universiteit Amsterdam.
• Jego zdaniem duże modele językowe „nie są deterministyczne” i „zostały zbudowane po to, by tworzyć to, co prawdopodobne, a nie to, co prawdziwe” – nie mają pojęcia prawdy ani inteligencji.
• Vogels przypomina, że zaufanie zawsze miało swoją infrastrukturę: od publicznych wag miejskich w Amsterdamie z XV wieku, przez giełdy, po marmurowe gmachy banków, które komunikowały stabilność instytucji.
• W epoce internetu rolę tej infrastruktury przejęły gwiazdki, recenzje i reputacja kont – ale generatywna AI ekonomicznie psuje ten mechanizm, bo masową produkcję wiarygodnie brzmiących, sfałszowanych opinii można dziś zautomatyzować.
• Dla użytkowników elektroniki oznacza to, że kluczowe pytanie przestaje dotyczyć wyniku modelu w benchmarku, a zaczyna dotyczyć tego, co się stanie, gdy model się pomyli – akurat w kluczowym momencie.

Człowiek, który zna systemy od strony awarii

Aby zrozumieć, skąd u Vogelsa taka ostrożność wobec AI, trzeba wiedzieć, z jakiej tradycji inżynierskiej pochodzi. Amazon opisuje go jako jednego ze światowych ekspertów od systemów rozproszonych – człowieka, który odegrał istotną rolę w budowie infrastruktury firmy i narodzinach AWS. Jego blog All Things Distributed od lat obejmuje tematykę chmury, uczenia maszynowego, AI i corocznych prognoz technologicznych.

System rozproszony – jak przypomina Vogels – nigdy nie jest pojedynczym komputerem, który działa albo nie działa. To orkiestra maszyn, sieci, baz danych i usług, w której stale coś zwalnia, traci łączność albo zwraca stary stan. Zadaniem architekta nie jest magiczne usunięcie awarii, ale takie zaprojektowanie całości, by lokalna usterka nie zamieniła się w globalną katastrofę.

Ta perspektywa przekłada się bezpośrednio na jego ocenę AI. Model językowy, nawet imponujący, z punktu widzenia infrastruktury pozostaje zawodnym komponentem – dokładnie tak jak każdy inny element systemu rozproszonego. Kalkulator ma policzyć, baza danych ma zwrócić zapisany rekord, a model językowy ma wygenerować przekonującą kontynuację wejściowego kontekstu. Czasem będzie to doskonała odpowiedź, a czasem elegancko podany fałsz – i sam model nie odczuwa różnicy między tymi dwoma przypadkami.

Co to znaczy dla urządzeń, które już mamy w domu

Dla entuzjasty elektroniki rozróżnienie, o którym mówi Vogels, jest bardziej praktyczne, niż mogłoby się wydawać na pierwszy rzut oka. Gdy telewizor generuje napisy, słuchawki streszczają rozmowę, telefon usuwa przechodnia ze zdjęcia, a system w samochodzie proponuje trasę – urządzenie nie „rozumie” rzeczywistości w ludzkim sensie. Składa wynik, który statystycznie pasuje do sytuacji.

Im więcej sprawczości producenci oddają takim systemom – opiniom, według których kupujemy sprzęt, zabezpieczeniom inteligentnego domu, bankowości czy agentom, którym firmy chcą powierzyć klucze do naszych kont – tym ważniejsze staje się pytanie nie o wynik modelu w benchmarku, lecz o to, co się stanie, gdy model pomyli się właśnie teraz, w konkretnej, krytycznej sytuacji.

Od wag miejskich do farm botów – historia zaufania

Vogels zaczyna swoją opowieść o AI daleko od procesorów graficznych i parametrów modeli. Cofa się do Amsterdamu z XV wieku, publicznych wag miejskich i późniejszych giełd, by pokazać, że zaufanie zawsze wymagało konkretnej infrastruktury. Waga na rynku pozwalała sprawdzić towar. Giełda tworzyła reguły dla ludzi finansujących dalekie wyprawy handlowe. Marmurowa fasada banku niczego nie liczyła lepiej niż konkurencja, ale komunikowała stabilność instytucji.

Internet nie usunął potrzeby zaufania – zmienił jego mechanizm. Ludzie zaczęli wsiadać do samochodów obcych, nocować w cudzych mieszkaniach i instalować oprogramowanie napisane przez osoby, których nigdy nie poznają. Rolę marmurowej fasady przejęły gwiazdki, komentarze, liczba pobrań i reputacja konta – to one miały odpowiadać na pytanie, czy danej usłudze można zaufać.

Problem, na który wskazuje Vogels, polega na tym, że generatywna AI psuje ten mechanizm ekonomicznie. Dawniej stworzenie dziesięciu tysięcy choćby pozornie niezależnych opinii wymagało dziesięciu tysięcy ludzi albo kosztownej farmy kont. Dziś masową produkcję wiarygodnie brzmiących recenzji można zautomatyzować, zróżnicować językowo i dopasować do konkretnego produktu – co oznacza, że system reputacji, na którym oparty jest cały ekonomiczny model internetu, przestaje działać tak, jak działał do niedawna.

Podsumowanie

Werner Vogels, jeden z twórców architektury stojącej za AWS, przestrzega przed traktowaniem generatywnej AI jako narzędzia, które przywróci nam utraconą pewność – jego zdaniem to systemy z natury zawodne, a odpowiedzialność za budowę nowych mechanizmów zaufania spada teraz na architektów infrastruktury, nie na sam model.