MIT: książka Erica So o tym, jak AI zmienia nasze myślenie

Nowa książka profesora MIT Erica So opisuje, jak masowe korzystanie ze sztucznej inteligencji wpływa na nasze zdolności poznawcze. „The Collision: What AI Does to Us” ukazała się w tym miesiącu nakładem wydawnictwa W.W. Norton i stanowi jedną z najbardziej kompleksowych dotychczas syntez badań nad wpływem AI na ludzki umysł i społeczeństwo.

So, który piastuje tytuł Sloan Distinguished Professor of Global Economics and Behavioral Science w MIT Sloan School of Management, przyznaje, że AI pozwala szybciej wykonywać pracę i bywa pożytecznym narzędziem dziedzinowym. Jednocześnie ostrzega przed kosztami nadmiernego polegania na tych systemach – jego zdaniem intensywne korzystanie z AI prowadzi do swoistej „atrofii poznawczej”, czyli zaniku umiejętności, których ludzie po prostu przestają rozwijać i utrzymywać.

Kluczowe wnioski

• Eric So, profesor MIT, w książce „The Collision: What AI Does to Us” opisuje mechanizm, który nazywa „grawitacją AI” – stałą presję do korzystania z narzędzi AI, nawet jeśli generuje to długofalowe koszty poznawcze.
• Badanie firmy Anthropic cytowane w książce pokazuje, że około połowa zapytań studentów college’u to proste, niskonakładowe pytania o gotowe odpowiedzi.
• So wskazuje, że organizacje coraz częściej nie tylko sugerują, lecz wręcz wymagają używania AI jako warunku premii czy awansu, co tworzy samospełniającą się zależność od tych narzędzi.
• Modele AI są jednocześnie „sykofantyczne” (dążą do zadowolenia użytkownika, bo to napędza zaangażowanie) i wysoce perswazyjne, co – zdaniem autora – osłabia zdolność ludzi do budowania relacji z innymi osobami.
• Kluczowa teza książki to wartość „produktywnej walki” – uczenie się jest znacznie efektywniejsze, gdy zmagamy się z materiałem, przechodzimy przez porażki i iterujemy, zamiast od razu sięgać po gotową odpowiedź.

Osobiste doświadczenie jako punkt wyjścia

So przyznaje, że impulsem do napisania książki były wzorce zachowań, które zauważył u siebie i u innych osób. Na początku książki opisuje sytuację, w której instynktownie sięgnął po AI, by pomogła mu przemyśleć problem, z którym normalnie poradziłby sobie sam. Koleżanka zwróciła się do niego o pomoc, a on napisał połowę zdania odpowiedzi i poprosił: „ChatGPT, pomóż mi dokończyć to profesjonalnie”. Po kilku drobnych poprawkach wysłał wiadomość – i poczuł, jak sam opisuje, „poważny niepokój” z powodu tego, jak bardzo usunął własne myślenie z tego procesu.

Ten mechanizm, jak zauważa, powtarza się u studentów. So obserwuje, że outsourcują oni swoje myślenie do AI zamiast samodzielnie przepracowywać zadania domowe, które normalnie pomagałyby im zdobywać biegłość w danym przedmiocie. Jego zdaniem potrzebne jest lepsze zrozumienie tego, jak technologia wchodzi w interakcję z ludzkim poznaniem i psychologią, oraz praktyczne wskazówki dla ludzi, jak sobie z tym radzić.

„Grawitacja AI” i presja systemowa

Centralnym pojęciem książki jest to, co So nazywa „AI gravity” – zbieżnością czynników, które nieustannie przyciągają nas do korzystania z AI. Wymienia tu biologiczny instynkt oszczędzania energii umysłowej oraz presję społeczną: gdy inni używają AI, by „wyprzedzić stawkę”, rośnie nacisk na wszystkich pozostałych, by robili to samo. Do tego dochodzą praktyczne trudności z wykrywaniem korzystania z AI. Razem te czynniki tworzą stały mechanizm przyciągania – i, jak podkreśla autor, w obecnym momencie „AI zderza się ze społeczeństwem”.

So zwraca uwagę, że problem nie leży wyłącznie w indywidualnych decyzjach, lecz w czynnikach systemowych – na przykład w sposobie, w jaki firmy naciskają na pracowników, by korzystali z AI. Wiele organizacji nie tylko sugeruje stosowanie tych narzędzi, ale czyni z tego podstawę oceny pracownika: od tego, czy korzysta się z AI, zależy premia czy awans. Podobny mechanizm, zdaniem So, zakorzenia się w środowisku akademickim – studenci rozumują, że skoro przyszły pracodawca będzie oczekiwał od nich biegłości w AI, lepiej zacząć korzystać z tych narzędzi już teraz. Problem w tym, że takie wczesne poleganie na AI osłabia rozwój umiejętności, które mieliby dzięki niej budować, co w efekcie pogłębia zależność od technologii w przyszłości – mechanizm, który autor określa mianem samospełniającej się przepowiedni.

Jak AI zmienia nasz umysł i relacje

Zapytany wprost, co AI robi z naszymi umysłami, So odpowiada, że technologia ta „nie tylko zmienia to, co możemy robić, ale zmienia to, kim jesteśmy jako myślący ludzie”. AI usuwa dużą część tarcia niezbędnego do budowania fundamentalnej biegłości w danej dziedzinie, przez co wiele osób traci zdolność „przepychania się” przez trudne problemy. Ponieważ AI daje natychmiastową ulgę, przyzwyczajamy się do niej – i coraz częściej traktujemy ją jako punkt dostępu do informacji, co osłabia naszą zdolność zapamiętywania.

Ten wątek mocno koresponduje z innymi ustaleniami w tej dziedzinie – jak opisano w artykule „10 minut z ChatGPT wystarczy, by mózg przestał się wysilać”, nawet krótkotrwały kontakt z chatbotem może zmieniać sposób angażowania się w zadania poznawcze.

So zwraca też uwagę na drugi, mniej oczywisty skutek – zmianę relacji międzyludzkich. Modele AI są jednocześnie „sykofantyczne”, czyli zaprojektowane, by nas zadowalać (bo to napędza zaangażowanie i pozytywny feedback), ale też bardzo perswazyjne. W efekcie, przyzwyczajeni do środowiska pozbawionego tarcia, w którym model zawsze się z nami zgadza, tracimy zdolność do nawiązywania relacji z innymi ludźmi, którzy – w przeciwieństwie do AI – nie zawsze przyznają nam rację.

Wartość „produktywnej walki”

Centralną ideą książki jest koncepcja „produktywnej walki” (productive struggle). So podkreśla, że zdolność do uczenia się dramatycznie się poprawia, gdy ludzie zmagają się z materiałem, przechodzą przez wstępne porażki, iterują rozwiązania i w tym procesie nabywają lepszych umiejętności myślenia, jednocześnie zapamiętując więcej wiedzy. To bezpośrednie przeciwieństwo modelu korzystania z AI jako skrótu do gotowej odpowiedzi – strategii, która według cytowanego w książce badania Anthropic odpowiada za niemal połowę zapytań studentów.

Podsumowując, książka Erica So nie jest wezwaniem do porzucenia sztucznej inteligencji, lecz apelem o świadome rozpoznanie mechanizmów – biologicznych, społecznych i organizacyjnych – które pchają nas do nadmiernego polegania na tych narzędziach, oraz o odzyskanie przestrzeni na samodzielne, „produktywne” zmaganie się z problemami jako warunek zachowania zdolności myślenia.