Deb Roy z MIT: kto odpowiada za słowa generowane przez AI?

Profesor Deb Roy z MIT ostrzega przed erozją jednego z filarów demokracji – publicznych konsultacji społecznych – w obliczu masowej produkcji realistycznie brzmiących komentarzy generowanych przez sztuczną inteligencję. Roy, profesor sztuk medialnych i nauk w MIT oraz dyrektor MIT Center for Constructive Communication (CCC), w nowym eseju opublikowanym w „Bulletin of the Atomic Scientists” pod tytułem „Who stands behind the words?” domaga się, by za każdym tekstem funkcjonującym w życiu publicznym stała konkretna osoba odpowiedzialna za jego treść – niezależnie od tego, czy tekst napisał człowiek, czy maszyna.

Problem, na który zwraca uwagę Roy, dotyka samego fundamentu demokratycznych procedur: konsultacji publicznych. Urzędnicy od lat radzą sobie z masowo produkowanymi, fałszywymi komentarzami mającymi wpłynąć na politykę, ale z czasem nauczyli się je rozpoznawać. Tekst wygenerowany przez AI jest jednak znacznie trudniejszy do zdemaskowania jako fabrykacja bez konkretnego autora.

Kluczowe wnioski

• Deb Roy, profesor MIT i dyrektor Center for Constructive Communication, opublikował esej „Who stands behind the words?” w Bulletin of the Atomic Scientists, wzywający do odpowiedzialności za każdy tekst publiczny – także generowany przez AI.
• Pomysł dojrzewał od premiery ChatGPT, kiedy Roy, mimo wieloletniego doświadczenia z modelami językowymi (żartobliwie nazywa swoje wcześniejsze prace „PLM” – Puny Language Models, czyli „nędznymi modelami językowymi”), nie potrafił już jednoznacznie wskazać, czym AI różni się od ludzkiego myślenia.
• Urzędnicy państwowi odpowiedzialni za przegląd komentarzy do proponowanych regulacji od lat zgłaszają podejrzenia, że część z nich nie została napisana przez ludzi – co, zdaniem Roya, „delegitymizuje ten kanał publicznej opinii”.
• Roy twierdzi, że ten filar demokracji „właśnie pękł, a w jego mniemaniu – już się zawalił”, a osoby odbierające komentarze po cichu obniżyły wagę, jaką im przypisują.
• CCC oraz powiązana organizacja non-profit Cortico, współzałożona przez Roya, projektują procesy dialogu społecznego tak, by uczestnicy mogli na każdym kluczowym etapie sprawdzać i nadpisywać wyniki wygenerowane przez narzędzia technologiczne, w tym AI.

Moment przełomu: od modeli językowych do pytania o odpowiedzialność

Roy przyznaje, że problem braku odpowiedzialności za słowa wygenerowane przez AI wyraźnie wykrystalizował się dla niego wraz z premierą ChatGPT. Jego własna historia z modelami językowymi sięga znacznie dalej – praca doktorska dotyczyła tego, co dziś żartobliwie nazywa PLM-ami, czyli „nędznymi modelami językowymi” (Puny Language Models), więc śledził ewolucję tej dziedziny od lat. Mimo to ChatGPT, jak mówi, „skręcił za róg” – zmieniły się jednocześnie głębia modelu i jego wiedzy oraz sposób interakcji z nim.

Roy opisuje, że stał się wręcz obsesyjnie zafascynowany próbami znalezienia granic możliwości systemu – i nie potrafił ich odnaleźć. Swoją karierę naukową na MIT zbudował wokół koncepcji tzw. language grounding – przekonania, że do zrozumienia znaczenia słów AI potrzebowałaby fizycznego ciała i doświadczeń życiowych, a samo przetwarzanie wielkich ilości tekstu nie wystarczy. Wrócił więc do literatury filozoficznej dotyczącej AI, próbując udowodnić swoim doktorantom, że mimo pozornej inteligencji systemy te są fundamentalnie różne od ludzkiego poznania. Jak sam przyznaje, nie udało mu się ich przekonać – a w pewnym momencie zaczął wątpić również we własne argumenty.

To doprowadziło go do kluczowego pytania: czy za tymi słowami stoi ktoś lub coś – człowiek odpowiedzialny za to, co zostało powiedziane? Jego zdaniem właśnie tego brakuje tej niezwykłej nowej „maszynie językowej”. Nawet jeśli przyznać systemom AI pełne zrozumienie języka – a to wciąż przedmiot aktywnej debaty – wciąż brakuje im „pozycji” (standing). Odpowiedzialność, jak zauważa Roy, nie może zatrzymać się na oprogramowaniu, które niczego nie ryzykuje.

Pęknięty filar demokracji: publiczne konsultacje pod presją AI

Po premierze ChatGPT Roy zaczął słyszeć niepokojące sygnały od osób pracujących w administracji publicznej, które przeglądają komentarze obywateli do proponowanych regulacji – podejrzenie, że nie wszystkie z nich zostały napisane przez ludzi. Jego reakcja była jednoznaczna: to zjawisko zdelegitymizuje cały kanał publicznej informacji zwrotnej.

Publiczne konsultacje, jak podkreśla Roy, są jednym z filarów demokracji w Stanach Zjednoczonych. Zanim wprowadzi się nową regulację, obywatele muszą mieć głos i poczucie, że zostali wysłuchani – inaczej nie zaakceptują nowych zasad jako legitymizowanych. To dlatego ten proces jest wbudowany w sposób funkcjonowania amerykańskiego systemu. Zdaniem Roya ten filar „właśnie pękł, a w jego mniemaniu – już się zawalił”. Zadaje przy tym retoryczne pytanie: czy ktokolwiek to zauważył? Jego wrażenie jest takie, że osoby odbierające te komentarze po cichu obniżyły wagę, jaką im przypisują – proces nigdy nie był doskonały, ale teraz traci sens niemal całkowicie.

Odpowiedzialność jako fundament pracy Center for Constructive Communication

Budowanie lepszych dialogów grupowych, które generują większe publiczne zaufanie, to kluczowy element pracy MIT Center for Constructive Communication. Ośrodek ten, wspólnie z Cortico – ściśle powiązaną organizacją non-profit, którą Roy współzałożył – pomaga prowadzić dyskusje grupowe na ważne tematy w wielu kontekstach: na spotkaniach obywatelskich, w szkołach, podczas zgromadzeń deliberatywnych oraz w organizacjach prywatnych.

Zespół wykorzystuje narzędzia technologiczne, w tym AI, by pomóc znajdować wspólne wątki wśród komentarzy uczestników. Kluczowe jest jednak to, jak proces ten jest zaprojektowany: uczestnicy mogą sprawdzać i nadpisywać wyniki oparte na technologii na każdym istotnym etapie. W efekcie to zawsze człowiek pozostaje odpowiedzialny za każdy publiczny komentarz – co stanowi praktyczną realizację postulatu, który Roy opisuje w swoim eseju.

Przykłady opisane przez Roya w tekście dla Bulletin of the Atomic Scientists pokazują fora konsultacji obywatelskich, w których pozornie widać realnych ludzi wypowiadających opinie, a w rzeczywistości mamy do czynienia z zalewem komentarzy wygenerowanych przez AI. Doświadczenie to skłoniło go do postawienia szerszej tezy: niezależnie od tego, jak zaawansowana staje się technologia tworząca tekst, za każdym słowem funkcjonującym w przestrzeni publicznej musi stać ktoś gotowy wziąć za nie odpowiedzialność.

Esej Deba Roya stawia pytanie o przyszłość publicznego dyskursu w erze generatywnej AI: jeśli nie uda się przywrócić zasady odpowiedzialności za słowa, kluczowe mechanizmy demokratycznego dialogu – od konsultacji regulacyjnych po debaty obywatelskie – mogą stracić swoją legitymację w oczach zarówno obywateli, jak i instytucji je odbierających.