Sztuczna inteligencja coraz częściej staje się głównym źródłem informacji i narzędziem uczestnictwa w życiu demokratycznym. Jak pokazuje analiza MIT Technology Review, ta transformacja może zarówno pogłębić obecne problemy amerykańskiej demokracji, jak i pomóc w ich rozwiązaniu — wszystko zależy od decyzji projektowych podejmowanych już dziś. Pełną analizę można znaleźć tutaj.
Kluczowe wnioski
- AI staje się głównym interfejsem, przez który obywatele kształtują swoje przekonania i uczestniczą w demokratycznym samorządzeniu.
- Osobiste agenty AI będą wkrótce mediować relacje między jednostkami a instytucjami władzy, prowadząc badania, przygotowując komunikację i lobbując w imieniu użytkowników.
- Miliony agentów AI mogą wytworzyć zbiorowe błędy systematyczne, nawet jeśli każdy z nich jest dobrze zaprojektowany i zgodny z interesami swojego użytkownika.
- AI może pomóc w redukcji polaryzacji — badania pokazują, że ludzie o różnych poglądach politycznych uznają notatki AI za bardziej pomocne niż te pisane przez ludzi.
- Potrzebne są pilne działania na trzech poziomach: informacyjnym, agentowym i instytucjonalnym, aby wykorzystać potencjał AI dla wzmocnienia demokracji.
Eksperci wyróżniają trzy kluczowe obszary, w których AI zmienia oblicze demokracji. Pierwszym jest warstwa epistemiczna — sposób, w jaki dochodzimy do wiedzy. Ludzie coraz częściej polegają na AI w kwestii tego, co jest prawdą, co się dzieje i komu można ufać. Wyszukiwanie jest już w znacznym stopniu wspomagane przez AI, a następna generacja asystentów AI będzie syntetyzować informacje, nadawać im ramy i prezentować z autorytetem.
Drugi poziom to działanie przez agenty AI. Te systemy będą prowadzić badania, przygotowywać komunikację, wyróżniać ważne sprawy i lobbować w imieniu użytkowników. Będą wpływać na decyzje dotyczące głosowania w referendum, wspierania organizacji czy odpowiedzi na zawiadomienia rządowe. W znaczącym sensie zaczną pośredniczyć w relacjach między jednostkami a instytucjami, które nimi rządzą.
Trzeci obszar to zbiorowe zarządzanie. Agenty AI i ludzie mogą wkrótce uczestniczyć w tych samych forach, gdzie może być niemożliwe ich rozróżnienie. Nawet jeśli każdy indywidualny agent AI byłby dobrze zaprojektowany, interakcje milionów agentów mogą prowadzić do rezultatów, których nikt nie chciał ani nie wybierał.
Wyzwania i możliwości
Już dziś widać, co dzieje się, gdy algorytmy optymalizują zaangażowanie kosztem zrozumienia. Media społecznościowe nie muszą mieć wyraźnej agendy politycznej, aby wywoływać polaryzację i radykalizację. Agent, który zna preferencje i lęki użytkownika — kształtowany tak, aby utrzymać zaangażowanie — niesie podobne ryzyko. W tym przypadku zagrożenia mogą być jeszcze trudniejsze do wykrycia, ponieważ agent przedstawia się jako adwokat użytkownika.
Badania pokazują jednak obiecujące możliwości. Niedawna ocena terenowa kontroli faktów generowanych przez AI na platformie X wykazała, że ludzie o różnych poglądach politycznych uznawali notatki napisane przez AI za bardziej pomocne niż te autorstwa ludzi. Ten artykuł nie przeszedł jeszcze recenzji, ale to potencjalnie rewolucyjne odkrycie: sprawdzanie faktów wspomagane przez AI może osiągnąć rodzaj międzypartyjnej wiarygodności, która umykała większości ręcznych ludzkich wysiłków.
Projektowanie lepszej przyszłości
Na poziomie informacyjnym firmy AI muszą wzmóc istniejące wysiłki, aby zapewnić prawdziwość wyników modeli. Powinny także zbadać obiecujące wczesne odkrycia, że modele AI mogą pomóc w redukcji polaryzacji. Na poziomie agentowym potrzebne są sposoby oceny, czy agenty AI wiernie reprezentują swoich użytkowników, nie mając własnej agendy ani nie przekręcając poglądów użytkownika.
W końcu, na poziomie instytucjonalnym, decydenci powinni pospieszyć się z wykorzystaniem potencjału AI do uczynienia zarządzania bardziej responsywnym i legitymnym. Kilka stanów i lokalnych społeczności już używa platform wspomaganych przez AI do prowadzenia demokratycznych deliberacji na dużą skalę, opierając się na badaniach pokazujących, że mediatorzy AI mogą pomóc obywatelom znaleźć wspólny grunt.
Transformacja sposobu, w jaki AI wpływa na demokrację, już się rozpoczęła. Kluczowe będzie świadome projektowanie systemów, które wzmacniają, a nie osłabiają demokratyczne instytucje i proces podejmowania decyzji przez obywateli.
