Prezeska Signal ostrzega: chatboty AI to nie są wasi przyjaciele

Meredith Whittaker, prezeska Signal, ostrzega użytkowników przed traktowaniem chatbotów AI jak przyjaciół czy świadomych istot. W wywiadzie dla Bloomberg podkreśliła, że systemy takie jak ChatGPT czy Claude to „nie są wasi przyjaciele” ani „świadomi rozmówcy”.

Whittaker wyraziła szczególne obawy dotyczące scenariusza, w którym asystenci AI otrzymują szerokie uprawnienia do działania w imieniu użytkowników, włącznie z dostępem do prywatnych komunikatorów i danych finansowych.

Kluczowe wnioski

• Chatboty AI nie są przyjaciółmi ani świadomymi istotami — to systemy uśredniające istniejące treści.
• Whittaker używa AI jedynie do formatowania dokumentów, ale nie zadaje im pytań ani nie polega na nich w procesie myślenia.
• Scenariusz Microsoft Copilot robiącego zakupy świąteczne wymagałby dostępu do karty kredytowej, przeglądarki, Signal i kalendarza.
• Taki poziom dostępu stanowiłby w kontekście Signal rodzaj „tylnych drzwi” naruszających prywatność.

Ograniczone zaufanie do AI

Prezeska Signal przyznała, że korzysta z narzędzi AI, ale w bardzo ograniczonym zakresie. „Używam ich do formatowania dokumentu tu i ówdzie”, powiedziała Whittaker, dodając jednak: „Nie zadaję im pytań. Bardzo poważnie traktuję swoje myślenie i pisanie i nie chcę, żeby proces przemyślenia idei został zastąpiony przez odpowiedź systemu, który uśrednia to, co już istnieje”.

Ta postawa odzwierciedla szeroże obawy dotyczące wpływu AI na ludzką kreatywność i samodzielność myślenia. Whittaker sugeruje, że nadmierne poleganie na chatbotach może ograniczyć naszą zdolność do niezależnego rozwiązywania problemów.

Obawy o prywatność i bezpieczeństwo

Szczególnie niepokojąca dla Whittaker jest wizja AI-asystentów z szerokim dostępem do naszych danych. Odnosząc się do przewidywań Mustafy Suleymana, CEO Microsoft AI, że użytkownicy będą mogli pozwolić Microsoft Copilot na obsługę wszystkich świątecznych zakupów, Whittaker wskazała na implikacje takiego rozwiązania.

„Co właśnie opisałeś to system z bardzo wszechstronnym dostępem do wielu aplikacji i usług”, argumentowała. Taki asystent potrzebowałby dostępu do karty kredytowej, przeglądarki, Signal, możliwości wysyłania wiadomości do rodzeństwa w imieniu użytkownika, adresu domowego i kalendarza.

W kontekście Signal, której misją jest ochrona prywatności komunikacji, taki poziom dostępu „stanowiłby rodzaj tylnych drzwi” — dokładnie to, przeciwko czemu aplikacja została stworzona.

Stanowisko Whittaker odzwierciedla szersze dylematy związane z równoważeniem wygody oferowanej przez AI z fundamentalnymi kwestiami prywatności i bezpieczeństwa cyfrowego.