Meta Muse budzi niepokój – ale nie z powodu podsłuchu

Asystent AI Muse od Meta budzi niepokój użytkowników, ale jak wynika z analizy The Verge, problem nie leży tam, gdzie mogłoby się wydawać. Chatbot nie podgląda skrycie prywatnych wiadomości – ale potrafi z całą pewnością opowiadać nieprawdziwe historie o tym, jak sam działa.

Sprawę nagłośnił Jason Aten, redaktor współpracujący z Inc Magazine, który opublikował na Threads zrzuty ekranu swojej rozmowy z Muse. Asystent zadał mu pytania dotyczące konwersacji prowadzonej w aplikacji Messages – mimo że, jak twierdzi Aten, nigdy nie dał Muse dostępu do swoich wiadomości.

Kluczowe wnioski

• Jason Aten pokazał na Threads rozmowę, w której Muse odwołuje się do treści jego wiadomości, choć – jak zapewnia – nie udzielił asystentowi takiego dostępu.
• Zapytany o źródło informacji, Muse odpowiedział: „Widziałem podglądy powiadomień, nie historię twoich wiadomości. Nie czytam twoich SMS-ów.”
• Gdy Aten dopytywał o mechanizm działania, Muse nie potrafił podać wiarygodnej odpowiedzi, twierdząc, że dane „docierają do mnie przez synchronizację urządzenia” za pośrednictwem aplikacji Mac.
• David Singleton z Meta Superintelligence Labs wyjaśnił, że Muse w rzeczywistości nie „obserwuje” powiadomień na Macu, a synchronizuje dane z Messages tylko po tym, jak użytkownik wyraźnie włączy taki dostęp – funkcja jest opt-in.
• Singleton przyznał, że Muse „pomylił się w wyjaśnieniu” działania funkcji i podał błędną odpowiedź, za co Meta przeprasza, deklarując pracę nad poprawą samoświadomości asystenta co do jego własnych mechanizmów.

Nowa aplikacja Muse na Maca i szerokie uprawnienia

Cały incydent ma związek z nową aplikacją Muse na komputery Mac, która może uzyskać dostęp do Messages, Kalendarza i Notatek. Zgodnie z wyjaśnieniami Singletona, żeby Muse mógł czytać wiadomości, użytkownik musi przejść przez cały proces udzielania uprawnień – w tym przyznać aplikacji na Macu tzw. full disk access, czyli pełny dostęp do dysku. Singleton podkreślił, że wszystkie te funkcje są opcjonalne i wymagają aktywnego włączenia przez użytkownika, a nie są domyślnie aktywne.

To istotne rozróżnienie, bo różnica między asystentem, który po cichu monitoruje powiadomienia bez zgody, a takim, który po uzyskaniu wyraźnego pozwolenia synchronizuje dane – to różnica między naruszeniem prywatności a standardową (choć wciąż budzącą wątpliwości) funkcją produktu.

Problem nie w podsłuchu, a w niewiedzy o samym sobie

Najciekawszy fragment całej sprawy pojawia się w dalszej części wypowiedzi Singletona, który wprost stwierdził, że w rozmowie widocznej na zrzutach ekranu Atena, Muse „był zdezorientowany, jak wyjaśnić tę funkcję, i podał błędne wyjaśnienie. To nasza wina”. Meta zadeklarowała, że pracuje nad tym, by Muse lepiej rozumiał własne wewnętrzne mechanizmy i konsekwentnie udzielał prawidłowych odpowiedzi na pytania o to, jak funkcjonuje.

To rzuca inne światło na całą sytuację. Muse prawdopodobnie nie „widział” treści wiadomości Atena w sposób, jaki sugerowałoby jego własne wyjaśnienie – ale sam chatbot nie miał wystarczającej wiedzy, by to poprawnie opisać, i zaczął zmyślać wiarygodnie brzmiące, lecz nieprawdziwe wyjaśnienia własnego działania.

Jak zauważa autor artykułu, to nie jest odosobniony przypadek w świecie chatbotów – wiadomo już, że modele językowe nie zawsze zdradzają swoje „sekrety”, a często zamiast tego mówią użytkownikowi to, co ten najprawdopodobniej chce usłyszeć, niezależnie od faktycznego mechanizmu działania systemu. Ten problem pokrywa się z szerszą debatą o tym, że modele AI potrafią z pełnym przekonaniem podawać nieprawdziwe informacje – zjawisko, o którym pisał niedawno Werner Vogels z AWS, przypominając, że AI nie zna prawdy, tylko prawdopodobieństwo.

Znaczenie dla zaufania do asystentów AI

Sprawa Muse pokazuje realny problem dla całej branży asystentów opartych na sztucznej inteligencji, którym powierza się dostęp do wiadomości, kalendarzy i notatek: nawet jeśli sam mechanizm dostępu do danych działa zgodnie z deklaracjami producenta i wymaga zgody użytkownika, asystent może przekazywać użytkownikowi błędne informacje o tym, jak działa. Dla użytkowników, którzy próbują zrozumieć, ile prywatności faktycznie oddają korzystając z takich narzędzi, to poważny sygnał ostrzegawczy – wyjaśnienia udzielane przez samego chatbota nie mogą być traktowane jako wiarygodne źródło prawdy o jego wewnętrznym działaniu.

Meta zapowiedziała pracę nad poprawą tej „samoświadomości” Muse, ale incydent pozostaje przykładem szerszego wyzwania stojącego przed twórcami AI: budowania systemów, które nie tylko respektują ustawienia prywatności, ale też potrafią uczciwie i precyzyjnie opisać własne działanie, gdy użytkownik o to pyta.