Niemiecki sąd uznał Google za odpowiedzialne za fałszywe treści generowane przez AI Overviews

Niemiecki sąd regionalny w Monachium wydał przełomowe orzeczenie, które może zmienić sposób działania wyszukiwarek i chatbotów AI na całym świecie. Zgodnie z wstępnym wyrokiem, Google ponosi odpowiedzialność za fałszywe informacje generowane przez funkcję AI Overviews, zgodnie z raportem opublikowanym przez WIRED.

Sprawa dotyczyła dwóch wydawców, którzy odkryli, że automatyczne podsumowania Google bezpodstawnie łączyły ich firmy z podejrzanymi praktykami biznesowymi i oszustwami. Po wysłaniu wezwania do zaprzestania praktyk, Google odmówiło przyjęcia odpowiedzialności, argumentując, że funkcja ostrzega użytkowników o możliwych błędach.

Kluczowe wnioski

• Sąd orzekł, że Google jest odpowiedzialne za fałszywe treści generowane przez AI Overviews, gdyż tworzy „niezależne, nowe i istotne oświadczenia” na podstawie błędnej interpretacji informacji.
• Wyrok stanowi przełom prawny — tradycyjna ochrona wyszukiwarek jako narzędzi ułatwiających dostęp do treści stron trzecich nie obejmuje systemów generatywnej AI.
• Google musi usunąć sporną część oświadczeń uznanych za zniesławiające i pokryć 80% kosztów postępowania sądowego.
• Decyzja może mieć globalne reperkusje dla firm AI takich jak OpenAI, Anthropic czy Perplexity AI, które podobnie ostrzegają przed błędami swoich systemów.
• Sąd odrzucił argument, że ostrzeżenia o możliwych błędach AI zwalniają firmy z odpowiedzialności prawnej.

Przełomowa interpretacja roli AI w internecie

Analiza sądu wykazała kluczową różnicę między tradycyjnymi wyszukiwarkami a systemami AI. Podczas gdy klasyczne wyszukiwarki wyświetlają jedynie listy linków z oświadczeniami stron trzecich, narzędzie Google tworzy nowe treści na podstawie błędnej interpretacji dostępnych informacji.

W tym konkretnym przypadku AI połączyło dane dotyczące innych firm oznaczonych jako potencjalnie zaangażowane w nielegalne praktyki z informacjami o pozwanych przedsiębiorstwach, generując skojarzenia, które nie występowały w żadnym ze źródeł linkowanych przez wyszukiwarkę.

Sędziowie podkreślili również, że korekta dezinformacji nie jest obowiązkiem stron trzecich. Tylko Google ma możliwość modyfikacji technologii odpowiadającej za AI-generowane podsumowania i dlatego „musi ponosić odpowiedzialność”. Dodatkowo sąd stwierdził, że linia obrony Google jest bezpodstawna, ponieważ kwestionowane podsumowanie „zawiera oświadczenia, które w ogóle nie pojawiają się w wynikach wyszukiwania”.

Globalne implikacje dla branży AI

Orzeczenie może mieć daleko idące konsekwencje dla całej branży sztucznej inteligencji. Firmy takie jak OpenAI, Anthropic czy Perplexity AI również ostrzegają użytkowników, że odpowiedzi generowane przez ich systemy mogą zawierać błędy lub wprowadzać w błąd, zalecając weryfikację informacji przed ich wykorzystaniem.

Jednak niemiecka sprawa dowodzi, że takie ostrzeżenia nie wystarczają do zwolnienia deweloperów z odpowiedzialności. Wyrok głosi, że gdy AI generuje nowe oświadczenia, które nie występują bezpośrednio w oryginalnych źródłach, firma projektująca, trenująca, obsługująca i zarządzająca systemem musi ponosić prawną odpowiedzialność za wszelkie szkody spowodowane przez te oświadczenia.

Rzecznik Google, cytowany przez Ars Technica, sugerował możliwość odwołania się od decyzji. „Inwestujemy głęboko w jakość AI Overviews, aby zapewnić, że przytłaczająca większość odpowiedzi dostarcza dokładnych informacji” — stwierdził przedstawiciel firmy, dodając, że „starannie analizujemy tę decyzję, która nie jest jeszcze ostateczna”.

Niemieckie orzeczenie ustanawia precedens, który może zdefiniować sposób, w jaki systemy AI będą regulowane na całym świecie, szczególnie w kontekście odpowiedzialności za generowane treści.