Autor książki o prawdzie przyznał się do używania AI. Narzędzia wykryły 53% treści generowanych przez sztuczną inteligencję

Autor książki o prawdzie i sztucznej inteligencji Steve Rosenbaum znalazł się w centrum kontrowersji po tym, jak magazyn WIRED ujawnił, że jego dzieło „The Future of Truth” zawiera sfabrykowane cytaty, a dodatkowo może być w znacznej części wygenerowane przez AI. Ironią jest, że książka miała właśnie przestrzegać przed wpływem sztucznej inteligencji na postrzeganie prawdy.

Sprawa rozpoczęła się, gdy The New York Times odkrył w książce Rosenbauma ponad pół tuzina wymyślonych lub błędnie przypisanych cytatów. Autor, który ma tytuł magistra z dziedziny „prawdy” z New York University, przyznał się do „przypadkowego” umieszczenia „garstki” „niewłaściwie przypisanych lub syntetycznych” cytatów.

Kluczowe wnioski

• Narzędzie Pangram wykryło, że książka „The Future of Truth” jest w 53% wygenerowana przez AI, z dodatkowymi 9% prawdopodobnie wspomaganymi przez sztuczną inteligencję.
• Autor Steve Rosenbaum przyznał, że używał ChatGPT, Claude, NaturalReaders, ProWritingAid i Grammarly do „dopracowania i wypolerowania prezentacji swoich pomysłów”.
• Rosenbaum odmówił bezpośredniej odpowiedzi na pytanie, czy używał AI do pisania fragmentów książki, twierdząc że „nie pamięta” czy kopiował i wklejał treści generowane przez AI.
• Autor stwierdził, że wolałby przestać pisać niż zrezygnować z używania sztucznej inteligencji w procesie twórczym.

Kontrowersyjna metoda pracy

Po odkryciu sfabrykowanych cytatów przez The New York Times, WIRED postanowił dokładniej przyjrzeć się fragmentowi książki Rosenbauma, który wcześniej opublikowali. Mimo że zespół fact-checkingowy wcześniej zweryfikował cytaty i fakty jako dokładne, polityka redakcyjna WIRED zabrania publikowania treści generowanych lub edytowanych przez AI.

Kiedy czytelnicy zaczęli sugerować, że fragment „wyraźnie napisany przez AI”, redakcja przeprowadziła testy za pomocą kilku narzędzi wykrywających sztuczną inteligencję, w tym Pangram, GPTZero i ZeroGPT. Wszystkie wskazały, że tekst był prawdopodobnie lub z wysoką pewnością wygenerowany przez AI.

Wymijające odpowiedzi autora

Gdy WIRED skontaktował się z Rosenbaum bezpośrednio, autor początkowo twierdził, że „pomysły, reportaż, argumenty i ostateczne autorstwo” należą do niego, a fragment dla WIRED „nie został wygenerowany przez AI i po prostu opublikowany w niezmienionej formie”.

Jednak podczas szczegółowego wywiadu telefonicznego Rosenbaum odmówił odniesienia się do wyników analizy Pangram, porównując takie pytania do pytania „czy bijesz swoją żonę?”. Gdy został zapytany wprost, czy używał AI do pisania lub edytowania fragmentów książki, udzielił wymijającej odpowiedzi, sugerując, że może kopiować i wklejać treści generowane przez AI, a następnie je edytować.

Obrona powszechnego używania AI

Rosenbaum bronił swojego podejścia, powołując się na raport wskazujący, że 82% dziennikarzy używa sztucznej inteligencji. Twierdził, że pisarze „żyją teraz w strachu” z powodu kontroli użycia AI, co jego zdaniem „nie jest zdrowe dla demokracji”.

Autor przyznał, że nadal codziennie używa AI i kategorycznie odmówił rezygnacji z tych narzędzi. Gdy został zapytany, czy wolałby przestać pisać niż zrezygnować z używania AI w procesie twórczym, odpowiedział jednoznacznie: „Tak”.

Sprawa Rosenbauma pokazuje rosnące napięcia wokół transparentności w używaniu narzędzi sztucznej inteligencji przez autorów i dziennikarzy, szczególnie w kontekście książki, która miała ostrzegać przed zagrożeniami AI dla prawdy.