George Orwell w swojej kultowej powieści "Rok 1984" z 1949 roku przewidział zjawisko, które dziś nazywamy "AI slop" – masowo produkowaną, niskiej jakości treść generowaną przez sztuczną inteligencję.
Źródło zdjęcia: Open Culture
George Orwell w swojej kultowej powieści "Rok 1984" z 1949 roku przewidział zjawisko, które dziś nazywamy "AI slop" – masowo produkowaną, niskiej jakości treść generowaną przez sztuczną inteligencję. Analiza opublikowana przez Open Culture pokazuje, jak pisarz zdumiewająco trafnie przewidział współczesne problemy z automatycznie generowanymi treściami.
• Orwellowska wizja versyfikatora – W "Roku 1984" Ministerstwo Prawdy używało urządzenia zwanego "versyfikatorem", które komponowało piosenki "całkowicie mechanicznie, bez jakiejkolwiek interwencji człowieka"
• Produkcja rozrywki dla mas – Versyfikator tworzył "tandetne gazety zawierające prawie wyłącznie sport, kryminały i astrologię, sensacyjne pięciocentowe powiastki, filmy ociekające seksem i sentymentalne piosenki"
• Niepokojące podobieństwo do współczesności – Obecne "AI slop" odzwierciedla tę samą logikę: masowa produkcja niskiej jakości treści dla zaspokojenia nieskomplikowanych potrzeb odbiorców
• Problem leży w popycie – Jak zauważa autor, przerażające jest nie tyle istnienie takiej technologii, ale fakt że cieszy się ona autentyczną popularnością
• Isaac Asimov się mylił – Pisarz science fiction krytykował "Rok 1984" za słabe prognozy technologiczne, ale rozwój AI w latach 2020. pokazał, jak trafne były przewidywania Orwella
W dystopijnym świecie "Roku 1984" Orwell opisał departamenty Ministerstwa Prawdy zajmujące się "literaturą proletariacką, muzyką, dramatem i rozrywką w ogóle". Tam produkowano masowo treści za pomocą "specjalnego rodzaju kalejdoskopu znanego jako versyfikator".
Główny bohater Winston Smith słyszy później piosenkę skomponowaną przez to urządzenie, śpiewaną przez kobietę z najniższej klasy społecznej. Jak pisze Orwell, "prole" wymagali jedynie swobody zaspokajania swoich nałogów i stałego strumienia uspokajających mediów.
Dzisiejsze "AI slop" – treści tworzone z minimalnym udziałem człowieka – przypomina produkty versyfikatora. Autor analizy zwraca uwagę na niepokojący fakt: taka niska jakość treści nie zyskałaby popularności, gdyby nie była "autentycznie popularna".
To odzwierciedla nie tyle złe intencje władz, ile "nieskomplikowaną naturę społeczeństwa". Podobnie jak śmieciowa kultura pompowana przez Ministerstwo Prawdy, AI slop odpowiada na rzeczywisty popyt odbiorców.
Isaac Asimov w 1980 roku krytykował "Rok 1984" jako słabą przepowiednię przyszłości, szczególnie z technologicznego punktu widzenia. Pisał to jednak na końcu "zimy AI" – okresu zastoju w badaniach nad sztuczną inteligencją. Prawdziwie zdumiewające przełomy miały nastąpić dopiero w latach 2020., około trzydzieści lat po śmierci Asimova.
Orwell prawdopodobnie ekstrapolował swoją wizję versyfikatora z rozpraszających, jednorazowych rozrywek lat czterdziestych XX wieku. Choć czytelnicy mogli nie wierzyć w możliwość automatycznego tworzenia takiej rozrywki, wielu zapewne zgadzało się z oceną jej jakości. Dziś, gdy sztuczna inteligencja staje się poważnym wyzwaniem dla zbiorowej ludzkiej inteligencji, indywidualna ludzka zdolność rozróżniania nigdy nie była bardziej cenna.