Złota era internetu tworzonego przez ludzi ustępuje miejsca epoce „AI slop” – bezwartościowej, niskiej jakości treści produkowanej przez modele generatywne. W starciu z milionami syntetycznych postów zalewających sieć w ułamku sekundy, tradycyjny, oparty na pracy ludzkiej fact-checking okazuje się całkowicie bezradny. Zapanowanie nad całym chaosem wymaga narzędzi o równie ogromnej skali działania, a jak wiadomo, wszystko kosztuje. Sztuczna inteligencja, będąca głównym winowajcą dezinformacyjnego kryzysu, staje się zarazem naszym jedynym rozwiązaniem. Prawdziwym przełomem nie jest jednak ślepe zaufanie algorytmom oceniającym prawdę, lecz wdrożenie transparentnych systemów hybrydowych. Dopiero połączenie automatyzacji z czynnikiem ludzkim i nadzorem społeczeństwa pozwala stworzyć rozwiązanie, które opiera się cyfrowym halucynacjom oraz treściom generowanym na masową skalę.
W połowie 2023 roku algorytmy Facebooka zaczęły promować treści szkodliwe dla niektórych grup. Zamiast zdjęć znajomych czy sprawdzonych artykułów z portali informacyjnych, użytkownicy zaczęli masowo trafiać na monumentalne, groteskowe rzeźby Jezusa Chrystusa wykonane w całości ze skorupiaków. Zjawisko to, szybko ochrzczone w sieci mianem „Shrimp Jesus”, było jedynie wierzchołkiem góry lodowej. Wkrótce dołączyły do niego inne podobizny układane ze spaghetti, arbuzów, a nawet misternie rzeźbione z tysięcy plastikowych butelek. Absurd sytuacji polegał jednak nie tyle na samym istnieniu tych cyfrowych tworów co na reakcji odbiorców. Pod postami błyskawicznie pojawiały się setki tysięcy polubień i dziesiątki tysięcy komentarzy o treści „Amen”, „Praise the Lord” czy „Niesamowity talent artysty!”.
Kto i po co tworzy takie treści? Odpowiedź kryje się w modelu biznesowym współczesnych platform społecznościowych, który bezwzględnie premiuje zaangażowanie pod postem, całkowicie ignorując to, co tam faktycznie się znajduje. Zjawisko nazwano farmieniem zaangażowania. Twórcy takich profili, często operujący z krajów o niższych kosztach życia lub wykorzystujący do tego celu w pełni zautomatyzowane farmy botów AI, używają darmowych generatorów obrazów, by masowo produkować materiały uderzające w proste, instynktowne emocje religijne, patriotyczne lub nostalgiczne. Cel jest czysto komercyjny – wyhodowanie ogromnych zasięgów jak najmniejszym kosztem. Profil z milionem obserwujących, zbudowany wyłącznie na krewetkowym Jezusie, można następnie monetyzować – poprzez wyświetlanie reklam, przemycanie linków afiliacyjnych do wątpliwych produktów lub po prostu przez sprzedaż konta na czarnym rynku.
Ten mechanizm wprowadził do cyfrowego słownika – wspomniane już wcześniej – zupełnie nowe pojęcie: AI slop. W tym paragrafie postaramy się je bliżej przedstawić. W przeciwieństwie do precyzyjnie wycelowanych deepfake’ów – takich jak zfabrykowane nagrania polityków mające wpłynąć na wynik wyborów czy skompromitować osoby publiczne – slop nie ma na celu przekonania kogokolwiek do konkretnej ideologii politycznej; ma na celu tylko kradzież ludzkiej uwagi. Slop zalewa dziś nie tylko media społecznościowe, ale także wyniki wyszukiwarek w postaci bezwartościowych, syntetycznych artykułów pisanych pod SEO oraz portale aukcyjne, gdzie wygenerowane produkty są zachwalane przez równie zmyślone, wygenerowane recenzje.
Najbardziej niepokojącym aspektem fenomenu „Shrimp Jesus” jest jednak to, co mówi on o naszej zbiorowej percepcji technologicznej i podatności na manipulację. Ujawnił on zjawisko, które socjolodzy internetu i badacze nowych mediów zaczynają określać mianem „slop-blindness”. Mimo ewidentnych, rażących błędów w generowanych obrazach – zniekształconych twarzy w tle, nadmiarowych palców u rąk, mieszania się tekstur czy fizycznie niemożliwych konstrukcji – ogromna część użytkowników traktowała te obrazy jako autentyczne fotografie niesamowitych rzeźb. Problem ten dotyka w szczególności osób starszych oraz wykluczonych cyfrowo, które nie posiadają wykształconych mechanizmów obronnych przeciwko syntetycznym treściom. To stawia pod ogromnym znakiem zapytania naszą gotowość na nadejście kolejnych generacji modeli AI. Jeśli masowy odbiorca nie potrafi rozpoznać ewidentnego absurdu i anomalii graficznych w obrazach, tradycyjne metody edukacji i weryfikacji faktów z pewnością nie wystarczą do walki z fotorealistycznym, dynamicznym slopem.
Ekosystem pełen śmieci, czyli dlaczego przestajemy wierzyć własnym oczom
Pewnie obiła Ci się o uszy Teoria Martwego Internetu – ta nieco straszna koncepcja, według której większość ruchu w sieci to już dawno tylko sztuczna inteligencja gadająca ze samą sobą. Kiedyś brzmiało to jak scenariusz taniego filmu sci-fi, ale dziś, patrząc na ilość AI slopu, coraz trudniej się z tego śmiać. Żeby zrozumieć, co nam grozi, wyobraź sobie internet nie jako zbiór przewodów i serwerów, ale jako środowisko naturalne. Filozof Luciano Floridi (2014) ukuł na to świetny termin: „infosfera”. Zasada jest prosta – tak jak biosfera potrzebuje czystej wody i powietrza, tak nasza infosfera potrzebuje prawdziwych, rzetelnych informacji. Jeśli zaczniemy do niej pompować masowo syntetyczne śmieci, cały ekosystem w końcu zgnije.
I tu zaczyna się najciekawsza debata, bo eksperci są mocno podzieleni co do tego, jak bardzo mamy – mówiąc wprost – przechlapane. Z jednej strony mamy ujęcie mocno apokaliptyczne, które świetnie reprezentuje badacz Don Fallis (2020). Twierdzi on, że deepfake’i i generowane treści to tak zwane zagrożenia epistemiczne. Co to znaczy w ludzkim języku? Fallis uważa, że największym problemem wcale nie jest to, że dajesz się oszukać fałszywym obrazkom. Prawdziwy dramat polega na tym, że w obliczu tego całego cyfrowego szlamu w pewnym momencie po prostu przestaniesz wierzyć w cokolwiek. Stwierdzisz, że skoro wszystko można podrobić, to prawda już nie istnieje. Zaczniemy cierpieć na totalny, epistemiczny nihilizm.
Na drugim biegunie mamy inżynierów i programistów. Zespół badawczy pod wodzą Ziwei Ji (Ji i in., 2023) patrzy na to wszystko ze sporym dystansem. Dla nich generowanie zmyślonych głupot przez modele językowe (halucynacje AI / ai slop) to nie jest koniec świata ani upadek prawdy. To po prostu zwykły artefakt w kodzie – techniczna usterka. Algorytm dostał złe dane treningowe, pomylił się. Trzeba poprawić model i problem zniknie.
Kto z nich ma rację? Fallis za bardzo demonizuje samą technologię, a inżynierowie zespołu Ji są zbyt naiwni, wierząc, że „lepszy kod” wyleczy internet. Prawdziwym winowajcą nie jest algorytm, który wygenerował krewetkowego Jezusa, ani to, że nasze mózgi dają się łatwo oszukać. Jak punktuje w swoim dziennikarskim śledztwie Jason Koebler (WEB1), wszystko sprowadza się do bezlitosnych modeli biznesowych platform społecznościowych. Algorytmy gigantów technologicznych płacą za kliknięcia, komentarze i udostępnienia. Dla Facebooka czy X nie ma znaczenia, czy post to nagrodzony Pulitzerem reportaż, czy absurdalny obrazek wygenerowany przez nastolatka w Midjourney. Liczy się tylko to, czy zatrzymał twoją uwagę. AI slop zalał sieć, bo po raz pierwszy w historii koszt wyprodukowania „angażującego” contentu spadł do zera. Sztuczna inteligencja to tylko pistolet, ale to platformy pociągają za spust.
Kiedy platforma sama staje się fabryką slopu
Zanim zaczniemy szukać inżynieryjnych rozwiązań, musimy uczciwie zdiagnozować jedną bardzo niewygodną prawdę. Platformy społecznościowe wcale nie chcą zlikwidować problemu AI slopu w stu procentach. Dlaczego? Bo choć w oficjalnych komunikatach PR-owych giganci technologiczni ubolewają nad dezinformacją, to ich modele biznesowe dosłownie tuczą się na takich treściach. Z technologicznego punktu widzenia zachowują się jak strażak, który po godzinach dorabia jako podpalacz.
Najbardziej interesującym przypadkiem takiej systemowej hipokryzji jest podejście firmy Meta – właściciela Facebooka, Instagrama i WhatsAppa. Przez długi czas farmy internetowych trolli i spamerzy z całego świata musieli korzystać z zewnętrznych narzędzi (takich jak Midjourney czy DALL-E) do generowania treści, a następnie ręcznie publikować je na Facebooku. W 2024 roku Mark Zuckerberg postanowił jednak uciąć pośredników. Meta zintegrowała swój potężny, autorski model generatywny bezpośrednio z rdzeniem swoich najważniejszych aplikacji. Co to oznacza w praktyce? Generowanie AI slopu stało się natywną, wbudowaną funkcją platformy, która kiedyś służyła do komunikacji z rodziną i znajomymi. Dzięki wdrożeniu komendy „Imagine” bezpośrednio w oknach wyszukiwania i czatach, każdy użytkownik może wyprodukować fotorealistyczny, syntetyczny obraz w ułamku sekundy, a następnie natychmiast wrzucić go do sieci. Meta poszła o krok dalej, wdrażając na Instagramie i Facebooku przyciski zachęcające do natychmiastowego wygenerowania tła do naszego zdjęcia za pomocą AI. Zamiast chronić infosferę, firma otwarcie zachęca do jej zanieczyszczania.
Ten ruch obnaża prawdziwą naturę algorytmów rekomendacyjnych – AI slop jest dla nich idealny. Z psychologicznego punktu widzenia, obrazy generowane przez sztuczną inteligencję są zoptymalizowane pod kątem maksymalnej stymulacji naszych instynktów. Są przejaskrawione, często szokujące (jak dzieci budujące zamki z plastikowych butelek w slumsach) lub bazujące na tanim sentymentalizmie. Dla algorytmu Mety, zaprogramowanego wyłącznie na maksymalizację wskaźnika czasu spędzonego w aplikacji i wskaźnika zaangażowania, taki post jest na wagę złota.
Mechanizm ten tworzy perfekcyjny, samonapędzający się mechanizm. Sztuczna inteligencja Mety tworzy absurdalny obrazek. Algorytm wyświetlania natychmiast podbija zasięgi tego obrazka, bo widzi, że słabiej wyedukowani cyfrowo użytkownicy masowo zostawiają pod nim komentarze „Amen”. Następnie system reklamowy Mety (Facebook Ads) chętnie wyświetla w pobliżu tego wpisu lukratywne reklamy. Na końcu tej taśmy produkcyjnej inżynierowie platformy używają tych samych komentarzy do dalszego trenowania swoich algorytmów.
Nie jest to zjawisko zarezerwowane wyłącznie dla firm Marka Zuckerberga. Widzimy to również u gigantów wyszukiwarek. Wdrażanie tzw. „AI Overviews” (przeglądów tworzonych przez AI na samym szczycie wyników wyszukiwania Google) sprawiło, że wyszukiwarka potrafiła z pełną powagą polecać użytkownikom dodawanie nietoksycznego kleju do pizzy, by ser lepiej się trzymał, opierając się na wygenerowanych halucynacjach lub zanonimizowanych żartach z Reddita. Platformy nie tyle nie radzą sobie z cyfrowym szlamem – one po prostu uznały, że walka z nim się nie opłaca. Koszty moderacji są potężne, a zyski z zasięgów, które generuje slop, są natychmiastowe.
To zjawisko idealnie wpisuje się w koncepcję pisarza Cory’ego Doctorowa, nazywaną „Enshittification”. Polega ono na tym, że platformy w pogoni za rosnącym zyskiem stopniowo pogarszają doświadczenie swoich użytkowników, zalewając ich bezwartościową papką, o ile tylko ta papka zatrzymuje ich wzrok przed ekranem na dodatkową sekundę. W tym kontekście walka z AI slopem nie jest już tylko problemem technologicznym. Staje się fundamentalnym starciem etycznym z modelami biznesowymi największych korporacji świata.
Notatki Społeczności, czyli jak pogodzić ogień z wodą
Skoro wiemy już, że tradycyjny fact-checking jest za wolny, a czysto algorytmiczny weryfikator to prosta droga do cenzury i halucynacji, to jak z tego wyjść? Odpowiedzią nie jest oddanie pełni władzy maszynom, ale stworzenie inteligentnego systemu operatego na społeczności. Znakomitym, działającym już w praktyce przykładem takiego rozwiązania – zarówno pod kątem informatycznym, jak i organizacyjnym – są Notatki Społeczności (Community Notes) zaimplementowane na platformie X.
To rozwiązanie organizacyjnie wywraca do góry nogami dotychczasowe zasady gry. Platforma nie zatrudnia redaktorów, którzy z góry mówią, co jest prawdą. Zamiast tego stawia na crowdsourcing. Kiedy w serwisie pojawia się viralowy, podejrzany post (np. polityk rzekomo uciekający z walizką pieniędzy, który w rzeczywistości jest wygenerowanym przez AI slopem), użytkownicy mogą dodać do niego przypis z kontekstem i linkiem do dowodów. Jednak kluczem jest to, co dzieje się później w warstwie algorytmu.
Większość systemów głosowania w sieci (np. na Reddicie czy Wykopie) opiera się na prostej zasadzie większości – wygrywa ten, kto zbierze więcej łapek w górę. W spolaryzowanym internecie to katastrofa, bo algorytm promowałby po prostu zdanie najgłośniejszej grupy. Inżynierowie platformy X zastosowali zupełnie inną architekturę, opartą na tzw. algorytmach pomostowych.
Jak to działa? System analizuje historię głosowań każdego użytkownika. Jeśli algorytm zauważy, że Użytkownik A i Użytkownik B we wszystkich wcześniejszych, zapalnych tematach głosowali zupełnie odwrotnie (czyli pochodzą z dwóch różnych, mocno spolaryzowanych baniek informacyjnych), to ich zachowanie staje się kluczem do prawdy. Notatka pod postem zostaje publicznie wyświetlona całemu światu tylko wtedy, gdy obaj ci skrajnie różni użytkownicy klikną: „Tak, ta notatka jest pomocna”. Algorytm wymusza więc ponadpartyjny konsensus. Wyłapuje moment, w którym ludzie, którzy na co dzień się nienawidzą, nagle w jakiejś kwestii się zgadzają.
Z punktu widzenia sztucznej inteligencji, to rozwiązanie również korzysta z uczenia maszynowego. AI działa w tle: rozpoznaje setki tysięcy kopii tego samego obrazka i automatycznie podpina do nich notatkę, którą społeczność zweryfikowała pod oryginalnym postem. To rozwiązuje problem skali – jedna dobrze oceniona notatka natychmiast neutralizuje miliony kopii slopu.
Kod źródłowy algorytmu oraz zanonimizowane dane o głosowaniach są w pełni otwarte. Każdy niezależny analityk danych może je pobrać i sprawdzić, czy system nie faworyzuje np. konkretnej partii politycznej. Co jest niezwykle ważne dla rzetelności systemu.
Konkluzja
Złota era autentycznego, stworzonego od A do Z przez ludzi internetu, prawdopodobnie już za nami. AI slop – bezwartościowy generatywny content – stał się opłacalnym i niezwykle tanim w produkcji cyfrowym chwastem, który szybko zarasta naszą infosferę. Nie możemy jednak poddawać się technologicznemu fatalizmowi ani wierzyć, że ratunkiem będzie powierzenie monopolu na prawdę superinteligentnym filtrom AI.
Sztuczna inteligencja wykreowała ten problem, ale nie potrafi rozwiązać go w pojedynkę. Pozbawiona ludzkiego czynnika – niuansów i zdolności do pojmowania ironii, zawsze będzie się mylić, dając początek groźnej cenzurze. Odpowiedzią są nowoczesne rozwiązania inżynieryjne zorientowane na człowieka. Systemy wykorzystują potężną moc obliczeniową platform do łączenia kropek, sortowania danych i skalowania wyników, ale ostateczny werdykt zostawiają zróżnicowanej grupie ludzi. Walka ze slopem nie wymaga wyłączenia sztucznej inteligencji. Wymaga mądrego oprogramowania, które przypomni nam, że nawet w najbardziej skrajnie spolaryzowanym środowisku, prawda to ten rzadki punkt, w którym potrafimy się ze sobą zgodzić.
Źródła
- Fallis D. (2021). The Epistemic Threat of Deepfakes. Philosophy & technology, 34(4), 623–643. https://doi.org/10.1007/s13347-020-00419-2
- Floridi, L. (2014). The fourth revolution: How the infosphere is reshaping human reality. OUP Oxford.
- Ji, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., … & Fung, P. (2023). Survey of hallucination in natural language generation. ACM computing surveys, 55(12), 1-38.
- Forbes. (2024). Facebook’s AI-Generated ‘Shrimp Jesus,’ Explained. https://www.forbes.com/sites/danidiplacido/2024/04/28/facebooks-surreal-shrimp-jesus-trend-explained/