Po co rozwijać ideologię swojego ruchu politycznego, skoro można ją natychmiast wygenerować za pomocą sztucznej inteligencji? Ludzie i tak potrafią skupić uwagę na krótko. Zamiast tworzyć złożone narracje wystarczy pokazać stereotypowe wizualizacje.

Estetyka generowana przez sztuczną inteligencję służy zglobalizowanym narracjom ekstremistycznym, wykorzystywanym przez skrajnie prawicowe partie polityczne. Skala wykorzystania botów AI w kampaniach wyborczych w Rumunii i Mołdawii w 2025 roku stworzyła alarmujący precedens. Sztuczna inteligencja wzmacnia również retorykę niemieckiej skrajnie prawicowej partii AfD, która odnosi duże sukcesy.

Słowacki nacjonalizm oddolny

Również małe grupy nacjonalistyczne aktywnie budują swoją wyidealizowaną tożsamość. Zalewają media społecznościowe obrazami generowanymi przez AI, aby wzmocnić poczucie wspólnoty wśród swoich zwolenników. Obrazy mają ogólny charakter, ale sięgają też po lokalne odniesienia historyczne.

Udostępnia je na przykład regularnie na Facebooku słowacki prorosyjski klub motocyklowy Brat za Brata. Widać na nich młodych, białych, blondwłosych mężczyzn i kobiety w tradycyjnych strojach ludowych, umięśnione „średniowieczne” słowiańskie bractwo oraz uczłowieczone dzikie zwierzęta reprezentujące Rosję, Słowację i Czechy. Obrazy są często osadzone w scenerii dzikiej przyrody. Operują światłem dla uzyskania heroicznego efektu. Współczesna estetyka propagandowa to mieszanka wielu elementów. Szablonowe przedstawienia przyrody i stylizowane postacie ludzkie łączą się z nacjonalistyczną symboliką w sceneriach fantasy, które przypominają filmy CGI dla całej rodziny. Nowe treści odnoszą się do historycznych stereotypów. AI ułatwia ich szybkie i wielokrotne tworzenie.

Natomiast rzeczywiste zdjęcia Brat za Brata pokazują grupki mężczyzn w średnim wieku, którzy wspólnie pozują w miejskiej scenerii w czarnych kurtkach typu bomber z napisami cyrylicą. Jedynym wspólnym elementem obu zbiorów obrazów jest rosyjska flaga w rękach motocyklistów.

Brat za Brata twierdzi, że jest grupą apolityczną i organizuje wydarzenia upamiętniające sowiecką przeszłość. Jednak od początku pełnoskalowej inwazji na Ukrainę w 2022 roku wykorzystuje swoją platformę internetową do aktywnego wspierania prorosyjskiej agendy. Lider ruchu Matúš Alexa spotkał się z Siergiejem Naryszkinem, szefem SVR, rosyjskiej Służby Wywiadu Zagranicznego. Członkowie regularnie uczestniczą w wydarzeniach w ambasadzie Rosji w Bratysławie i chwalą się relacjami z byłym ambasadorem Igorem Bratczikowem. W marcu 2025 roku grupa przekazała prezydentowi Słowacji kontrowersyjną petycję z żądaniem zniesienia sankcji wobec Rosji.

Soft power animowanego niedźwiedzia

Przedstawienia „prawdziwej” słowiańskiej tożsamości tworzone przez Brat za Brata są przesiąknięte pozornie niewinną, przyjazną atmosferą. Wpisują się jednak w falę innych skrajnie prawicowych obrazów generowanych przez AI, które propagują rygorystyczny natywizm. Posługują się nimi rosyjskie media państwowe. W serii prowokacyjnych obrazów opublikowanych przez RIA Novosti szczury o demonicznych czerwonych oczach i wyszczerzonych kłach tłoczą się w pudle z napisem „NATO”. Inne szczury, z ukraińską flagą, podążają za Szczurołapem z Hameln lub przewodzą chłopskiemu buntowi pod łukiem z gwiazd UE.

Obrazy generowane przez AI / rosyjskie RIA Novosti

Choć pojedynczy wpis w mediach społecznościowych może nie wpłynąć na opinię publiczną, w dużej skali wpisy te mogą stanowić bardzo skuteczne narzędzie ideologiczne. Prawdziwy potencjał obrazów generowanych przez AI polega na tym, że umożliwiają stopniową radykalizację i polaryzację tożsamości oraz tworzenie mitów. „Jeśli nie buduje się wielkiej narracji, tylko mówi się tylko coś tu i coś tam, łatwo ominąć przepisy przeciwko mowie nienawiści” – mówi filozof języka Tomáš Koblížek.

Dlatego kontrowersje budzą także treści, które nie propagują prorosyjskiej narracji całkiem otwarcie. Na przykład szeroko dostępny na Netfliksie serial dla dzieci „Masza i Niedźwiedź” spotkał się niedawno ze sprzeciwem w Ukrainie i Wielkiej Brytanii, ponieważ porównuje niedźwiedzia, „dobrodusznego olbrzyma”, do Rosji.

Otwarcie przestrzeni informacyjnej na szerokie spektrum prorosyjskich narracji może być formą stosowania soft power. Unikając poglądów o charakterze czysto politycznym i polaryzującym, soft power uzupełnia tradycyjną dyplomację i komunikuje się za pośrednictwem kanałów społecznościowych.

Niekontrowersyjne w sposób bezpośredni wpisy Brat za Brata na Facebooku rozprzestrzeniają się bez przeszkód. Dlatego produkcja na szeroką skalę skrajnie prawicowych treści generowanych przez AI staje się częścią głównego nurtu. Używanie tej ekstremistycznej symboliki jest potępiane, a w niektórych krajach nawet nielegalne, jednak nowo tworzone treści o podłożu ideologicznym są postrzegane jako łagodne, jeśli nie przedstawiają bezpośrednio przemocy. Grupy nacjonalistyczne i partie polityczne ukrywają rasistowskie, homofobiczne i patriarchalne znaczenia w złagodzonych narracjach wizualnych. Na pierwszy rzut oka takie treści sprawiają więc wrażenie zgodnych z przyjętymi normami i obchodzą ograniczenia platform cyfrowych.

Taki przekaz może też wpływać na proces wyborczy. Aktorzy polityczni wykorzystują AI nie tylko do tworzenia treści, ale także do zbierania danych, na podstawie których tworzą szczegółowe profile psychologiczne wyborców na potrzeby wysoce spersonalizowanej kampanii. Niejawne operacje, w ramach których powstają duże ilości treści generowanych przez AI, pozwalają również twórcom motywowanym politycznie ustalić, które tematy i narracje są najskuteczniejsze. Sporadyczne szerzenie strachu uważa się za część gry, by przypomnieć wszystkim, kto jest „wrogiem” numer jeden. Szczególnie skuteczne okazują się jednak również satyra i wykorzystanie humoru.

Jak zabawne są deepfake’i?

Karykatury są szczególnie wyraziste w obrazach tworzonych przez generatywną AI, która pozwala tworzyć wiele wariantów postaci ludzkich osadzonych w wyimaginowanych sytuacjach. Na przykład tworzenie deepfake’ów na podstawie zdjęć twarzy prawdziwych polityków, wywołało dyskusję o etycznych granicach takiej manipulacji wizualnej.

Podczas ciszy wyborczej w 2023 roku, Słowacją wstrząsnął skandal związany z deepfake’em. Za pośrednictwem Telegrama rozpowszechniano fałszywą rozmowę telefoniczną między Michalem Šimečką, przewodniczącym partii Postępowa Słowacja, a dziennikarką Moniką Tódovą. Niedawno dużą popularność zdobyło również nagranie typu deepfake przedstawiające polityków obecnej koalicji i oligarchę rzekomo przebywających w więzieniu. Stworzył go użytkownik Instagrama, a do jego rozpowszechnienia przyczyniło się również to, że udostępniali go politycy opozycji.

Słowaccy politycy mają skłonność do ośmieszania swoich oponentów. Jednak po tych przypadkach oraz po wejściu w życie nowych przepisów UE na początku sierpnia 2026 roku podjęli walkę z filmami typu deepfake. Rozważany jest całkowity zakaz oraz kary od grzywny po pozbawienie wolności na okres do dwóch lat. Tymczasem eksperci wyrazili obawy dotyczące tego, kto ponosi odpowiedzialność za deepfake. Osoby wprowadzające prompty do AI, czy same modele. Zwracają też uwagę na to, że znalezienie rzeczywistego twórcy szkodliwych treści jest bardzo trudne. W niektórych przypadkach wiadomo, kto opublikował obraz, na przykład na stronie Brat za Brata na Facebooku. Wiele kont jest jednak anonimowych, a treści generowane przez AI często rozprzestrzeniają się za pośrednictwem sieci botów, co jeszcze bardziej rozmywa winę. W Europie kwestię treści rozpowszechnianych na dużych platformach internetowych reguluje akt o usługach cyfrowych (DSA). Jego stosowanie ma jednak przeważnie charakter reaktywny i koncentruje się raczej na odpowiedzialności platform społecznościowych niż na regulowaniu narzędzi AI wykorzystywanych do tworzenia treści wprowadzających w błąd.

Proponowane przepisy dotyczące ochrony tożsamości cyfrowej mogą mieć na celu ochronę ludzi przed nieuprawnionym wykorzystaniem ich wizerunków w treściach typu deepfake, rozwiązują jednak tylko część problemu. Przede wszystkim w ogóle nie zajmują się zalewem obrazów generowanych przez AI w całym spektrum politycznym. Nie rozwiązują też problemu tak zwanego wiarygodnego wyparcia się odpowiedzialności, dzięki któremu ludzie unikają odpowiedzialności za obraźliwe zachowanie: „Jeśli ktoś oskarży was na przykład o rasizm lub homofobię, możecie po prostu twierdzić, że to był żart” – mówi Koblížek. Nie stawiają też pytania, czy generatywna AI byłaby równie skuteczna, gdyby nie istniały uprzedzenia, na których polegają użytkownicy AI.

Ożywianie reakcyjnego modernizmu

„Jeśli przyjrzycie się temu, jak niemiecki tygodnik brukowy «Der Stürmer» przedstawiał Żydów w latach trzydziestych XX wieku, jest to bardzo podobne do tego, jak dziś AfD przedstawia migrantów za pomocą obrazów generowanych przez AI” – mówi badacz ikonografii politycznej Jacopo Galimberti. Nazistowskie obrazy wyidealizowanych rodzin aryjskich można porównać z tymi, które tworzy Brat za Brata. Stereotypizacja jest powszechnym narzędziem nacjonalistycznym, szczególnie skutecznym w formie wizualnej, ponieważ wyolbrzymia różnice między „ideałem” a „tym drugim”.

Znaczna część nazistowskiej propagandy opierała się na przedstawieniach takich tematów jak tradycyjna rodzina. Wykorzystywała łatwo rozpoznawalne schematy, pozbawione wizualnej złożoności, lecz wręcz przepełnione dumą. Podobnie wychwalano maszyny. Entuzjazm nazistów wobec postępu technologicznego miał służyć powstrzymaniu rzekomego upadku kultury zachodniej i wezwaniu do swoistego duchowego przebudzenia. Po wojnie Jeffrey Herf nazwał tę wizję „reakcyjnym modernizmem”. Był to ruch wykorzystujący rozwój technologiczny w dążeniu do popularyzacji tradycyjnych nacjonalistycznych mitów i idei.

Grafiki generowane i propagowane przez ruch Brat za Brata

Sposoby wykorzystania technologii w tym narzędzi AI wykazują podobieństwa do reakcyjnego modernizmu XX wieku. „Technofaszyzm” oznacza ideologię ekspansji technologicznej kosztem demokratycznych struktur państwa, która przyznaje wielkim firmom pod przywództwem takich postaci jak Peter Thiel i Elon Musk funkcje decyzyjne w rządzie. Estetyka pojazdów Tesla Cybertruck i internetowy zasięg trendu tradwives (tradycyjnych żon) zbliża się do obsesji nazistowskiego reżimu na punkcie techniki wojskowej i czystych rasowo rodzin.

Jednak nazistowska propaganda była organizowana dla mas, a nie przez masy. Joseph Goebbels widział w filmie główne medium do szerzenia ideologii narodowosocjalistycznej i wykorzystywał jego rozrywkowy charakter do rozwijania propagandy wojennej. Filmy z tego okresu, na przykład popularne komedie, pozornie opowiadają apolityczne historie, lecz ukazują rasistowską politykę. Wpływ filmu pozostawał dla reżimu tak kluczowy, że jeszcze kilka miesięcy przed kapitulacją Niemiec nadal „werbowano” ludzi do ostatnich narodowosocjalistycznych produkcji w charakterze statystów.

Dzisiejsza generatywna AI idzie o krok dalej niż angażowanie cywilów w roli statystów na wielkim ekranie. Oferuje konsumentom pełny udział w tworzeniu treści i wizualizacji. Ponieważ ich tworzenie jest bezpłatne, obrazy generowane przez AI podsycają oddolne formy propagandy. Prowokacyjne treści mogą teraz rozprzestrzeniać się wirusowo dzięki zautomatyzowanym sieciom botów, które zwiększają zasięg postów w feedach użytkowników i maskują je jako clickbait. Członkowie Brat za Brata z położonego w środkowej Słowacji miasta Revúca, liczącego 10 000 mieszkańców nie potrzebują producenta ani lokalnej publiczności. Za pomocą kilku kliknięć potrafią zwizualizować wszystkie swoje wyobrażenia o tożsamości i strukturach władzy oraz przekazać je sieci użytkowników, którzy chętnie konsumują nacjonalistyczne przesłania.

„Zgównowaciała” rzeczywistość realizmu platformowego

Treści generowane przez AI w internecie są stosunkowo nowe, ale już powszechne. Są utrzymane w jasnej, bogatej palecie barw, mają rozpoznawalny charakter wizualny i doczekały się naukowego określenia: „realizm platformowy”. Pojęcie to wprowadził Jacob Birken, a następnie rozwinął je Roland Meyer. Oznacza ono cechy generatywnej AI, takie jak czytelność, wiarygodność i strukturalnie nostalgiczny stosunek do dawnych mediów. Meyer podkreśla, że już samo pochodzenie wytworów generatywnej AI oddziela je od rzeczywistości, jaką znamy, choćby poprzez sposób, w jaki LLM przetwarzają wprowadzane prompty. Meyer wyjaśnia: „Mimo popularności pojęcia «inżynieria promptów» nie służą one wykonywaniu precyzyjnego programu, lecz stanowią nieostre parametry, które zawężają zakres możliwych wyników. Użytkownik musi podejmować kolejne próby, aż uzyska obraz, który mu się spodoba. Proces ten pochłania zasoby, a jednocześnie zaśmieca przestrzeń internetową wizualnymi odpadami, nostalgią i clickbaitem”.

Próbując analizować tę nową rzeczywistość, badacze czerpią z wielu dziedzin, od filozofii i socjologii po badania nad przetwarzaniem informacji i systemami informacyjnymi. Opierają się na koncepcji symulakrów i hiperrzeczywistości Jeana Baudrillarda. Jego teoria opisuje, jak przedstawienia mogą być postrzegane jako bardziej realne niż sama rzeczywistość. Jako przykład podaje Disneyland, pokazując, w jaki sposób hiperrzeczywistość zastępuje rzeczywistość poza granicami parku rozrywki. Baudrillard twierdzi, że przekroczyliśmy już ten punkt: „prawdziwy świat” jest dziś pełen symulakrów, więc znalezienie jeszcze jakichkolwiek „prawdziwych” przedstawień jest niemal niemożliwe.

Symulakrum nowego poziomu to autonomicznie generowana rzeczywistość, aproksymowana na podstawie naszych archiwów wiedzy. Tworzenie sztuki, a w tym przypadku tworzenie propagandy, które wcześniej wymagało ludzkiej wyobraźni, zostało zredukowane do serii promptów dla modeli AI. A reprezentację otaczającego nas realnego świata zastąpiły całkowicie sztuczne obrazy.

Zgodnie z teorią mediów filozofa Marshalla McLuhana, według której technologia jest „przedłużeniem świadomości”, wydaje się, że AI zapewnia członkom Brat za Brata ich wymarzoną rzeczywistość. Obrazy generowane przez AI mogą nawet zmienić ich postrzeganie samych siebie, przy założeniu, że te wybory estetyczne kształtują ich postrzeganie rzeczywistości. Filozofowie Philippe Lacoue-Labarthe i Jean-Luc Nancy w swoim eseju „Mit nazistowski” z 1990 roku piszą, że „mityczna moc jest mocą snu, projekcji obrazu, z którym człowiek się utożsamia”. Narzędzia przedstawiania i komunikowania tożsamości zmieniły się diametralnie, ale stary mit o słowiańskiej jedności trwa i dzięki grupom takim jak Brat za Brata jest wyolbrzymiany w nieskończoność. Wiąże się to jednak z pułapkami.

„Uczenie maszynowe działa na zasadzie korelacji i analogii, w sposób bliższy alchemii niż nauce opartej na przyczynie i skutku” – mówi artystka mediów cyfrowych Hito Steyerl. „Istnieje bliskość między myśleniem magicznym a elementami uczenia maszynowego. Wielkie korporacje podsycają jednak tę magiczną atmosferę najwyraźniej tylko po to, by sprzedać swoje produkty. Wcale nie są magiczne, raczej są «gównowacące», czyli zamieniają wszystko w chłam”.

Strategiczne zanieczyszczanie dużych modeli językowych

LLM uczą się na podstawie wirtualnych archiwów, które im udostępniamy i w których dominuje Zachód. Po rozpoznaniu wzorców można je masowo odtwarzać w wielu wariantach. Dominujące informacje są zatem zniekształcone.

„Kiedy zastanawiamy się nad kwestią odpowiedzialności, często pojawia się tendencja do przenoszenia uwagi na same narzędzia AI. Mówimy o tym, co przyniosła nam AI, czy neguje Holokaust, czy nie. W rzeczywistości jednak odpowiedzialność ponoszą twórcy konkretnych treści lub dostawcy modelu AI, a zakresy ich odpowiedzialności mogą się różnić” – mówi Koblížek.

Technologia rozwija się szybciej niż regulacje. Tempo i stopień złożoności rozwoju LLM są tak duże, że nie sposób na bieżąco śledzić, czy modele są celowo trenowane do szerzenia określonej retoryki, czy też osoby za nie odpowiedzialne po prostu nie zdołały zapobiec tym zniekształceniom. Przestrzeń internetową współdzielą zwykli użytkownicy i fałszywe witryny masowo produkujące treści, których docelowymi odbiorcami są inne boty służące do tworzenia treści w przyszłości. A jak zauważa Koblížek, skrajnie prawicowe grupy pragną, by ich materiały stały się częścią środowiska LLM: „Grupy ekstremistyczne aktywnie zabiegają o to, by te treści były dostępne w internecie, nawet jeśli nie zdobędą wielu wyświetleń, po prostu po to, by były tam jako potencjalne źródło do trenowania AI”.

Ze względu na sposób działania generatywna AI ma również tendencję do wzmacniania seksistowskich i rasistowskich obrazów, które już istnieją w wirtualnych archiwach, będących źródłami dla LLM i poszukiwanych przez przedstawicieli skrajnej prawicy. „Pozwala to prawicy przywoływać nostalgiczną, ponadczasową przeszłość, która nigdy nie istniała poza obrazami wykorzystanymi do trenowania oprogramowania” – mówi Meyer. Mechanizm wzajemnego oddziaływania podaży i popytu działa. Dodajmy do tego format, który łatwo udostępniać w internecie, a machina propagandowa jest gotowa.

W niektórych przypadkach widzimy, że trendy w mediach społecznościowych podchwytują także politycy o innych poglądach politycznych i generują własne treści, które ośmieszają ich przeciwników. „Liberałowie, progresywiści i lewicowcy natomiast na ogół powściągliwie podchodzili do publicznego korzystania z AI, nie tylko ze względu na powszechnie znaną stronniczość modeli, lecz także z powodu związanego z trenowaniem modeli AI wyzysku ludzkiej pracy i kreatywności oraz eksploatacji zasobów naturalnych na ogromną skalę. Dla prawicy przyjęcie rozpoznawalnej estetyki AI lub «slopu» jest więc także sposobem na prowokowanie i trollowanie swoich przeciwników” – dodaje Meyer.

Być może wkrótce będziemy dyskutować nie tylko o generowaniu nowych obrazów, lecz także o ochronie integralności przeszłości, którą łatwo można zmienić na orwellowski sposób. Rząd USA już zaczął to robić: ze stron internetowych swojej armii usuwa zdjęcia kobiet, osób LGBTQIA+ i osób o innym kolorze skóry. Meyer ostrzega przed „cyfrowym zapominaniem”. Innymi słowy, nie powinniśmy być tak pewni „pełnej dostępności przeszłości”. „To nie tylko rodzi wszechobecną nieufność wobec wszelkich dowodów wizualnych, lecz także tworzy mylne oczekiwania co do tego, jak powinny wyglądać dokumenty historyczne” – mówi. Kiedy usuniemy oryginały z naszych archiwów, mogą one pozostać jedynie jako cienie w materiale treningowym LLM.

Muzea i instytucje publiczne czasami same wykorzystują generatywną AI, aby wypełnić luki w historii i ożywić przeszłość. Według Meyera takie spekulatywne zastosowania często wprowadzają w błąd: „Mają tendencję do powielania istniejących klisz dotyczących przeszłości i sposobu jej przedstawiania, zamiast otwierać nowe spojrzenie na historię”.

Przed instytucjami stoi zadanie podtrzymywania wyobrażeń o prawdzie, zwiększania świadomości społecznej i pomocy w określaniu zasad dobrych praktyk w korzystaniu z AI. Nadążanie z regulacjami za tempem rozwoju technologii będzie stałym wyzwaniem.

Grupy takie jak Brat za Brata mogą bez końca produkować treści generowane przez AI. Tymczasem mogą one osiągnąć punkt nasycenia i ostatecznie przekonywać już tylko przekonanych lub po prostu zmęczyć swoich widzów, tak jak wcześniej inne formy propagandy.

Oryginalny tekst został opublikowany przez słowacki magazyn „Kapitál” i został stworzony we współpracy z Eurozine.