Rekordy popularności na platformach internetowych, propagandowo nazywanych przez ich twórców mediami społecznościowymi, przypominają w swojej naturze rekordy ciepła, które latem padały w europejskich miastach. W takim znaczeniu, że nie ma większego sensu się do nich przywiązywać, bo za kilka dni zostaną pobite przez nowe, jeszcze wyższe odczyty. 

To samo prawo ma zastosowanie względem coraz powszechniejszych zapowiedzi końca ludzkości wywołanego rozwojem tak zwanej „sztucznej inteligencji” (AI). Od kilku miesięcy mniej lub bardziej konkretne ostrzeżenia przed apokalipsą pojawiają się z tygodniową regularnością. Każdy z tych wpisów wywodzi się z jądra debaty technologicznej, czyli z Doliny Krzemowej – co ma wyłącznie efekt polaryzujący wobec publiczności. Fakt, że teksty te są pisane przez „insiderów” ze środka laboratoriów technologicznych, utwierdza w przekonaniu tych, którzy uważają, że sztuczna inteligencja doprowadzi do końca świata i legitymizuje apokaliptyczne prognozy, jakkolwiek niekonkretne by one nie były. 

Ekonomia uwagi

Ten sam argument działa jednak w drugą stronę – kalifornijsko-korporacyjny rodowód tych wpisów może być wskazówką, że nic z zapowiadanych ostatecznych wydarzeń się nie ziści. Bo Jeźdźców Apokalipsy wzywają ci, którzy na stworzeniu wrażenia wszechmocnej AI mogą zarobić miliardy. W praktyce więc jest to ćwiczenie z działania „ekonomii uwagi” – każdy kolejny wpis przekonuje przekonanych, nawet jeśli są oni przekonani do skrajnie odmiennych scenariuszy. Wszyscy jednak czują się w obowiązku zabrać głos, w wyniku czego algorytmy są nasycane właśnie naszą uwagą.

Trudno o lepszy dowód na skuteczność działania modelu biznesowego Doliny Krzemowej.

Najnowszą odsłoną tego miernego i nudnego serialu jest seria wpisów na platformie X autorstwa Jacoba Coxona, byłego już pracownika firmy Anthropic, odpowiedzialnej między innymi za chatbota Claude. Coxon napisał, że zrezygnował z pracy w tej firmie, bo zorientował się, że rozwijana przez nią sztuczna inteligencja może doprowadzić do zagłady ludzkości „do końca dekady”. Ale, zdaniem Coxona, nikt z tym zagrożeniem nic nie robi, a ryzyko totalnego wymarcia gatunku ludzkiego nie jest wystarczająco ograniczane.

Zgodnie z przewidywaniami, Coxon kilkunastoma zdaniami zaspokoił potrzeby agencyjne obu plemion. Jedni zobaczyli w nim proroka końca świata – wszak mówi ze środka paszczy lwa, z firmy o najsilniejszych modelach AI. Inni natychmiast wyśledzili, że w Anthropic pracował zaledwie cztery tygodnie, ma raptem trzy lata doświadczenia, a jego konto na X było puste przed owym bombowym wpisem. W rezultacie ludzkość nie jest ani trochę mądrzejsza. Za to znalazła się w sytuacji przypominającej słynny bon mot o judaizmie: jeden rabin powie tak, a drugi rabin powie nie. Rozstrzygnięcia brak, choć wszyscy uważają, że wiedzą, jak ono powinno brzmieć.

Coxon nie powiedział nam nic

Oczywiście w tej dyskusji całkowicie pominięto fakt, że Coxon nie powiedział, jak do tej zagłady miałoby dojść z punktu widzenia procesowego – a przecież możliwości jest wiele. Czy chodzi o gigantyczny konflikt nuklearny, powstały po przejęciu kontroli nad arsenałami bomb przez autonomicznych agentów AI? Raczej nie, wszak jeśli założyć ich samoświadomość, nie niszczyłyby one zasobów potrzebnych do ich funkcjonowania: ziemi, wody, źródeł energii.

Doprowadzenie do globalnej wojny konwencjonalnej jest też mało prawdopodobne, bo to dość nieefektywny i zasobochłonny sposób na masowe mordowanie miliardów ludzi. 

Najbardziej przekonującym scenariuszem zdają się być nanoboty niosące w sobie syntetyczne wirusy, zabijające błyskawicznie i bezboleśnie. Ale to tylko domysł, w końcu rzekomo wiedzący tak wiele Jacob Coxon nie powiedział nam w sumie nic.

Tej debaty oczywiście nie da się rozstrzygnąć, nie mając pełnej wiedzy. A takowej nie mają nawet szefowie największych laboratoriów AI – co chwilę pokazują opinii publicznej, że nie do końca rozumieją, jak działa świat. 

Prognozy AI niewspółmierne do rzeczywistości

Najlepszym przykładem niewspółmierności ocen pracowników AI do rzeczywistości, są wszelkiej maści prognozy na temat wymierania niektórych zawodów. Zwłaszcza Anthropic przoduje w tego typu raportach, przypisując wartości numeryczne każdej profesji na świecie. Problem w tym, że analizy tego typu prowadzone są wyłącznie na podstawie danych o użyciu ich modeli w konkretnych korporacjach czy firmach. Dopiero potem są okraszone komentarzem ludzi, którzy najczęściej są bardzo młodzi i pracowali wyłącznie w sektorze technologicznym. 

Dlatego ciężko jednoznacznie przewidzieć, kto, gdzie i jak zostanie zautomatyzowany przez AI. Większość ludzkich zawodów, zwłaszcza w ekonomii wiedzy, nie jest zerojedynkowa. 

Sztuczna inteligencja najlepiej sprawdza się tam, gdzie pożądany rezultat jest z góry znany. Celem jest jedynie optymalizacja drogi do jego osiągnięcia. W przypadku prawników, dziennikarzy śledczych, artystów, planistów wojskowych i milionów innych osób nie zawsze wie się na początku, do czego powinno się ostatecznie dążyć – i nie jest przesądzone, że AI tę przeszkodę pokona.

Zamiast apokaliptycznych, scenariusze pośrednie

W dzisiejszym świecie jadłospis możliwych apokalips jest nieskończony; wybierać można dowolnie i bez końca. Problem w tym, że myślenie apokaliptyczne odwraca uwagę mas od scenariuszy pośrednich. Te wcale nie są tak krwiożercze – a równie katastrofalne.

Krótko mówiąc, nie musi wcale dojść do literalnej zagłady wszystkich przedstawicieli gatunku Homo sapiens, żeby ludzka cywilizacja naprawdę upadła.

Spójrzmy chociażby na to, co sztuczna inteligencja już zastępuje i niszczy – a co jest jednocześnie głównym fundamentem naszej cywilizacji. Chodzi o swobodną wymianę informacji prowadzącą do możliwości wzbogacania doświadczeń życiowych. Ludzkie społeczeństwa opierają się na przekazie wiedzy, o czym wielokrotnie pisał znany psycholog społeczny z New York University, Jonathan Haidt. Żyjemy, bo starsze pokolenia przekazały nam wiedzę o przetrwaniu, i to dosłownie. W dodatku, im więcej tej wiedzy zdobywamy, tym dalej odchodzimy od skupiania się na przetrwaniu i zmierzamy w kierunku życia bogatego, mającego sens. Żeby ten schemat jednak działał, potrzeba przestrzeni do wymiany informacji – rodzin, wspólnot, społeczeństwa – oraz narzędzi i nośników: książek, dzieł kultury. Sztuczna inteligencja zabija już teraz i jedno, i drugie.

Laboratoria AI skupują na masową skalę papierowe książki, w tym egzemplarze archiwalne i unikatowe, żeby je zeskanować, wykorzystać do trenowania modeli i skompresować na miazgę w prasie hydraulicznej. 

Anthropic przyznaje otwarcie, że celem jest zniszczenie wszystkich książek na świecie.

W ten sposób firma nie tylko zawłaszcza wspólne dziedzictwo ludzkości, ale też monopolizuje i formę, i treść transferu wiedzy. Cywilizacja może w takim układzie funkcjonować jedynie wtedy, kiedy korporacja na to pozwoli.

Potrzebujemy wspólnot

Drugim aspektem jest wspomniana już ekonomia uwagi, którą doskonale opisali chociażby Chris Hayes w „Sirens’ Call” czy ostatnio Gil Durán w „The Nerd Reich”. A także Cory Doctorow w „Gównowaceniu”, z którym wywiad niedawno ukazał się w „Kulturze Liberalnej”.

Im bardziej jesteśmy pochłonięci oglądaniem dopaminowych filmików na ekranach, tym mniej czasu spędzamy z innymi.

Zamykamy się w czterech ścianach mieszkań, bo wszystkie potrzeby jesteśmy w stanie zaspokoić aspołecznie i syntetycznie. Postępująca automatyzacja pracy również się do tego przyczynia, co świetnie w swojej najnowszej książce „We Are Not Machines” opisała Sarah O’Connor z „The Financial Times”. Praca zarobkowa, poza wytwarzaniem dóbr i zdobywaniem wynagrodzenia, a także siły nabywczej, ma bowiem jeszcze funkcje socjalizacyjne i rozwojowe. Pracując, uczymy się współżyć z innymi. Ale stajemy się też mądrzejsi: kognitywnie i emocjonalnie. Siedząc w domu bez kontaktu z innymi, wykonując powtarzające się czynności, aż naszą rolę przejmie kilka linijek kodu, przyczyniamy się do śmierci społeczeństw.

Nie trzeba wyobrażać sobie trupów na ulicach miast, opustoszałych domów czy wielkich wybuchów, żeby dojść do wizji, w której człowiek automatyzuje siebie samego na śmierć. Mniej pracy oznacza mniej rozwoju, niższe IQ, mniej innowacji i bardziej prymitywne życie – aż zupełnie stracimy poczucie sensu życia. Może będziemy wtedy jeszcze wszyscy żywi z biologicznego punktu widzenia. Społecznie jednak umrzemy. I to jest koniec świata, który dziś wydaje się najbardziej prawdopodobny.