Książka „Atlas sztucznej inteligencji. Władza, pieniądze i środowisko naturalne” wzbudza nadzieję, że wyłożono w niej w sposób zrozumiały dla laików zasady działania narzędzi informatycznych określanych dziś potocznie tą właśnie nazwą – sztuczna inteligencja. Co prawda „sztuczna inteligencja” jest podobna do „humanistyki” w tym sensie, że oba te określenia są zbyt szerokie, by móc nimi ująć jakiekolwiek konkretne zjawisko czy proces, ale można było liczyć przynajmniej na rozumną popularyzację.
Niestety, przy głębszym wglądzie następuje lekkie rozczarowanie. Autorka „Atlasu sztucznej inteligencji” o mechanizmach jej tworzenia i funkcjonowania nie mówi prawie niczego. Nie sposób rozstrzygnąć, czy jej milczenie na ten temat wynika z braku wiedzy szczegółowej, z niechęci do jej relacjonowania, czy też – co uważam za najbardziej prawdopodobne – z niemożności ujawniania tajemnic firmowych. Nie od rzeczy będzie zauważyć, że znaczna część sensacyjnej aury, jaka od kilku lat otacza w mediach hasło „sztuczna inteligencja”, jest efektem zwyczajnej niewiedzy. Gigantyczne firmy technologiczne, w których tysiące specjalistów pracują nad rozwojem tych instrumentów, nie kwapią się, by ujawniać szczegóły swoich działań i z pewnością takiej samej dyskrecji oczekują od każdej osoby z zewnątrz, którą ewentualnie dopuszczą do swoich wnętrz. Ze wzmianek Kate Crawford wynika zresztą, że sama oglądała ich siedziby głównie z daleka, chociaż od lat pracuje naukowo w tej właśnie dziedzinie. Pracuje jednak nie u podstaw, lecz u szczytu piramidy interpretacyjnej – zajmuje się wpływem sztucznej inteligencji na kondycję współczesnych społeczeństw i środowiska, w którym one funkcjonują.
O czym więc można się dowiedzieć z napisanej przez nią książki? Głównie o tym, co dla przytomniejszych obserwatorów nie będzie wielką niespodzianką, a dla milionów dzieciaków (tych małoletnich i tych pełnoletnich), dla których smartfon jest zabawką lub wypełniaczem czasu, nie będzie miało istotnego znaczenia. Innymi słowy, jest to głos wołający na cywilizacyjnej puszczy.
Wyzysk i nadużycia
Rzecz dzieli się na sześć rozdziałów (opatrzonych „wprowadzeniem”, „zakończeniem” i „codą”). Ich tytuły: „Ziemia”, „Praca”, „Dane”, „Klasyfikacje”, „Afekty”, „Państwo”. Główne przesłanie całości jest jasne – to, co zwiemy potocznie „sztuczną inteligencją”, a więc zarówno ChatGPT i inne modele naśladujące język naturalny, jak i aplikacje wytwarzające obrazy wizualne z ich opisów werbalnych, a także setki narzędzi cyfrowych mniej efektownych dla przeciętnego użytkownika, ale znacznie bardziej wpływowych z punktu widzenia zarządzania zbiorowościami ludzkimi – otóż wszystkie te „magiczne” gadżety, wyłaniające się jak duch z maszyny, w istocie nie biorą się ze sterylnej maszyny ani z powietrza, lecz stanowią wynik wielkoskalowych procesów i procedur polegających na wyzysku pracy ludzkiej, nadużyciach praw człowieka i obywatela, rabunkowej eksploatacji zasobów naturalnych oraz ukrytej, lecz ogromnej i wciąż rosnącej ewidencji danych i informacji o wszystkich aspektach egzystencji użytkowników mediów elektronicznych. Niby wiadomo było to już wcześniej, lecz nie zawadzi zapoznać się z podsumowaniem.
Obraz, jaki wyłania się z przedstawionych przez Kate Crawford analiz, do złudzenia przypomina znany z historii scenariusz eksploatacji ludzi i przyrody w czasach imperiów kolonialnych. Różnice polegają na jakości – zamiast prostej pracy fizycznej robotników wykorzystuje się prostą pracę umysłową crowdworkerów opracowujących surowe dane dla systemów i aplikacji; zamiast środkami produkcji rządzi się środkami wywoływania wrażeń; zamiast węgla i rud eksploatuje się metale ziem rzadkich, niezbędne przy produkcji wszelkich urządzeń ery cyfrowej. Jedno się nie zmienia – niejawny zasięg władzy. Pod koniec XIX wieku rządy większości państw, nawet tych najpotężniejszych, były w dużej mierze uzależnione od potentatów ówczesnego przemysłu ciężkiego, dla których istotny był tylko zysk. W XXI wieku są tak samo uzależnione od producentów ulotnych wrażeń w mediach społecznościowych, dla których istotny jest tylko zysk.
Od siebie dodam tylko, że struktury decyzyjne i procesy wykonawcze w dzisiejszych wielkich korporacjach, w firmach o bilionowej kapitalizacji, niewiele się różnią od analogicznych struktur w dawnych imperiach. Na dole jest wielka anonimowa masa ludzka, służąca do wytwarzania podstawowych zasobów, wyżej – wykwalifikowana kadra specjalistów kierujących tym wytwarzaniem i dystrybuowaniem efektów, jeszcze wyżej – szlachta i arystokracja opływająca w luksusy i nadająca ton systemowi, a na samym szczycie jest cesarz albo król, od którego słowa i woli zależy wszystko. Formacja feudalna trwała w Europie niemal równo tysiąc lat, licząc od koronacji Karola Wielkiego do rewolucji francuskiej. Jak długo przetrwa feudalizm cyfrowy – nie wie nikt.
Alarmistyczny ton, jakim autorka napisała tę książkę, wydaje się jednak nieco bezradny. Co i w jaki sposób miałoby bowiem powstrzymać tę wielką machinę, której animatorzy tak doskonale rozpoznali potrzeby milionów ludzi i tak perfekcyjnie opanowali sztukę podsycania tych potrzeb?
Oświeceniowy duch i romantyczny afekt
Oświecenie było być może najpiękniejszą przygodą ludzkiego umysłu na naszym kontynencie. Jego istotą, przejawiającą się w twórczości wszystkich ówczesnych znaczących autorów, było przeświadczenie, że możemy trwale ogarnąć samych siebie, to, co jest między nami, oraz całą resztę – wyłącznie własnymi siłami, bez udziału sił wyższych. Niestety, niedługo później nadeszła katastrofa romantyzmu – radość z samodzielności ludzkiego rozumu została zgaszona lękiem płynącym z poczucia samotności człowieka i z niestabilności jego emocji. Chaos, jaki wyniknął z połączenia myśli oświeceniowej i romantycznej, naznaczył kolejne dwieście lat dziejów ludzkiej cywilizacji. W obrębie jego następstw pozostajemy do dziś. Obecnie składowa oświeceniowa słabnie na rzecz składowej romantycznej, z tym, że „romantyczność” oznacza w praktyce radykalny prymat afektów nad refleksją. Kiedy pod koniec ubiegłego wieku znudzeni sztywniactwem tej refleksji akademiccy myśliciele snuli projekty „autonomizacji afektu”, pewnie nie przypuszczali, że afekt spuszczony ze smyczy zacznie tak mocno brykać. Pundyci sztucznej inteligencji okazali się znacznie bardziej inteligentni od nich – wzięli go na kantar i zaczęli monetyzować.
Niesamowity paradoks tej sytuacji polega na tym, że najnowsze narzędzia techniczne, wytworzone dzięki osiągnięciom nowoczesnej nauki, przed którymi w XX wieku padali na kolana często i pospołu naukowcy i humaniści, służą dziś zasadniczo do dwóch celów – do otępiania użytkowników i do ich zniewalania. Kate Crawford skupia się na drugim z tych celów, wskazując na wciąż rosnącą inwigilację i niejawne gromadzenie danych osobowych na skalę, o której policje dwudziestowiecznych ustrojów totalitarnych mogły tylko marzyć. Jednak cel pierwszy jest równie niepokojący. Zamiast wspólnot wymiany ludzkiej myśli, wspomaganych przez mądre maszyny, o których marzyli pionierzy sztucznej inteligencji, mamy kompletny chaos. Wstaję o poranku. Dzień piękny, cichy i spokojny. Jak nie mieć dobrego nastroju? Parzę kawę, siadam w fotelu, wchodzę na Twitter, czyli X – i po dwudziestu minutach przeglądania jego zawartości jestem tak naładowany złością i frustracją, że najchętniej dałbym komuś po gębie. Tak działają media społecznościowe i nie jest to niestety przypadkowe działanie. Złość niesie się po ludziach szybko i łatwo, więc można na niej zarobić szybciej i więcej niż na czymkolwiek innym.
Nadzieje i rozczarowania
Gdzie w tym wszystkim jest miejsce dla sztucznej inteligencji z tekstów publicystycznych jeszcze nie przez nią samą pisanych? Zamiast ducha w maszynie (czy to przyjaznego, czy groźnego dla ludzi) mamy raczej elektroniczne przedłużenia naszych negatywnych emocji konstruowane kosztem postępującej dewastacji środowiska i niemal niewolniczej pracy anonimowych rzesz ludzkich, budujących pozory samodzielności tego ducha. Jesteśmy równie dalecy od czystego snu o czystym rozumie, jak byli nasi przodkowie w ciemnych wiekach. Nikt już nie myśli o „podboju kosmosu” i szukaniu „braci w rozumie”. Chcielibyśmy raczej wyrobić na tym wyjątkowo ostrym zakręcie, na którym obecnie balansujemy.
Książka:
Kate Crawford, „Atlas sztucznej inteligencji. Władza, pieniądze i środowisko naturalne”, przeł. Tadeusz Chawziuk, Wydawnictwo Uniwersytetu Jagiellońskiego, Kraków 2024.
