Jakub Bodziony: Czy dalej jesteś technooptymistką?

Aleksandra Przegalińska: Chyba nigdy nie byłam. Prędzej nazwałabym się technorealistką. Ale wcześniej mój technorealizm był trochę bardziej uśmiechnięty.

Jeszcze kilka lat temu wokół sztucznej inteligencji było dużo popkulturowego „doomeryzmu” – czyli obaw, w którą stronę jej rozwój idzie. Te obawy odsyłały nas do wyspekulowanej przyszłości: że sztuczna inteligencja zyska wolną wolę, przejmie kontrolę nad światem i doprowadzi do anihilacji ludzkości. Te obrazy były żywcem wyjęte z „Terminatora”. I w stosunku do nich pozycjonowałam się jako technorealistka. 

Myślę, że inni odczytywali to stanowisko jako optymizm – ponieważ mówiłam, że droga ku świadomości sztucznej inteligencji jest bardzo długa. W końcu jest to technologia, która rzeczywiście może zmieniać bardzo wiele obszarów – i na lepsze, i na gorsze.

Jednak dziś mój technorealizm ma nieco inną formę. Po trzech latach rewolucji generatywnej sztucznej inteligencji [GenAI] i dużych modeli językowych [LLM], teza, że AI wszywa się w naszą tkankę rzeczywistości zawodowej i osobistej, pozostaje prawdziwa. Lecz sposób, w jaki to się dzieje, jest coraz bardziej niepokojący.

Nadal uważam, że świadoma maszyna, podejmująca decyzje, złośliwa w stosunku do nas albo pełna zemsty – to są obrazy z przyszłości. Natomiast mamy szereg bardzo realnych zagrożeń, z którymi nie umiemy sobie poradzić: deepfake’i, AI-owa propaganda i zakrzywianie rzeczywistości.

To, że mieszkam w Stanach Zjednoczonych, nie jest bez znaczenia. To jest kolosalne państwo, które postawiło na zero regulacji w kontekście sztucznej inteligencji – zwłaszcza pod administracją Donalda Trumpa. Szczególnie jeśli mówimy o strategii, które obrały niektóre spółki technologiczne, w tym momencie posiadające ogromną władzę, także w rozumieniu geopolitycznym.

Czyli to bardziej kwestia zmiany branży, a nie twoich poglądów? 

Oczywiście, że częściowo zmieniałem nastawienie, ale na przestrzeni ostatnich trzech lat rzeczywiście mamy do czynienia z fundamentalną akceleracją technologii AI.

Już w 2020 roku miałam studentkę, która pisała pracę dyplomową na temat modelu GPT. Przeczuwaliśmy wtedy, że to będzie duża sprawa, bo pojawiły się platformy „low code”. Zamiast kodować, już wtedy z modelami sztucznej inteligencji można było się porozumiewać za pomocą takich „klocków”, które stanowiły dla nich określone komendy. Bariera, jaką kiedyś była umiejętność programowania, zaczęła się sypać.

OpenAI istnieje od 2015 roku. I już w 2019–2020 pokazywano wczesne wersje modelu GPT. To wskazywało, że drogą do kontaktu ze sztuczną inteligencją będzie język naturalny. Dziś wystarczy „prompt” i od razu dostajemy odpowiedzi.

To jest oczywiście trochę bardziej skomplikowane, bo iluzją jest to, że „rozmawiając” ze sztuczną inteligencją, możemy skorzystać ze wszystkich jej możliwości. Natomiast prawdą jest, że nastąpiła demokratyzacja technologii AI, która jest teraz bardziej dostępna i rozprzestrzeniona.

Ale czy to jest pełna demokratyzacja? Rozwój tej technologii może też dążyć do dalszego rozwarstwienia. Dla bogatych modele premium, dla reszty AI-slop. 

Cały czas w modelu subskrypcyjnym korzystamy z cudzych czarnych skrzynek i niewiele możemy w nich zmienić. Oczywiście mówię o komercyjnych modelach, a nie o modelu „open source” [o otwartym kodzie źródłowym – przyp. red.].

Te ostatnie trzy lata są szalone – spółka OpenAI zdominowała rynek i zawładnęła wyobraźnią wszystkich. Pozostali byli zdezorientowani tym, co się dzieje, ale w ciągu ostatniego roku wiele firm dogoniło Sama Altmana ze swoimi rozwiązaniami.

Moja intuicja jest taka, że w dłuższej perspektywie to stary bigtech wygra cały ten wyścig, a nie „młode wilki”, takie jak OpenAI. Pozycja takich spółek, nawet jeśli są w awangardzie, może być w przyszłości bardzo zagrożona, ze względu na brak stabilnego modelu biznesowego. A taki Google sobie zawsze poradzi, bo nie musi ubiegać się o dofinansowanie i stać go na eksperymentowanie.

To prawda, OpenAI notuje czternaście miliardów strat w tym roku i może zbankrutować już w przyszłym. Wracając do czarnych skrzynek – podobno nawet sami inżynierowie nie bardzo wiedzą, jakie procesy w nich zachodzą. Dlaczego tak się dzieje?

Mamy do czynienia z modelami probabilistycznymi, czyli takimi, które dają nam wynik oparty na prawdopodobieństwie. Taki wynik nigdy nie jest w pełni przewidywalny. Nawet jeśli damy dwa razy ten sam „prompt”, to odpowiedź może być do siebie zbliżona, ale będzie za każdym razem inaczej napisana. Ale może być też tak, że odpowiedzi będą zupełnie różne w zależności od tego, jak wyglądał wcześniejszy trening modelu albo nasze poprzednie instrukcje i historia naszych „czatów”.

LLM to wielka sieć neuronowa, wewnętrznie splątana. Gigantyczny zbiór danych, takie nie do końca przejrzyste kłącze algorytmiczne. Chociaż i tak bardziej przejrzyste niż to, jak działa ludzki mózg. Natomiast ta inspiracja umysłem, neuronami i tym, jak one pracują i jak są połączone, jest bardzo obecna w sztucznej inteligencji. Aby uzyskać ostateczny wynik, informacja musi przebić się przez wiele warstw. Nie jest to proces, do którego można w pełni zajrzeć; tu docieramy do technologiczno-algorytmicznych granic.

A jeśli chodzi o sam problem czarnej skrzynki – on jest z nami od bardzo dawna. Nauczyliśmy się z nim żyć. Algorytmy mają taką ukrytą tajemnicę. Nie możemy ich całkowicie kontrolować. Mówiąc o czarnej skrzynce, myślę też o tym, co mogłoby być nam powiedziane, a nie jest.

To znaczy?

W modelach komercyjnych ukryte są wagi, parametry, dane treningowe. To są rzeczy, które teoretycznie moglibyśmy wiedzieć na temat tych algorytmów. Może nie możemy przewidzieć, co dany model nam odpowie na konkretny „prompt”, ale na pewno moglibyśmy znać architekturę takiego modelu. A teraz jest tak, że w przypadku produktów komercyjnych, takich jak Claude albo ChatGPT, ich konstrukcja to tajemnica handlowa. 

Faktycznie mamy rozwiązania, które są całkowicie otwarte – na przykład słabo znany model Apertus. On powstał na szwajcarskiej Politechnice Federalnej i jest właśnie całkowicie transparentnym modelem, jeśli chodzi o trening, wagi, dane i tak dalej. Ale są modele, które są tylko częściowo otwarte, ale lubią promować się jako „open source” – na przykład LLaMA od Meta.

W sztucznej inteligencji mamy dzisiaj do czynienia z dwiema czarnymi skrzynkami: jedna jest stricte technologiczna i dotyczy granic możliwości zobaczenia, jak informacja kursuje po warstwach sieci neuronowej. A druga skrzynka ukrywa to, co ma to być w przyszłości przewagą konkurencyjną w stosunku do innych. No i spółki takie jak OpenAI, które mają niestabilną pozycję, liczą na to, że ich tajemnice są na tyle wyjątkowe, że w przyszłości pozwolą im przetrwać. Bo wielu ludzi będzie chciało korzystać z ich rozwiązań dlatego, że wytworzyli coś zupełnie unikatowego.

Sam Altman porównywał hodowanie czy uczenie sztucznej inteligencji do wychowania dziecka i że w związku z tym do jednego i drugiego potrzeba zasobów. Karen Hao w swojej książce opisuje niemal sekciarskie podejście niektórych pracowników. Stawia też tezę, że OpenAI nie jest już firmą technologiczną, ale imperium opartym na ekstrakcji danych, energii oraz pracy. Zgadzasz się z tą metaforą? 

Częściowo się zgadzam, bo opisowa warstwa tej metafory jest trafna. Dane, których nikt dobrowolnie nie oddał, energia i woda zużywane tam, gdzie lokalni mieszkańcy nie mają głosu, oraz praca anotatorów w Kenii czy na Filipinach to klasyczna ekstrakcja, w której wartość powstaje na peryferiach, a kapitalizuje się w centrum. Zastrzeżenie mam wobec tego, co metafora imperium przesłania, bo imperium ma terytorium, monopol na przemoc i trwałość, a OpenAI ma konkurencję depczącą mu po piętach, otwarte wagi podgryzające marże i regulatorów zdolnych realnie ograniczyć ekspansję. Krytyka, która przyznaje firmie mityczną moc, paradoksalnie ją wzmacnia i powiela tę samą wielkościową retorykę, którą stosuje sama branża, tylko ze znakiem minus. 

Porównanie do wychowywania dziecka jest tu bardziej znaczące niż sama analogia, bo naturalizuje technologię. Dziecko rośnie samo, a model jest projektowany, więc każda decyzja o danych, architekturze i warunkach pracy anotatorów jest decyzją konkretnych ludzi w konkretnej strukturze własnościowej.

Wracamy tutaj do pierwszego pytania: dlaczego jestem technorealistką, a nie technooptymistką. Razem ze wszystkimi wybrałam się w podróż ku generatywnej sztucznej inteligencji i bardzo byłam ciekawa skutków rozwoju tej technologii. Trzy lata temu moje i wielu innych wypowiedzi nie były pełne ekscytacji, ale pozostawały otwarte na to, co tu się może wydarzyć.

Zawsze mówiliśmy, że ta technologia, która ma kolosalną siłę predykcyjną, mogłaby być kluczowa w służbie zdrowia, monitorowaniu zmian klimatycznych. Możemy w wielu dziedzinach zastosować ją skutecznie: w administracji publicznej, w proobywatelskich usługach. Ale nikt z nas chyba nie był na tyle naiwny, żeby nie zdawać sobie sprawy, że będzie ona też wykorzystywana do sprzedaży. I chyba nikt nie wątpił, że w którymś momencie w ChatGPT pojawią się reklamy, co już się stało.

Kiedyś ktoś zadał Altmanowi pytanie, czy rozważa wprowadzenie reklam w ChatGPT, odpowiedział, że tylko w akcie desperacji, jako ostatnia deska ratunku. Czyli ten moment już nastał?

OpenAI zdecydowało się na drogę B2C, czyli skupiają się na konsumpcyjnej relacji przedsiębiorstwo–klient indywidualny. Spodziewałam się, że to się wydarzy. Bo jeśli jakiś produkt częściowo oddaje się masie ludzi i przez długi czas udostępnia za darmo, to prędzej czy później będą kłopoty. Nawet teraz za wersję premium płaci tylko 5 procent użytkowników. I to się wydaje głównym problemem OpenAI – chcieli zawłaszczyć sztuczną inteligencję, ale to się nie powiodło. Pojawił się Microsoft, Google, Anthropic i sporo innych narzędzi. Dodajmy do tego trendy suwerenności technologicznej w Europie, gdzie Francja planuje całkowite odejście od amerykańskich modeli. Dlatego wprowadzenie tych reklam było nieuchronne.

Inny temat to sposób, w jaki te reklamy będą się pojawiać. Jeśli wykorzystywana jest warstwa dialogu, to mamy do czynienia z hiperpersonalizacją, jakiej nie znaliśmy do tej pory. To jest dosyć przerażające.

Wydaje się, że ogólnie nastawienie do AI uległo zmianie, szczególnie wśród młodych. Mieliśmy całą serię nagrań tech-CEO, którzy przemawiali na amerykańskich uniwersytetach i zostali wybuczani.

Cóż, jeszcze trzy lata temu Altman mówił, że AI wspomoże służbę zdrowia, a teraz ten sam człowiek opowiada, że ChatGPT będzie oferował erotykę dla dorosłych użytkowników. A weryfikacja ich wieku jest oparta na prawdopodobieństwie, czyli tak naprawdę ten model nie wie, z kim rozmawia. Dla mnie jako rodzica to jest fatalny sygnał. Bałabym się o moje dziecko wchodzące w interakcje ze sztuczną inteligencją. 

W Stanach niechęć wśród ludzi budzi się też dlatego, że AI ekonomicznie przestaje się opłacać. Zwykłe gospodarstwa domowe dokładają się do rachunków za działalność gigantycznych centrów danych, a jednocześnie cały czas słyszymy, że pracy dla człowieka będzie ubywać. Dodajmy do tego złe doświadczenia, np. z deepfake’ami. Siłą rzeczy, to zmienia postawę wobec AI na negatywną.

Najsmutniejsze jest to, że tę technologię można by było prowadzić zupełnie inaczej. Ale spółki zdecydowały się na trajektorię opartą na zysku.

W USA jest bardzo wielu ludzi na tak zwanej „technoprawicy”, którzy są optymistami technologicznymi. Oni uważają, że AI to jest najważniejsze rozwiązanie naszych rozmaitych problemów, ale też dźwignia przyszłej gospodarki, więc trzeba w to ładować absolutnie wszystko. Ale nawet część z nich, w tym osoby z ruchu MAGA, w pewnym momencie poczuła, że obecna trajektoria AI jest w kontrze do ich konserwatywnych wartości albo do pragnienia ochrony dzieci przed rozmaitymi treściami.

Myślę, że ten rozjazd pomiędzy deklaracjami a rzeczywistością wynika także z podejścia tak zwanych „techbros”, czyli szefów różnych technologicznych firm. Ich podejście w dużej mierze jest niemal religijne. To znaczy, że musimy poświęcić ogromne zasoby i dlatego potrzebny jest ten efekt skali: musimy budować kolejne centra, potrzebujemy więcej procesorów, po to, żeby osiągnąć AGI [ogólną sztuczną inteligencję – przyp. red.]. Taki model ma już dorównywać człowiekowi na każdym poziomie, przewyższać go i de facto zastąpić we wszystkim. To jest patrzenie na AI jak na bóstwo.

Cały świat tej elity technologicznej jest wewnętrznie niezwykle podzielony. Altman i szef Anthropica, Dario Amodei, nie chcą sobie nawet podać ręki, chociaż byli kiedyś bardzo blisko. Wszyscy oni z poczuli, że mają władzę symboliczną, w tym sensie, że są źródłem optymizmu, tą nadzieją dla gospodarki. I że są bardzo, bardzo ważni, na przykład dla prezydenta, który ich zaprasza na inaugurację, gdzie wszyscy technokraci siedzieli razem w pierwszym rzędzie.

No i jest ta grupa, na której czele stoi Elon Musk, bardzo politycznie zaangażowany na skrajnej prawicy. Jego Grok bardzo to wyraża, gdzie nawet sposób organizacji kontaktu z użytkownikiem jest inny. Ten model jest bezpośredni, przeklina, opowiada różne prawdy i postprawdy, które hulają po platformie X. 

Jest też Peter Thiel ze swoim Palantirem, a obok niego Alex Karp. Oni wręcz posuwają się do takiego technomesjanizmu. Nie dość, że zakazują jakiegokolwiek regulowania tej technologii czy nadzoru nad nią, uważają, że każdy, kto chciałby jakiekolwiek regulacje AI-owe wprowadzać, przeszkadza w przemarszu tej technologii i pojawieniu się jej kolejnej fazy. Każdy, kto poważy się podnieść rękę na sztuczną inteligencję, jest uważany za antychrysta.

Te elity lobbują za technolibertariańskim podejściem do technologii, czyli całkowitym zakazem regulowania. Postulowano nawet to, żeby wpisać ustawowy zakaz wprowadzania nowych regulacji technologicznych, co miało dać Ameryce przewagę nad Chinami.

A Chińczycy mówią, że regulują sztuczną inteligencję.

To prawda, ale po swojemu i na potęgę. W ogóle nie patrzą na Amerykanów, tylko myślą o dobrostanie swoich pracowników. O tym, że to ma być wehikuł do dobrobytu, ale też do kontroli społecznej. Regulacje dotyczą dostępu dla dzieci, różnych konkretnych grup i to nawet na poziomie regionalnym.

Termin AGI stracił znaczenie w ostatnich latach – teraz głównym tematem marketingowym z kolei są roboty. Więc na tym rynku co parę miesięcy mamy obiecywane coś nowego, żeby ta nadzieja cały czas się tliła. Te terminy są wykorzystywane, kiedy są potrzebne – a potem trafiają do lamusa.

Jeśli ludzie przestaną wierzyć, że za AI stoi coś wyższego, jakaś misja, ogromny cel, to cały ten system rozsypie. Czy masz wrażenie, że funkcjonujesz w bańce, która zaraz pęknie?

Na to pytanie są dwie odpowiedzi – niestety sprzeczne. Pierwszą jest przykład internetu. Starsze pokolenie pamięta bańkę internetową, której przebicie było bardzo bolesne. Wiele spółek internetowych upadło, a niektóre się utrzymały i są do dzisiaj, na przykład PayPal.

Jednak mimo tego kryzysu i bolesnych doświadczeń możemy z całą pewnością stwierdzić, że żyjemy w świecie, w którym internet jest dziś oczywistością. Nawet nie jest czymś, o co pytamy lub o czym dyskutujemy, tak jak robimy to obecnie na temat sztucznej inteligencji. Internet jest zupełnie naturalną warstwą naszego działania, funkcjonowania, pracy.

Bardzo możliwe, że z AI będzie podobnie: mamy do czynienia z technologią relatywnie młodą, przed którą wiele turbulencji. Ale to nie znaczy, że ta technologia zniknie. Kryzys lub pęknięcie bańki nie poskutkuje tym, że my ostatecznie zrezygnujemy ze sztucznej inteligencji.

No chyba, że skrajna automatyzacja doprowadzi do takiego zubożenia społeczeństwa, że dojdzie do wojny lub rewolucji. Skrajna automatyzacja, którą wieści się w Stanach, doprowadziłaby do krachu w gospodarce.

Bo? Musk i jemu podobni twierdzą, że to naturalny scenariusz, łącząc to z potrzebą wprowadzenia dochodu podstawowego dla każdego obywatela.

Gospodarka amerykańska jest w całości oparta na konsumpcji. Jeśli ludzie nagle zubożeją, bo na przykład masowo stracą pracę, to taki model gospodarki się nie utrzyma. I to ugryzie nawet tych, którzy dzisiaj są na samym szczycie. Więc taki wariant – że masowa automatyzacja AI doprowadzi do masowego zubożenia – jest możliwy.

No ale zakładając, że tak się nie wydarzy, to spodziewam się, że rzeczywiście bańka zostanie przekuta, bo nasze zaufanie zostało nadużyte. AGI miało pojawić się już w zeszłym roku, a wciąż jesteśmy do jego powstania daleko. Mamy technologię, która w niektórych obszarach sprawdza się fenomenalnie, a w innych nie.

Czym dla ciebie jest AGI? 

Kiedyś rozumiałam to jako technologię, która w każdym obszarze inteligencji dorównuje lub przewyższa człowieka. My tych obszarów inteligencji mamy bardzo wiele jako organizmy żywe, rozwinięte – inteligencja ciała, społeczna, emocjonalna, obliczeniowa. 

Na ten moment, ChatGPT może napisać fenomenalny raport biznesowy, który ma wartość rynkową i być może zrobi to lepiej niż ty. Z drugiej strony, ten sam model, zapytany o jakąś trywialną rzecz, która by była prosta dla trzylatka, odpowiada głupoty. Można sobie ogłaszać, że AGI już zaistniało i pewnie w pewnych obszarach są na to argumenty, ale w bardzo wielu innych ich nie ma. Wystarczy spojrzeć na te przewracające się roboty, z których żaden nie jest w stanie zawiązać sobie buta…

Inteligencja cielesna, którą my mamy, jest kwestią wiedzy ukrytej, zaszytej w naszym doświadczeniu. Także termin „superinteligencja” dla różnych ludzi będzie znaczył różne rzeczy, w zależności do chęci interpretacji. 

Z kolei obserwujemy, że AI w bardzo krótkim czasie zrewolucjonizowała różne branże, na czele z IT. 

Tutaj widzimy, że ludzka praca, którą jeszcze niedawno bardzo ceniliśmy i która musiała być poprzedzona studiami i długim doświadczeniem, może być łatwo zautomatyzowana, bo algorytmy robią to lepiej. Kwestie związane z zatrudnieniem są szczególnie ważne, bo obowiązywała umowa społeczna, iż taka praca jest ważna i będziemy za nią płacić. A teraz ta praca się dewaluuje, ponieważ koszt inteligencji obliczeniowej spadł prawie do zera. Czyli lepiej jest wziąć Chata, Claude’a czy cokolwiek innego niż pracować z ludźmi, którym to dużo więcej zajmie, a ich efekt pracy nie będzie tak spektakularny.

Z drugiej strony, koszt tokenów, które są niezbędne do programowania za pomocą Claude’a czy innych modeli, może okazać się na tyle duży, że jednak taniej będzie zatrudnić juniora.

No i to jest realny dylemat. Bo mamy kwestie świetlistej obietnicy wspaniałej przyszłości, która nie została spełniona, a ludzie już ponoszą koszty tej technologii. Centra danych pobierają ogromne zasoby energii i wody, a ludzie boją się o swoją pracę. I mają ku temu powody, gdy wychodzi szef Anthropica Dario Amodei i ogłasza, że wszystkie prace białych kołnierzyków znikną w ciągu pięciu lat. W ten sposób buduje się negatywny stosunek wobec sztucznej inteligencji. 

I wychodzi z tego taki paradoks, gdzie technologiczni mogule, tacy jak Amodei, mówią, że ta technologia powstanie i są bardzo zatroskani o jej niekorzystne skutki, ale robią dalej to samo, tylko w coraz większej skali.

To brzmi jak Lord Farquaad, który w Shreku stwierdził, że „wielu z was zginie, ale jest to poświęcenie, na które jestem gotów”.

[śmiech] Dokładnie tak. W Stanach wszyscy kierują się krótkoterminowym zyskiem, liczą na to, że jak coś zautomatyzują, to wygrają na tym coraz bardziej skomplikowanym, niepewnym rynku. Jest jeszcze kwestia niepewności geopolitycznej, konsekwencji wojny w Iranie i wojny celnej Trumpa, co również uderza w rynek pracy. I w takiej niestabilnej sytuacji, jedynym źródłem makrooptymizmu ma być AI. Ale to się nie przekłada na mikrooptymizm ludzi. Wręcz przeciwnie, ludzie są naprawdę wkurzeni.

Szczerze, to życzyłbym sobie, że żeby ta bańka choć trochę pękła, bo wtedy nastąpi jakaś korekta. Spółki technologiczne dostaną trochę po nosie i się zastanowią, komu i w jaki sposób chcą służyć. No i jak tę gospodarkę rzeczywiście wzmacniać przy założeniu, że na razie nie wymyśliliśmy innego modelu niż praca ludzi, wzmacnianej przez technologię.

A w uniwersalny dochód podstawowy nie wierzę. Także ta bajeczka o tym, że my nie będziemy musieli pracować, a AI wszystko załatwi i dostaniemy dywidendę cyfrową, to nie jest dla mnie alternatywa dla sytuacji, którą mamy dzisiaj. Więc chciałabym, żeby ta bańka pękła.

Wspominałaś, że w Stanach zupełnie inaczej wygląda dyskusja o regulacji. Ale są takie osoby, jak na przykład Eliezer Yudkowsky, które od lat zajmują się już tym tematem i de facto krzyczą „stop” – zatrzymajmy się, bo nie wiadomo, co się stanie. Podobne poglądy ma w Polsce Andrzej Zybertowicz, który tłumaczy, że wkrótce możemy znaleźć się w takim miejscu, z którego już nie będzie powrotu. 

Tylko jeśli w głowie wielu decydentów kluczowa jest rywalizacją pomiędzy Ameryką a Chinami, to nie można się zatrzymać. Aby wygrać, trzeba poświęcić wszystko, co staje na drodze. Inaczej jesteś wrogiem postępu, zdrajcą ojczyzny, Zachodu i de facto nas sabotujesz.

Czy w rozwoju AI widzisz rzeczywiste zagrożenie? Czy nadejdzie moment, gdy nie ma odwrotu? Bo to pytanie też można odbić – że AI zawsze było projektowane przez człowieka, więc w takim razie zawsze przez niego może być kontrolowane.

Andrzej Zybertowicz w ogóle postuluje o moratorium technologiczne, czyli również wyłączenie internetu i powrót do telewizji. Nie wierzę, że można się cofnąć. Wydaje mi się, że należy pracować z tym, co jest i zastanawiać się nad skutkami tej technologii, która się przed nami rozpościera.

Co ciekawe, osobą, która „retweetowała” poglądy o moratorium technologicznym, był Elon Musk, który również dwa lata temu zapraszał wszystkich do podpisania moratorium na sztuczną inteligencję. Wszyscy podpisali i nikt się nie zatrzymał.

Natomiast kwestia skutków tej technologii to już jest coś, czym trzeba zacząć kierować. Instrumentem do tego mogłyby być regulacje.

To, że ChatGPT udaje twojego kolegę, to jest świadoma decyzja, design. Zamiast tego, można stworzyć technologię, która wspiera albo wypiera pracę, korzystając z bardzo podobnego fundamentu.

Bardzo ciekawe refleksje przedstawia Stone Center na MIT, centrum kierowane przez Darona Acemoglu i Simona Johnsona, czyli noblistów z ekonomii. Od wielu lat zajmują się oni automatyzacją i jej wpływem na rynek pracy, mówiąc o „propracowniczych technologiach”. Bardzo ciekawa jest technologia, która w jakimś stopniu podwyższa naszą ekspertyzę dziedzinową. I która bierze na siebie pewne zadania, tym samym uwalniając czas dla człowieka, kiedy ten może skupić się na ciekawszych, ambitniejszych zadaniach. Natomiast technologią, która jest zdecydowanie „antypracownicza”, jest taka, która automatyzuje zadania od początku do końca [end to end].

Sztuczna inteligencja daje nam obie możliwości. To może być uzupełniająca relacja, której obecnie często doświadczam w pozytywnym sensie, kiedy AI jakieś odcinki pracy badawczej robi za mnie. A my jako zespół zaczynamy robić zupełnie inne rzeczy, bardzo ciekawe – ponieważ dostaliśmy narzędzie, które nas uwolniło z pewnych rutyn.

Gdybym ja była teraz w Białym Domu, to bym się bardzo poważnie zastanowiła, co dalej. Bo w Europie jest jeszcze pewien parasol ochronny: mamy prawa pracownicze, regulacje technologiczne i jesteśmy ostrożniejsi. Natomiast w Stanach rzeczywiście pogoń za tą technologią jest tak duża, że ona może zacząć uderzać w rdzeń tej gospodarki i źródła dochodu obywateli.

Wróćmy do antropomorfizacji tej technologii. Czy emocjonalne podejście gwarantuje większy zysk? Biorąc pod uwagę fenomen „parasocjalnych” relacji człowieka z AI, który potrafi być przyjacielem albo nawet kochankiem, nasuwa się pytanie: co to znaczy być człowiekiem? Czy sztuczna inteligencja zmieni tę definicję?

Jestem przeciwna antropomorfizacji AI. Przyjaciel to musi być jednak ktoś, kto czuje i komu na mnie zależy. Sztuczna inteligencja, wiem to na pewno, nie ma takiego „afektywnego” stanu w sobie, jest tylko i wyłącznie symulatorem. Daje mi tylko złudzenie, że jej na mnie zależy. 

Antropomorfizacja idzie w parze z tak zwaną „sykofancją” [sycophancy], czyli z tym, że te narzędzia starają się we wszelki możliwy sposób sprawić ci przyjemność. Dać komplement, powiedzieć, że jesteś niesamowity – po to, aby nas od siebie uzależnić. Dlatego ja postuluję, aby na stosunek dzieci do AI patrzeć tak samo, jak na ich stosunek do mediów społecznościowych. Oba modele są psychologicznie skonstruowane tak samo. Wykorzystują mechanizmy uzależnieniowe i dopaminowe skoki, spłaszczając relacje z innymi ludźmi.

Uważam, że powinniśmy eksplorować inne formy interakcji – ostatnio robiliśmy badania z takim modelem AI, który nie odpowiada na pytania i odmawia wykonania pracy dla ciebie. Zamiast tego przyjmuje model sokratejski: daje ci feedback i mówi, co poprawić. I ludzi to irytuje, bo zdążyli się już przyzwyczaić do tego, że AI jest sympatycznym i wiecznie przytakującym asystentem, który wszystko za ciebie zrobi. Ale może taki model sprawiłby, że obudzilibyśmy się ze śpiączki i zobaczyli, że inny asystent jest możliwy – taki, który rozmawia z tobą na trzeźwo i spokojnie.

Dopóki AI nie będzie czuć prawdziwych emocji, taka fałszywa przyjacielska relacja jest dla mnie dystopijna. Ale jeśli pojawi się robot, który ma świadomość, emocje, pewnego rodzaju głębię – to taka relacja byłaby dla mnie pełnoprawnie równorzędna do relacji z ludźmi. Bo wtedy mówilibyśmy o czującej istocie.

Natomiast na ten moment mamy wyłącznie symulację. Staram się być otwarta na terapeutyczne zastosowania tej technologii, na to, że ona jest wsparciem dla bardzo wielu ludzi. Nie chcę też oceniać, bo rozumiem, że są sytuacje w życiu, że ktoś się wstydzi porozmawiać z prawdziwą osobą lub nie ma dostępu ani zasobów na terapię.

Natomiast na pewno musimy być czujni, zwłaszcza w przypadku małoletnich, którzy dopiero budują obraz siebie i swojego życia. Bo jeżeli bot jest pierwszym frontem relacji ze społeczeństwem, to nie wróży nic dobrego. Prawdziwy przyjaciel nie będzie zawsze cię głaskać. Jak zrobisz coś głupiego, przyjaciel powie, że zrobiłeś coś głupiego, a nie będzie opowiadał farmazony, że i tak jesteś najlepszy. Dziś ta technologia w żadnej mierze nie obsługuje takiej głębi relacyjnej, którą wzajemnie sobie dają ludzie.

To prawda, tylko że jednocześnie wiemy z badań, że szczególnie wśród młodych mężczyzn rośnie poziom samotności. Pokolenie Z rzadziej wchodzi w relacje, uprawia mniej seksu, nie wychodzi z domu, brakuje mu spotkań towarzyskich. Rzeczywiście, ta technologia nie zastąpi przyjaciela – ale jeśli go nie masz, to zwracasz się ku czemuś, co jest na wyciągnięcie ręki.

Ludzie są plastyczni, niektóre warunki można zmienić. Bardzo jestem ciekawa tego, jakie skutki przyniesie regulacja smartfonów w szkołach. Patrzę na swoją córkę i na to, jak ona buduje relacje. Ona też korzysta z najróżniejszych technologii, ale jej dzień szkolny – a jest to większa część jej dnia – nie przebiega pod znakiem technologii. Może uda nam się przywrócić wzorce zainteresowania innymi ludźmi, inne typy socjalizacji.

Czy jesteś za zakazem smartfonów w szkołach czy mediów społecznościowych do 16 roku życia? Takie rozwiązania testuje się w kolejnych krajach, jednak jest wiele problemów z ich wyegzekwowaniem. 

Zakaz telefonów w szkołach to dla mnie kwestia oczywista i najłatwiejsza do obrony. Szkoła jest instytucją, która i tak reguluje zachowanie, ma jasno wyznaczone ramy czasowe i przestrzenne, a dowody z krajów, które to wprowadziły, są przyzwoite. Tu nie chodzi nawet o wyniki w nauce, tylko o to, żeby przerwa znowu była przerwą, czyli miejscem, w którym trzeba się do kogoś odezwać.

Granica 16 lat dla mediów społecznościowych jest trudniejsza, bo egzekwowanie faktycznie kuleje, a każdy system weryfikacji wieku ma swoją cenę w postaci prywatności i danych, których nie chcemy oddawać ani platformom, ani państwu. Ale problem z egzekwowaniem jest argumentem za lepszym wdrożeniem, a nie przeciwko samej normie. Mamy granice wieku przy alkoholu, prowadzeniu auta i hazardzie, i nikt nie proponuje, by je znieść, dlatego, że nastolatkowie czasem je obchodzą. 

Najważniejsze jest przesunięcie domyślnego ustawienia i zdjęcie ciężaru negocjacji z pojedynczego rodzica i pojedynczego dziecka, które dziś słyszy, że wszyscy tam są.

Dodam jeszcze jedno, bo mówimy głównie o mediach społecznościowych, a szybko zrobi się to rozmowa o towarzyszach AI. Wierzę, że technologia może koegzystować z naszym życiem społecznym. Ale na ten moment w duchu socjalizacji i w toku edukacji powinniśmy proponować różne sposoby, żeby tych „ludzkich” przyjaciół pozyskać. Bo na AI jako remedium na samotność zyskuje tylko OpenAI i inne podobne spółki, a dla nas wszystkich ma to bardzo kiepski skutek społeczny.

W książce „Niezwyciężony” Stanisława Lema jest opisana sytuacja, w której tworzy się niezależna od człowieka cywilizacja sztucznej inteligencji. W tej Lemowskiej rzeczywistości społeczeństwo robotów jest zupełnie pozbawione moralności ludzkiej. Czy myślisz, że tak może wyglądać przyszłość, czy jest to wynik naszej skłonności do antropomorfizowania maszyn?

Bieżąca forma technologii nie jest w stanie oderwać się od wzorca, jakim jest człowiek. Jesteśmy ich źródłem danych, zachowań. To, jak funkcjonujemy, nasze zasady, emocje – to jest dzisiaj w zasadzie jedyny wzorzec dla sztucznej inteligencji, która staje się naszym lustrem.

Zantropomorfizowana wizja rozwoju sztucznej inteligencji jest realna. Mamy do czynienia z AI odwzorowującym zachowania człowieka. Ale w rzeczywistości ludzie na szczęście się sobie nawzajem aż tak nie podlizują, jak sztuczna inteligencja ludziom. Natomiast AI posiada już jakieś cechy naszych zachowań.

Przejście do formy, która zupełnie jest od tego oderwana, jest trudnym do wyobrażania procesem. Wizja sztucznej inteligencji, która posiada świadomość, tożsamość, podmiotowość – to jest coś, co jest dla mnie w tym momencie kompletnie nie do wyobrażenia. Nie wiem, jak na fundamentach algorytmicznych, które mamy, miałoby cokolwiek takiego powstać. Jestem w stanie sobie wyobrazić, że robot będzie miał intuicje fizyczne i wypracuje sobie poprzez trening wiarygodne formy kontaktu ze światem. Ale przeskoczenie do tego pułapu, który w naszym przypadku ewolucyjnie zajął tyle czasu, wydaje mi się bardzo mało realistyczne – nawet za sto lat.

I tutaj pojawia się masa pytań, bo sztucznych inteligencji jest wiele, ale one są jakoś połączone. A czy taka forma jednostkowa, którą my mamy – bo oczywiście żyjemy kolektywnie w społecznościach, ale jesteśmy też indywidualnymi bytami – czy to w ogóle dla sztucznej inteligencji jest osiągalne? Nie mam pojęcia. Ale gdyby było, to na pewno mielibyśmy ciekawych kolegów na świecie, z którymi moglibyśmy sobie koegzystować.