Jakub Bodziony: Naprawdę myślisz, że żyjemy w „coraz większej kupie gówna”? 

Cory Doctorow: [śmiech] Tak. Zwłaszcza jeśli chodzi o internet. 

To działa według prostego schematu. Platformy najpierw rozdają wartość, żeby zdobyć użytkowników. Potem zabierają ją użytkownikom, żeby zatrzymać partnerów biznesowych. Na końcu zabierają ją wszystkim, bo wiedzą, że nikt nie może już odejść. Wskaźniki satysfakcji klienta spadają. Produkty mają krótszy czas żywotności. A koszty, które za nie płacimy, rosną. Ciężko jest obronić tezę, że YouTube stał się lepszy, kiedy liczba reklam, które trzeba obejrzeć przed rozpoczęciem wideo, wzrosła z dwóch do dziesięciu.

Wiele dzisiejszych „innowacji” sprowadza się do podłączenia produktu do chmury, gdzie dostępne są nowe funkcje. Ale można je wykupić tylko w ramach subskrypcji, choć wcześniej były po prostu częścią produktu. BMW ma czujnik, który przyciemnia światła, kiedy zbliża się samochód, ale za taką funkcję trzeba płacić co miesiąc.

Mamy też samochody Tesli, w których bateria naładuje się tylko do 50 procent, chyba że klient wykupi miesięczną subskrypcję na całą baterię.

W Polsce macie Newag, polskie przedsiębiorstwo produkcyjne. Niedawno wypuścili na rynek pociągi Impuls, w których umieścili niejawne oprogramowanie. Jeśli wykryło ono, że dany pociąg był serwisowany u niezależnych firm, automatycznie go wyłączało. I wtedy właściciel musiał zapłacić 20 tysięcy euro, żeby zrobić zdalną diagnostykę.

Mówiąc językiem ekonomii, nadwyżka trafiła od konsumentów do firm. Tyle że te firmy nie inwestują tych pieniędzy w innowacje ani lepsze produkty. Inwestują je w jeszcze skuteczniejsze wyciąganie pieniędzy od klientów.

Zgoda, YouTube jest coraz gorszy. Amazon też. Facebook również. A mimo to wszystkie te firmy rosną i zarabiają coraz więcej. Dlaczego miałyby się czymkolwiek przejmować? W jednym z wywiadów stwierdziłeś, że są „za duże, żeby się przejmować” [to big to care].

Tak naprawdę ukradłem to określenie Lenie Khan. Bo jest prawdziwe. Opór jednak istnieje. Tylko nie polega na głosowaniu portfelem, bo ono jest obiektywnie głupie. Miliarderzy mają grubsze portfele od ciebie. I głosowanie portfelem działa tylko wtedy, kiedy istnieje realna konkurencja. A wielkie firmy technologiczne zrobiły wszystko, żeby tej konkurencji już nie było.

Gdzie w takim razie widać opór? 

W globalnym odrodzeniu polityki antymonopolowej. I to jest naprawdę niezwykłe.

W słynnym badaniu „Oligarch Study” z 2014 roku naukowcy z Princeton przeanalizowali dwa tysiące decyzji politycznych i sprawdzili, co sprawia, że dany projekt stanie się prawem. Okazało się, że najważniejszym czynnikiem jest to, czy chcą tego bogaci i grupy lobbingowe. Preferencje zwykłych obywateli nie mają praktycznie żadnego wpływu na decyzje polityczne – chyba że akurat pokrywają się z interesami miliarderów.

Tym bardziej niezwykłe jest to, że polityka antymonopolowa wraca jednocześnie w Stanach Zjednoczonych, Kanadzie, Unii Europejskiej, ale też w Japonii, Korei Południowej, Singapurze i Chinach. Przecież nie ma ani jednego miliardera, który by tego chciał.

Jeszcze kilka lat temu wydawało się to niemożliwe. Jakby świnie miały latać, a woda płynąć pod górę. Wokół bigtechów narasta ogromny polityczny gniew. Ale nie wyraża się on w wyborach konsumenckich. Bo wybory konsumenckie po prostu nie rozwiązują problemu.

Jest w tym jakiś paradoks, że na Metę i cały bigtech narzekamy na… Facebooku albo na X. I kiedy to robimy, w odpowiedzi słyszymy, że zawsze można przenieść się na Mastodona, razem z trzema swoimi znajomymi.

Ludzie myślą, że Facebook to miejsce, gdzie można spotkać się ze znajomymi. I to jest dobra część tego portalu. Zła jest taka, że jest pełen śmieci generowanych przez AI. Wyciska z ciebie wszystko, co się da. Szpieguje cię.

Margaret Thatcher mówiła, że nie ma alternatywy, co miało oznaczać: „Nie próbujcie nawet myśleć o alternatywie”. I dokładnie to samo mówi dziś Mark Zuckerberg.

Jeśli nienawidzisz Zuckerberga, to według niego nienawidzisz rozmawiać ze znajomymi. Tyle że to nieprawda. To, że korzystasz z Facebooka, żeby rozmawiać z przyjaciółmi, nie znaczy, że lubisz Zuckerberga, a tylko to, że nienawidzisz go mniej, niż lubisz swoich znajomych.

Tego nie da się zmienić decyzjami konsumenckimi. Da się to zmienić tylko polityką. Problem z organizowaniem oporu decyzjami konsumenckimi jest taki, że to nie działa. A skoro nie działa, zaczynasz złościć się na niewłaściwych ludzi.

To znaczy?

Bojkot to coś zupełnie innego. Weźmy bojkot autobusów w Montgomery, poprzez który walczono z segregacją rasową. Przez 381 dni ludzie konsekwentnie odmawiali korzystania z autobusów. Ale to nie polegało na tym, że każdego ranka ktoś mówił sobie: „Dziś pójdę do pracy pieszo”. Organizowali spotkania, tłumaczyli swoje cele opinii publicznej i politykom, tworzyli system wspólnych dojazdów, naciskali na pracodawców, żeby nie karali spóźniających się pracowników. To był ruch społeczny. Tylko ruchy społeczne coś zmieniają.

Tymczasem dziś stoisz między półkami w supermarkecie i zastanawiasz się, który produkt kupić. Albo myślisz, czy używać Mastodona zamiast Facebooka. Albo masz wyrzuty sumienia, że wciąż jesteś na Twitterze. Jeździsz po mieście w poszukiwaniu małego sklepu, żeby nie kupować na Amazonie. Poświęcasz na to tyle czasu, że nie masz go już dla swoich dzieci. Próbujesz wykupić się z monopolu, a twój sąsiad zamawia kolejne paczki z Amazona i Jeff Bezos wciąż ma swoją rakietę w kształcie penisa. Zaczynasz więc złościć się na sąsiada, że nie robi zakupów równie „odpowiedzialnie” jak ty.

Tylko że Bezosowi nie odbierzecie tej rakiety, robiąc bardziej świadome zakupy. Odbierze ją dopiero wspólny ruch. A kiedy zamiast się organizować, kłócicie się o to, kto gdzie robi zakupy, tracicie solidarność potrzebną do zbudowania takiego ruchu.

Dlatego opieranie oporu na decyzjach konsumenckich to ślepa uliczka. Jeśli masz ulubioną lokalną księgarnię, kupuj książki właśnie tam, ale dlatego, że to fajne miejsce i prowadzą je fajni ludzie. Albo odejdź z Twittera, bo przeszkadza ci, że jest do bani. 

Ale to niczego nie zmienia.

Zmienia twoje życie. Nie musisz już siedzieć na Twitterze. Ale nie zmienia władzy Elona Muska. Jeśli naprawdę chcesz uderzyć w Elona Muska, zalegalizuj jailbreak Tesli. Niech każdy mechanik w Europie za dwadzieścia euro odblokowuje wszystkie płatne funkcje i subskrypcje. Pieniądze trafią do mechaników, a nie do Muska.

Czyli trzeba zmienić reguły gry. Jednak znamy to słynne zdjęcie z drugiej inauguracji Trumpa – wszyscy technologiczni oligarchowie stoją za jego plecami…

Tak. Oni już właściwie się z nim stopili w jedno.

Jak możemy mieć na to jakikolwiek wpływ?

Myślę, że Trump po prostu przesadził. Amerykański internet od zawsze był narzędziem ekstrakcji i źródłem geopolitycznej przewagi. Edward Snowden pokazał nam, że oddanie Amerykanom kontroli nad internetem oznaczało oddanie im ogromnej władzy. Pomyśl o wszystkich danych, które przejęli. Pomyśl o pieniądzach, które wyciągają z europejskiej gospodarki.

Za każdym razem, gdy Europejczyk z iPhone’em kupuje coś od innego Europejczyka, 30 centów z każdego euro trafia do Kalifornii. Ile kosztuje przetworzenie takiej płatności w Europie? Między osobami prywatnymi jest darmowe, a przy płatnościach komercyjnych kosztuje około jednego procenta. Tymczasem Apple pobiera 30 procent. To najbardziej dochodowa część biznesu tej firmy – około 100 miliardów dolarów rocznie. A my to tolerowaliśmy. Zgodziliśmy się nawet, żeby nasze ministerstwa działały na Microsoft 365.

W ramach tego układu uznaliśmy też, że w zamian za brak ceł na europejski eksport zakażemy odtwarzania i modyfikowania amerykańskich technologii, czyli ich „jailbreakowania”. A potem Trump i tak nałożył cła.

Wcześniej Ameryka wykorzystywała tę przewagę po cichu. Teraz robi to otwarcie. Mówi członkom Międzynarodowego Trybunału Karnego: „Wydaliście nakaz aresztowania Benjamina Netanjahu za zbrodnie wojenne? W takim razie nie macie dostępu do internetu i kart płatniczych”.

Co się stanie, jeśli nie oddamy mu Grenlandii? Nie musi wysyłać czołgów do Danii. Wystarczy, że ją odłączy. November Kelly, szkocka podcasterka, ujęła to najlepiej: Trump odziedziczył ustawioną grę w pokera, w której wszystkie zasady działały na korzyść Stanów Zjednoczonych. Ale przewrócił stolik, bo irytowało go, że w ogóle musi udawać, że gra. Ta gra właśnie się skończyła.

No, to mamy nowe rozdanie. I jakie karty ma Europa? 

Paradoksalnie dziś mamy większą zdolność polityczną i gospodarczą niż kiedykolwiek wcześniej, żeby zbudować internet po Ameryce. Najpierw zgównowacili internet. Potem wyciągnęli z niego pieniądze. Szpiegowali nas. Następnie Trump zespolił swoją władzę z interesami gigantów technologicznych i zaczął otwarcie wykorzystywać tę infrastrukturę jako narzędzie amerykańskiej twardej, a nie miękkiej siły. A później zaczął mówić kolejnym państwom: „Zabiorę wam ziemię”. Nieważne, czy chodzi o Grenlandię, czy o uczynienie z Kanady pięćdziesiątego pierwszego stanu.

Dzisiaj już nikt poważny nie może twierdzić, że powinniśmy po prostu wrócić do starego porządku. Nawet Mark Carney – chyba najbardziej „McKinseyowski” technokrata i bankier centralny, jakiego można sobie wyobrazić – pojechał do Davos i powiedział: „Stary porządek już nie wróci. Nie powinniśmy za nim tęsknić. Nostalgia nie jest strategią”.

W książce „The Reverse Centaur’s Guide to Life After AI” piszesz, że sztuczna inteligencja zmienia całą sytuację. Karen Hao w rozmowie z „Kulturą Liberalną” porównuje firmy AI do imperiów. Europa może je regulować, ale sama nie ma własnych. 

Myślę, że Hao ma rację. Różnica między starym bigtechem a AI nie polega na tym, co ta technologia robi. Chodzi o to, czy w ogóle jest w stanie utrzymać się o własnych siłach. Nie chodzi nawet o to, czy jest trwała. Chodzi o to, czy w ogóle jest rentowna.

W historii świata nic nie przepaliło tylu pieniędzy co AI. I każda kolejna generacja modeli przepala ich jeszcze więcej niż poprzednia. W przeciwieństwie do internetu, który na początku też przynosił straty, AI ma po prostu fatalną ekonomię.

To nie jest biznes, w którym każdy nowy użytkownik przybliża cię do rentowności. Jest dokładnie odwrotnie. Tracisz coraz więcej pieniędzy z każdym nowym użytkownikiem, z każdym kolejnym użyciem modelu. Sprzedają studolarowe banknoty za dolara.

Ale przecież z Uberem było podobnie. Przez lata przynosił straty, a dziś wreszcie zaczął zarabiać. Dlaczego z AI miałoby być inaczej?

Uber rzeczywiście znalazł drogę do rentowności. Pytanie tylko, jak długo ona potrwa. Przez lata utrzymywał się dzięki pieniądzom inwestorów. Część jego sukcesu była też efektem kreatywnej księgowości. Wyceniał udziały w zagranicznych spółkach na coraz wyższe kwoty, choć nikt ich faktycznie nie kupował.

Dziś Uber wygląda na rentowny, ale głównie dlatego, że AI pozwala mu jednocześnie wyliczyć najniższą stawkę, jaką zaakceptuje kierowca, i najwyższą cenę, jaką zapłaci pasażer. Te dwie rzeczy zostały całkowicie od siebie oderwane. Kiedyś mówiono, że wyższe ceny w godzinach szczytu oznaczają wyższe zarobki kierowców. Dziś po prostu płacisz więcej, jeśli algorytm uzna, że może cię na tyle skasować.

Czyli AI nie tworzy wartości, tylko coraz skuteczniej ją przechwytuje.

Właśnie tak. Ale co ważniejsze, ten model jest niezwykle kruchy. Opiera się na słabym rynku pracy, na którym kierowcy godzą się na coraz niższe stawki, oraz na pobłażliwości regulatorów wobec praktyk, które w innych branżach mogłyby zostać uznane za nieuczciwe. Wystarczy więc zmiana prawa albo sytuacji gospodarczej i ta rentowność Ubera może bardzo szybko zniknąć.

Dlatego problemem nie jest sam Uber, lecz reguły, które chronią jego pozycję. Gdyby prawo pozwalało na legalne modyfikowanie aplikacji, mogłyby powstać programy łączące kierowców i pasażerów poza platformą. Pasażer płaciłby mniej, kierowca zarabiałby więcej, a Uber nie pobierałby prowizji. To właśnie takie rozwiązania – a nie bojkoty konsumentów – mogłyby realnie osłabić monopol platform.

Uber przekonuje jednak, że przyszłością są autonomiczne taksówki.

To fantazja. Kierowcy nigdy nie byli głównym kosztem Ubera. Co więcej, dziś to oni finansują samochody. Jeśli Uber będzie musiał kupić i utrzymywać własną flotę autonomicznych aut, wcale nie jest oczywiste, że jego model stanie się bardziej opłacalny.

Ale może właśnie to jest pokusa CEO? Zwolnić pracowników. Usunąć wszelkie tarcie. Pozbyć się wszystkiego, co utrudnia maksymalizację zysków.

Tak, tak. „Gdybym tylko nie miał pracowników…”. Kiedy pracowałem w handlu, żartowaliśmy, że praca w sklepie byłaby świetna… Gdyby nie było klientów. I każdy ma czasem takie myśli.

To całkowicie normalny odruch. Ale jeśli nie jesteś idiotą, to rozumiesz, że sklep bez klientów nie ma sensu. A miejsca pracy istnieją właśnie dlatego, że ludzie korzystają z usługi. 

Tyle że wokół AI zbudowano dziś całą opowieść. To ma być przyszłość. Geopolityczny wyścig. Początek nowej epoki. Płyną w to niewyobrażalne pieniądze. I naprawdę trudno mi sobie wyobrazić, kiedy to wszystko miałoby się skończyć.

Jest takie prawo Steina: „jeśli coś nie może trwać wiecznie, to w końcu się skończy”. Z drugiej strony John Kenneth Galbraith powiedział kiedyś, że rynek może pozostawać irracjonalny dłużej, niż ty możesz pozostać wypłacalny.

Dlatego bardzo trudno przewidzieć moment, w którym pęka bańka inwestycyjna. Mieliśmy już NFT, metawersum. Kryptowaluty też wciąż istnieją, chociaż straciły połowę wartości. Większość tak zwanych shitcoinów się zawaliła, ale cały rynek nadal funkcjonuje.

Tylko że tutaj stawka jest dużo większa. AI to rynek, który w dużej mierze odpowiada za wzrost gospodarczy w USA. Siedem firm AI stanowi dziś około 35 procent indeksu S&P 500, najważniejszego indeksu giełdowego w Stanach Zjednoczonych.

Tak. I sześć z nich traci pieniądze. Siódma to NVIDIA – firma, której te pieniądze płacą.

A NVIDIA pożycza pieniądze pozostałej szóstce.

Tak. Firmy pożyczają pieniądze od NVIDII po to, żeby… zapłacić NVIDII. To bardzo zły znak. Tak wyglądają bańki tuż przed pęknięciem. Ten wzrost jest iluzją.

Jeśli musisz pożyczać klientom pieniądze, żeby kupowali twój produkt, księgować to jako przychód, a potem pożyczać im kolejne pieniądze, żeby znowu kupowali twój produkt, to prędzej czy później przychodzi moment rozliczenia.

Tego właśnie się boję. Bo od dwudziestu pięciu lat na niemal każdy kryzys finansowy – z wyjątkiem pandemii – odpowiadaliśmy polityką oszczędności. A o polityce oszczędności wiemy jedno – popycha ludzi w ramiona faszystów.

Niedawno ukazało się duże badanie Uniwersytetu w Nottingham. 

Pokazało, że najlepszym prognostykiem przechodzenia wyborców do partii faszystowskich jest… utrata dostępu do lekarza. 

Bo kiedy tracisz coś, czego potrzebujesz do normalnego życia, a potem przychodzi faszysta i mówi: „To dlatego, że ktoś inny dostał to, co powinno należeć do ciebie”, bardzo łatwo w to uwierzyć.

Kryzys AI nie nadejdzie w próżni. Przyjdzie w środku pogłębiającego się kryzysu klimatycznego i geopolitycznego. Żeby sobie z nimi poradzić, potrzebujemy kompetentnych przywódców, a nie faszystów. Potrzebujemy solidarności, czyli dokładnego przeciwieństwa faszyzmu.

Dlatego obawiam się nowej polikryzysowej spirali. Globalna polityka oszczędności, kryzys klimatyczny, napięcia geopolityczne i załamanie bańki AI mogą wzajemnie się napędzać. Wszystko zacznie pogarszać wszystko inne.

Bardzo optymistyczna wizja. Co więc należy zrobić?

Jeśli chcemy przygotować się na kryzys AI, musimy budować solidarność. Wspierać organizacje społeczne, takie jak Electronic Frontier Foundation czy w Polsce Panoptykon, Creative Commons Polska albo Fundacja Nowoczesna Polska. Angażować się w politykę. Wspierać partie, które wierzą w solidarność i sprzeciwiają się faszyzmowi. Zakładać związki zawodowe i do nich wstępować. Ruch pracowniczy jest fundamentem, na którym można budować wszystkie inne formy solidarności.

Czyli nie wierzysz, że wystarczy jeszcze jedna generacja modeli? Jeszcze jeden kredyt. Jeszcze jedna runda finansowania. I nagle pojawi się AGI, które rozwiąże wszystkie problemy?

[śmiech] Jasne, jeszcze jeden zakład. Jeszcze jedna runda w kasynie. Tym razem na pewno się odbiję! 

Żeby zrozumieć AI, trzeba najpierw zrozumieć, czym ona właściwie jest. Do obecnej generacji modeli sztuczna inteligencja próbowała przede wszystkim budować model świata. Programiści tłumaczyli komputerowi, jak działa rzeczywistość, a potem karmili go danymi, żeby potrafił przewidywać różne rzeczy. To było powolne, drogie i pełne błędów. Między innymi dlatego, że sami nie do końca rozumiemy, jak działa świat.

Prawdziwy przełom polegał na czymś zupełnie innym. A co, jeśli w ogóle przestaniemy budować model świata? Co, jeśli po prostu wrzucimy do modelu wszystkie dane i każemy mu szukać korelacji? Oczywiście korelacja nie jest przyczynowością. Ale przyczyny i skutki są ze sobą skorelowane. Okazało się, że jesteśmy w stanie zaobserwować znacznie więcej korelacji, niż potrafimy wyjaśnić. To było zdumiewające. Te modele okazały się znacznie lepsze w przewidywaniu i wpływaniu na rzeczywistość, niż niemal ktokolwiek się spodziewał.

I to jest naprawdę użyteczne. Czasem nie wiemy, dlaczego coś działa. Lekarz może przepisać ci lek, którego mechanizmu działania nauka jeszcze do końca nie rozumie. Jeśli ci pomaga, prawdopodobnie nie obchodzi cię dlaczego.

Ale potem ludzie wykonują gigantyczny skok myślowy. Mówią: „No dobrze, skoro to działa, to wystarczy dać modelom jeszcze więcej danych, jeszcze więcej parametrów, jeszcze dłuższe sekwencje tokenów i ChatGPT-10 po prostu stanie się inteligentny”.

I to nie ma sensu? 

To tak, jakby powiedzieć, że jeśli będziemy hodować coraz szybsze konie, to w końcu jedna z klaczy urodzi lokomotywę. Rozumienie nie jest po prostu większą liczbą korelacji. To jest coś zupełnie innego.

Niedawno rozmawiałem z takim klasycznym AI bro. Powiedział mi: „Ja potrafię przewidzieć, co za chwilę powie moja żona. AI też potrafi przewidzieć, co powie moja żona. To czy AI jej nie rozumie?”.

No jasne, wszyscy się powtarzamy. Moja żona często potrafi przewidzieć, co powiem. Ja często potrafię przewidzieć, co powie ona. Autouzupełnianie w telefonie też całkiem nieźle przewiduje następne słowo. Ale mam nadzieję, że wasz partner nigdy nie powie: „Chcę rozwodu”. Bo jeśli myślicie, że rozumienie drugiego człowieka polega wyłącznie na przewidywaniu jego kolejnych słów, to macie prze**bane.

Kiedy moja żona mówi coś, czego kompletnie się nie spodziewałem, nie próbuję znaleźć statystycznie najbardziej prawdopodobnej odpowiedzi. Zastanawiam się: Dlaczego powiedziała to właśnie teraz? Co się wydarzyło? Co to właściwie znaczy?

Model tego nie potrafi. Przeszukuje swój statystyczny korpus i zgaduje, jakie zdanie najczęściej pada po słowach: „Chcę rozwodu”. To jest przewidywanie, a nie rozumienie.

Piszesz, że „gównowacenie” nie jest prawem natury, tylko skutkiem konkretnych decyzji politycznych. Jeśli tak, to dlaczego ten sam mechanizm widzimy niemal wszędzie?

Bo niemal wszędzie obowiązywała ta sama teoria. Przez ostatnie pięćdziesiąt lat dominowało neoliberalne przekonanie, że monopol jest efektywny i należy go wspierać. Rozumowanie wygląda mniej więcej tak: skoro 90 procent ludzi używa Google’a, to znaczy, że Google musi być najlepsze. A gdyby nie było najlepsze, konkurencja już dawno by je wyparła.

Jest taki stary żart o ekonomistach. Dwóch idzie ulicą. Jeden mówi: „Patrz, dwadzieścia dolarów”. Drugi odpowiada: „Niemożliwe. Gdyby naprawdę tam leżało dwadzieścia dolarów, ktoś już by je podniósł”. I właśnie to przez lata była ekonomiczna ortodoksja.

Problem polega na tym, że kiedy pozwalasz na koncentrację rynku, prędzej czy później dochodzi do zawłaszczenia procesu regulacyjnego [regulatory capture]. Kilka firm bardzo łatwo uzgadnia wspólne interesy. Nie muszą już ze sobą konkurować, więc mają mnóstwo dodatkowych pieniędzy. A kiedy masz dodatkowe pieniądze, możesz wpływać na politykę. Peter Thiel mówi, że konkurencja to „marnotrawstwo”, a Apple dostaje od Google 20 miliardów dolarów rocznie za to, by nie konkurować z nim na rynku wyszukiwarek.

Potem zmienia się sama firma. Ludzie, którzy chcą robić właściwe rzeczy, zaczynają przegrywać. Bo jeśli nie ma żadnych konsekwencji, bardzo łatwo sobie wszystko zracjonalizować. To trochę jak z rzucaniem alkoholu. Wyrzucasz wszystkie butelki z domu. Jasne, o drugiej w nocy nadal możesz pojechać do całodobowego sklepu monopolowego. Ale przez te trzydzieści minut jazdy masz jeszcze czas zastanowić się, czy naprawdę chcesz to zrobić.

Czyli regulacje wprowadzają tarcie? 

Tak. Wstawiają jeszcze jeden krok między zły impuls a jego realizację. Kiedy usuwamy to tarcie – zarówno z prawa, jak i z działania firm – coraz łatwiej ulegać złym decyzjom.

A ponieważ nikt nie budzi się rano z myślą: „Dzisiaj zniszczę swoją firmę”, wszystko dzieje się krok po kroku. Jeszcze jeden kompromis. Jeszcze jedna decyzja. Ludzie nie myślą kategoriami absolutnymi. Myślą względnie. To nie jest: „Zjem całą pizzę”. To jest: „Jeszcze jeden kawałek”. 

Komputery zmieniły jeszcze jedną rzecz. Pozwalają podejmować coraz mniejsze decyzje. I podejmować je coraz szybciej. Dzięki analizie danych można precyzyjnie sprawdzić, jak bardzo można zepsuć produkt, podnieść cenę albo wycisnąć użytkownika, zanim zacznie protestować.

Przez długi czas komputery były jednocześnie gazem i hamulcem. Pozwalały przyspieszać gównowacenie, ale pozwalały też je zatrzymywać. Kiedy zabraliśmy hamulce, został już tylko gaz. A komputery stały się lubrykantem maszyny gównowacenia.