fot. Katharina Schiffl/OTS/WKO
z Yuvalem Noahem Hararim rozmawia Steve Paulson listopad 2019

Zmartwieni o ludzkie dusze

Po raz pierwszy w historii nie mamy pojęcia, jak wyglądać będzie świat za 30 lat. Stoimy u progu rewolucji, która zmieni ludzkość na jej wieczną korzyść lub zatratę.

Artykuł z numeru

Harari. Czy możemy mu zaufać?

Harari. Czy możemy mu zaufać?

Co jest szczególnego w obecnym momencie historii?

Szczególne jest tempo technologicznej zmiany, zwłaszcza bliźniacze rewolucje w zakresie sztucznej inteligencji i bioinżynierii. Dają one możliwość hakowania ludzi i innych organizmów, a następnie ich przekształcania i tworzenia nowych form życia.

Jak dalece technologia może zmienić to, kim jesteśmy?

Niezmiernie. To przekracza naszą wyobraźnię. Zresztą technologia zmienić może także naszą wyobraźnię. Jeśli jest ona zbyt uboga, aby myśleć o nowych możliwościach, możemy ją po prostu wzbogacić. Przez miliardy lat wszelkie życie sprowadzało się do sfery organicznej. Nie miało znaczenia, czy chodzi o amebę, Tyrannosaurusa rexa, orzech kokosowy, ogórek czy homo sapiens. Każde z nich składa się z organicznych elementów i podlega prawom biochemii organicznej. Teraz jednak jesteśmy o krok od tego, by wydostać się ze tej sfery i zacząć łączyć to, co organiczne, z nieorganicznymi botami, tworząc cyborgi.

Co Pana niepokoi, gdy mowa o nowych cyborgach?

Przeprowadza się już eksperymenty, których celem jest uzupełnienie ludzkiego systemu immunologicznego o nieorganiczny, bioniczny system. Miliony maleńkich nanorobotów i czujników będą monitorować, co się dzieje w naszym ciele. Mogą one odkryć początki raka bądź jakiejś choroby zakaźnej i zwalczyć te zdrowotne zagrożenia. System mógłby monitorować nie tylko to, co idzie źle. Mógłby również śledzić nasze nastroje, emocje, myśli. To znaczy, że mógłby znać nas lepiej niż my sami. Chodzimy na wieloletnią terapię, żeby zdobyć kontakt z naszymi emocjami, a ten system – należący do Google’a, Amazona czy rządu – mógłby monitorować nasze emocje w sposób, który jest niedostępny ani nam, ani naszemu terapeucie.

Czy twierdzi Pan, że komputerowe algorytmy mogłyby pozyskiwać osobiste dane, których istnienia nawet nie jesteśmy świadomi?

Tak. Strach, złość, miłość i wszelkie inne ludzkie emocje są ostatecznie po prostu biochemicznym procesem. W ten sam sposób, jak można zdiagnozować grypę, można diagnozować złość. Można kogoś spytać: „Dlaczego jesteś zły? Czemu się gniewasz?”, a on odpowie: „Nie jestem zły, o co ci chodzi?”. Lecz ten zewnętrzny system nie musi nas o nic pytać. Może monitorować pracę naszego serca, mózgu czy ciśnienie krwi. Może mieć skalę złości i wiedzieć, że w danym momencie mamy 6,8 w skali od 1 do 10. Połączenie tego mechanizmu z olbrzymią ilością danych zbieranych 24 godz. na dobę może zapewnić nam najlepszy system ochrony zdrowia w historii. Ale także stanowić podstawę najgorszych dyktatorskich reżimów w dziejach.

Pisze Pan: „Do kogo należą dane, do tego należy przyszłość”. Co Pan przez to rozumie?

W przeszłości najważniejszym zasobem było terytorium. Później maszyny. Teraz najważniejszym zasobem są dane. Polityka staje się walką o kontrolę danych, a przyszłość należy do tych, którzy je zmonopolizują. Jedno z największych politycznych pytań naszej epoki brzmi: jak uregulować własność nad danymi?

Czego się tu należy obawiać?

Tego, że zewnętrzny system może nas znać lepiej niż my sami. Może przewidywać nasze wybory i decyzje, manipulować naszymi emocjami i sprzedać nam wszystko: od towarów po polityków.

Dlaczego nie mielibyśmy po prostu powierzyć się komputerom? Niech one podejmują decyzje za nas. Może będziemy szczęśliwsi.

W pewnych sprawach to byłby bardzo dobry pomysł. Zaczynając od takich rzeczy jak to, komu oddać prowadzenie samochodu. Obecnie ponad milion ludzi w ciągu roku ginie na świecie w wypadkach samochodowych. To więcej niż łączna liczba ofiar wojen, przestępstw i terroryzmu z tego samego okresu. A prawie wszystkie wypadki samochodowe spowodowane są błędem człowieka. Jeśli zgodzilibyśmy się na zmianę i oddali algorytmom, komputerom prowadzenie pojazdów, nie zredukowałoby to wypadków do zera, ale jest prawdopodobne, że zmniejszylibyśmy ich liczbę nawet o 90% i uratowali setki tysięcy ludzkich istnień.

Zatem kiedy oddanie władzy algorytmom okazuje się złym pomysłem?

Wtedy gdy zaczynamy oddawać im decyzje dotyczące tego, co należy studiować, gdzie żyć, z kim wziąć ślub, na kogo głosować. Algorytmy tworzą rekomendacje i to od nas zależy, czy będziemy postępować zgodnie z nimi czy nie. W wielu przypadkach ludzie będą podążać za tymi zaleceniami, ponieważ wiedzą z doświadczenia, że algorytmy podejmują lepsze decyzje. Rekomendacje mogą nigdy nie stać się doskonałe, ale nie muszą też takie być. Wystarczy, że będą w swej średniej lepsze niż te tworzone przez ludzi. Nie jest to niemożliwe, ponieważ ludzie często popełniają okropne błędy, nawet przy najważniejszych życiowych decyzjach. To nie jest kwestia przyszłości.

Już oddaliśmy algorytmom władzę rozstrzygania, jakie filmy obejrzymy i jakie książki kupimy. Jednak im mocniej ufamy algorytmom, tym bardziej tracimy umiejętność podejmowania samodzielnych decyzji.

Po kilku latach korzystania z rekomendacji Google Maps tracimy instynktowną zdolność do samodzielnego wyboru trasy. Nie znamy już własnego miasta. Więc mimo iż teoretycznie wciąż dzierżymy władzę, to w praktyce przechodzi ona na algorytm.

W kontekście sztucznej inteligencji najczęściej pojawia się strach, że roboty przejmą nad nami kontrolę, że zyskają autonomię i staną się naszymi władcami. Pan mówi coś całkiem innego. Sugeruje Pan, że sami poddamy się maszynom.

Tak, to my oddamy im władzę. W większości filmów science fiction roboty same zaczynają zmieniać swe ustawienia, a następnie usiłują zabić ludzi. Oni zaś muszą się bronić i niszczą je. To bardzo kojący dla nas mit. Sugeruje, że nikt nie wykona naszej pracy lepiej niż my, a jeśli polegać będziemy na robotach, katastrofa jest pewna. Dużo bardziej przerażającym scenariuszem jest ten, w którym roboty podejmować będą lepsze decyzje od nas. W takiej sytuacji pojawi się pytanie: o co chodzi w ludzkim życiu? Przez tysiąclecia towarzyszyła nam idea, że życie ludzkie to dramat składający się z podjętych w jego trakcie decyzji, że życie to droga, na której jest wiele skrzyżowań i co kilka dni, miesięcy lub lat trzeba podjąć decyzję.

Na tym opiera się nasz system etyczny, a do pewnego stopnia także religia.

Właśnie, jeśli podejmujesz dobre decyzje, trafiasz do nieba. Jeśli nie, wędrujesz do piekła. O tym mówi cała nasza kultura: od sztuk Szekspira po głupie hollywoodzkie komedie. Kogo powinna poślubić? Iść na wojnę czy zawrzeć pokój? Można próbować sobie wyobrazić, co stałoby się z ludźmi, gdyby Hamlet złapał za swój smartfon i zapytał Siri, co ma robić.

W jaki sposób ta technologiczna zmiana wpłynie na systemy polityczne? Dominująca polityczna ideologia – liberalna demokracja – wydaje się dziś poważnie zagrożona.

Mamy obecnie do czynienia z sytuacją, gdy brakuje nam narracji pozwalającej zrozumieć, dokąd zmierzamy. Nawet jeśli część z nas wciąż jest oddana wartościom liberalnej demokracji, straciła już ona swoją eksplanacyjną moc. W latach 90. i na początku nowego millennium tworzyła potężne proroctwa na temat naszej przyszłości. Zdawało się, że liberalna demokracja i wolnorynkowy kapitalizm rozleją się na cały świat, a wszystkie kraje upodobnią się do takich państw jak USA lub Dania. Dziś ta narracja nie oferuje już klarownej wizji przyszłości. Nikt jej zresztą nie posiada. Ani po lewej stronie, ani po prawej nie znajdziemy nikogo, kto miałby przekonującą wizję tego, jak ludzkość i świat wyglądać będą w 2050 r. Nawet ci, którzy wciąż są związani z liberalnym systemem etycznym, nie mogą już udawać, że proroctwa tej ideologii pozostają w mocy. Świat nie toczy się zgodnie z oczekiwaniami liberałów. Ci, którzy wierzą w liberalizm, nie rozumieją, co się tu, do diaska, dzieje.

Należę do ich grona. Liberalna demokracja zdaje się mieć przepis na sukces, ale, jak się okazało, nie zdołała zadziałać w ten sposób na pokaźny zestaw państw.

Tak, im więcej autorytarnych przywódców przejmuje władzę, tym bardziej demokratyczne państwa muszą walczyć o swoje przetrwanie. Trzeba jednak podkreślić, że świat w ciągu ostatnich 30 lat, tj. w trakcie hegemonii demokracji i liberalizmu, przybrał najlepszy kształt w historii – przynajmniej z punktu widzenia ludzi. Świat nie cieszył się nigdy takim rozwojem i pokojem, jak w ostatnim 30-leciu. W znacznym stopniu była to zasługa liberalizmu. Niemniej ludzie tracą dziś w niego wiarę. A jedną z przyczyn takiego stanu rzeczy jest rozwój nowych technologii, który sprawia, że coraz więcej z nas zostaje w tyle. I nie dotyczy to tylko technologii, ale także nowych perspektyw nauki. Liberalna opowieść opiera się na ideale i pojęciu wolnej woli – wierze, że wolna wola ludzkich indywiduów jest najgłębszym źródłem władzy w świecie. Jednak nauka mówi nam dziś, że nie ma czegoś takiego jak wolna wola. To mit.

Trwa na ten temat dyskusja. Wielu naukowców i filozofów nie zamierza złożyć broni w sprawie wolnej woli.

Prywatnie być może. Lecz jeśli zerknie się do czasopism naukowych, publikowanych w nich artykułów i eksperymentów, okazuje się, że nauka nie rozumie nawet znaczenia tego pojęcia. Nie znamy żadnego procesu w przyrodzie, który byłby prawdziwie wolny. Rozróżniamy dwa ich rodzaje: zdeterminowany i przypadkowy, a dzięki ich kombinacji otrzymujemy przebieg wydarzeń oparty na zasadzie prawdopodobieństwa. Ani przypadkowość, ani prawdopodobieństwo nie oznaczają jednak wolności. Ludzie z pewnością mają wolę. Posiadają też pragnienia. I stale podejmują decyzje. Swoich pragnień ani woli nie wybieramy jednak w sposób wolny. Są one ukształtowane zarówno przez naturę, jak i kulturę tak, że pozostają poza zrozumieniem i kontrolą jednostek.

Czy sugeruje Pan, że ta utrata indywidualnej kontroli zasila kryzys demokracji?

Cóż, nakładają się tu na siebie dwie rzeczy. Przede wszystkim uzyskaliśmy zdolność do zhakowania istot ludzkich. Jeśli ktoś wierzy w wolną wolę, powie, że to niemożliwe. Nikt nie zna mnie lepiej niż ja sam. Nikt nie jest w stanie przewidzieć moich wyborów czy manipulować moimi pragnieniami, bo są one odbiciem mojej wolnej woli, mojego nieskrępowanego ducha. Gdy ktoś tak mówi, staje się najłatwiejszą do zhakowania i manipulowania osobą.

Czy mówi Pan o grupach politycznych, które używają Facebooka do rozhuśtania opinii publicznej?

To tylko wierzchołek góry lodowej. Albo sygnał alarmowy. Ale tak – sposób działania Cambridge Analytica i tych wszystkich firm i botów polega na hakowaniu ludzi. Dowiadują się one o naszych istniejących już nienawiści, lękach i uprzedzeniach. A gdy zna się uprzedzenia i słabości konkretnej osoby, można na tym materiale dalej pracować.

Strach i nienawiść to pierwotne emocje. Czy twierdzi Pan, że dzięki ich wykorzystaniu można kontrolować dyskurs polityczny?

Tak. Jeśli chce się zniszczyć zdolność do prowadzenia sensownej publicznej dyskusji, należy odkryć to, czego ludzie się boją i czego nienawidzą, oraz wzmacniać te emocje. I trzeba to robić w sposób zindywidualizowany. Nie można po prostu pokazać tej samej historii każdemu, ponieważ różni ludzie mają odmienne słabości. Jeśli odkrywamy, że ktoś ma głębokie uprzedzenia wobec imigrantów, to pokażemy mu fake newsa o tym, jak imigrancki gang gwałci lokalne kobiety. Wiemy, że ten, kto już ma takie uprzedzenia, uwierzy w tę historię. Ale jego sąsiadka może już mieć inny stosunek do tych spraw – być za imigracją. Będzie mieć jednak inne uprzedzenia i myśleć, że każdy, kto przeciwstawia się imigracji, jest faszystowskim, rasistowskim idiotą. Jej więc pokażemy inną historię o tym, jak gang prawicowych fanatyków morduje imigrantów. I ona uwierzy temu równie łatwo jak ten, kto uwierzył w opowieść o imigrantach gwałcących kobiety. To gra na lękach, nienawiści i słabościach. Tak więc jeśli myślimy, że ludzie podejmują decyzje dzięki kompletnie wolnej woli, to powiemy, że to niemożliwe. Ale wtedy staniemy się łatwym łupem dla takiej manipulacji.

Mówił Pan, że dwa zjawiska nakręcają kryzys demokracji. Czym jest ta druga rzecz?

To fakt, że przyszłość zostawi coraz więcej ludzi za burtą. Duża część rozgoryczenia, które dziś pojawia się na świecie, a zwłaszcza w USA, nie dotyczy trudności dnia codziennego. Chodzi raczej o ludzi, którzy patrzą w przyszłość i uświadamiają sobie, że przyszłość ich nie potrzebuje.

Istotą wielu politycznych i społecznych zmagań w XX w. był wyzysk – elity wyzyskiwały klasę pracującą. Lecz w XXI stuleciu nie boimy się najbardziej tego, że elity nas będą wyzyskiwać, ale tego, że nie będą nas już potrzebować.

Stajemy się nieważni. W dużym stopniu ten strach jest uzasadniony. Wielu ludzi stanie się nieistotnych dla gospodarki, dla politycznego systemu. Starają się więc użyć swojej politycznej siły, zanim będzie za późno.

Jeśli Pana kryształowa kula pokazuje prawdę, proszę powiedzieć, co możemy zrobić.

Z całą pewnością możemy uregulować nowe technologie. Zrobić wszystko, by zostały użyte w dobrych, a nie w złych celach. Musimy się upewnić, że algorytmy korzystające z wielkich danych służą nam – pojedynczym ludziom – a nie tylko interesom korporacji i rządów. Obecnie widzimy, że więcej systemów wyposażonych w sztuczną inteligencję działa w ich służbie i używana jest do monitorowania jednostek. Technologię można jednak stosować także w odwrotnym celu – tj. do kontrolowania korporacji i rządów. Technicznie nic nie stoi tu na przeszkodzie. Potrzeba jednak do tego więcej starań.

Możemy też po prostu wyjąć wtyczkę, odłączyć się.

Zdecydowanie zalecam każdemu, by odłączał się od sieci i mediów na co najmniej godzinę lub dwie dziennie oraz na dłuższe okresy w ciągu roku. Osobiście medytuję dwie godziny dziennie, pozostając całkowicie odciętym od technologii. Każdego roku udaję się też na dłuższe, 30- lub 60-dniowe, okresy odosobnienia, na które nie zabieram telefonu, komputera ani żadnych innych tego rodzaju urządzeń. Stałem się dzięki temu szczęśliwszą i spokojniejszą osobą; dopracowałem się pełniejszej równowagi umysłu. Te praktyki pomagają mi także w mojej pracy, jestem teraz w stanie lepiej postrzegać i opisywać świat. Tym bowiem, co naprawdę wdziera się pomiędzy nas i świat, czyni wszystko tak niejasnym i trudnym do zrozumienia, są nasze własne słabości, zastane uprzedzenia i lęki. Jeśli nie poznamy tych uprzedzeń, lęków, złości i pragnień, będzie nam niezwykle trudno pojąć świat. Jeśli nasz mózg jest bez przerwy rozproszony i mamy duży problem, by skupić się na dłuższą chwilę, nigdy nie będziemy w stanie naprawdę zagłębić się w jakiekolwiek kwestie. Medytacja pozwala mi skoncentrować uwagę, poznać swoje słabości i uprzedzenia.

Jest Pan optymistą czy pesymistą odnośnie tego, dokąd zmierzamy?

Postaram się podsumować moje spojrzenie na świat w trzech krótkich zdaniach. Sprawy mają się lepiej niż kiedykolwiek wcześniej. Wciąż nie jest jednak za dobrze. Może być znacznie gorzej. Składają się one na całkiem optymistyczne spojrzenie, ponieważ jeśli uświadomimy sobie, że świat wygląda lepiej niż kiedykolwiek wcześniej, to znaczy, że możemy uczynić go jeszcze lepszym. Nie jest tak, że tkwimy w dziejach w tym samym nędznym miejscu. Są rzeczy, które możemy zrobić, by poprawić sytuację. Nie ma w tym jednak nic nieuchronnego. Nie zaliczam się do tych, którzy wierzą, że nauka i technologia na pewno stworzą lepszy świat.

Nauka i technologia gwarantują tylko jedną rzecz – władzę. Rodzaj ludzki staje się coraz potężniejszy. Pytanie, co z tą władzą zrobimy.

W grę wchodzą wszystkie opcje. Jeśli spojrzy się na historię, widać, że ludzie czasem używali swej potęgi bardzo mądrze, ale równie często wykorzystywali ją niewłaściwie. Jedną z najważniejszych sił sprawczych w naszych dziejach była ludzka głupota. Nigdy nie powinniśmy jej lekceważyć. Jeśli połączy się nieograniczone zasoby naszej głupoty z niezwykłymi możliwościami, jakie rodzaj ludzki osiągnie w XXI w., to może z tego wyjść przepis na katastrofę.

Tłumaczyli Mateusz Burzyk i Michał Jędrzejek

© Copyright by „The Nautilus”, grudzień 2018 r.

Kup numer