Når en verdensberømt historiker, en journalist som har vunnet Nobels fredspris, og en tidligere politiker kommer sammen for å snakke om verdens tilstand og fremtid, hva utspiller seg? Yuval Noah Harari, en israelsk historiker som spesialiserer seg på middelalder- og militærhistorie, er kjent for sine altomfattende bøker om menneskehetens historie som Sapiens, Homo Deus, og hans nyeste, Nexus: En kort historie om informasjonsnettverk fra steinalderen til AI. Maria Ressa, en felles mottaker av Nobels fredspris, er en filippinsk-amerikansk journalist som hjalp til med å starte nyhetssiden Rappler. Rory Stewart er en britisk akademiker, tidligere konservativ parlamentsmedlem, forfatter og medvert for podcasten The Rest Is Politics. Deres diskusjon berørte veksten av AI, utfordringene demokratiet står overfor, og til og med den usannsynlige ideen om et Trump-Putin bryllup. Men de startet med et spørsmål sentralt for deres arbeid: hvordan kan vi leve et godt liv i en verden som føles mer splittet og skjør?
Harari påpekte at folk har debattert dette i årtusener. Moderne liberalisme og demokratis viktigste innsikt var å være enige om å være uenige – å anerkjenne at folk har forskjellige ideer om et godt liv, men likevel kan sameksistere under felles grunnleggende regler. Problemet, sa han, er at de som tror de har det ene sanne svaret, ofte prøver å tvinge det på andre. Mange ideologier inkluderer troen på at en del av å leve godt er å få alle andre til å følge samme sti. Dessverre ser det ofte ut til å være lettere å pålegge disse idealene på andre enn å leve etter dem selv. Han ga eksempelet med korstogene i middelalderen, der folk som strevde med å leve etter kristne verdier som beskjedenhet og medfølelse i stedet reiste langt for å drepe andre i navnet til nettopp disse prinsippene. I dag ser han lignende mønstre utfolde seg.
Stewart reflekterte over at i kjernen av dette ligger liberalisme, en idé som vant styrke på 1800-tallet og tok ny form etter andre verdenskrig. Vi arvet et system bygget på en regelbasert internasjonal orden, avtaler mellom nasjoner, og demokrati sentrert rundt toleranse og menneskerettigheter – som beskytter minoriteter mot majoriteten. En stund, spesielt frem til midten av 2000-årene, så det ut til at dette var menneskehetens naturlige vei. Men så begynte ting å rakne. Nå ser vi, i stedet for demokrati, autoritær populisme; i stedet for frihandel, proteksjonisme og toll; i stedet for en regelbasert orden, en verden der de sterke dominerer de svake. Sosiale medier og AI forsterker disse trendene.
Ressa la til at den presserende saken i dag er om straffrihet vil seire, ettersom den regelbaserte ordenen tydelig svikter i både den fysiske og den virtuelle verden. Hvordan kan vi leve godt når big tech bruker overvåkning for profitt, og manipulerer oss for å tjene mer penger? Nå retter teknologien seg mot oss individuelt, ned til cellulært nivå i hvert demokrati. Hun påpekte at alle de fem store verdensreligionene lærer at den essensielle kampen for et godt liv er intern – kampen mellom ditt bedre selv og ditt verste selv. Som ordtaket sier, "Gjør mot andre..." Behandl andre slik du ønsker å bli behandlet – det er et enkelt prinsipp. Men hvordan holder vi fast på disse verdiene når selve måtene vi kobler sammen på blir korrumpert?
YNH: Det nye i dag er at teknologien nå tillater oss å hacke mennesker og manipulere våre indre kamper på måter som var umulige i middelalderen eller til og med på 1900-tallet. Store selskaper og andre med denne makten kan dekode og forme menneskelige ønsker og tanker som aldri før. Liberalt demokrati, slik det ble designet på 1700- og 1800-tallet, vet ikke hvordan det skal håndtere dette.
RS: Det er også risikoen for at teknologien kan overskygge oss. Sivilisasjonen har lenge vært bygget på store skikkelser og helter – folk som presser grensene for hva det vil si å være menneske. Vi er stolte av å være en eksepsjonell art, i stand til prestasjoner innen vitenskap, poesi og drama som ingen annen art kan måle seg med. Men med kunstig generell intelligens møter vi noe som bokstavelig talt er overmenneskelig. Hvis den uten anstrengelse kan skrive et bedre dikt eller lage et bedre skuespill enn jeg kan, så blir vår egen betydning redusert.
MR: Det ville vært flott om teknologien som driver denne endringen var helt nøyaktig, men det er den ikke. Vi har vokst opp med tillit til informasjonens integritet, så vi blir lett lurt – når vi ser noe skrevet, antar vi at det er sant. Måten AI har blitt introdusert i samfunnet på, er ofte løsrevet fra fakta. Yuval påpeker i sin bok at informasjon ikke bare handler om fakta; det handler om historiene vi forteller. Men fakta er det som foranker vår felles virkelighet.
Her er et spørsmål til dere alle: Tror dere mennesker i bunn og grunn er gode eller onde? Jeg vet jeg høres litt religiøs ut her, men det betyr noe. Nedbrytningen i vårt offentlige informasjonsøkosystem og vår evne til å velge illiberale ledere demokratisk, stammer delvis fra at menneskehetens godhet blir dempet. Jeg har rapportert om det verste i menneskeheten – krigssoner der folk dreper hverandre – men jeg har også sett utrolig gavmildhet i kjølvannet av naturkatastrofer. Vi ville ikke ha overlevd Rodrigo Dutertes seks år som president uten folk som ga ikke bare av seg selv, men også økonomisk til Rappler. Det er dette som står på spill.
YNH: En nøkkelinnsikt er at godhet ikke er tett knyttet til intelligens. AI er vår tids viktigste teknologi, men vi har glemt at intelligens ikke garanterer godhet eller visdom. Gjennom historien er det ingen klar kobling mellom intelligens og medfølelse, eller engang en klar oppfatning av virkeligheten. Mennesker er den mest intelligente arten på jorden, likevel er vi også den mest villedede – vi tror på ting ingen sjimpanse, elefant eller rotte noen gang ville. Nå skaper vi en superintelligens, og det er all grunn til å tro at den også kan være supervilledet.
RS: Yuval er spesiell fordi han kan se for seg hvor vi kan være om 200 år. Men la oss vurdere de neste 20. Vi ser ofte på fremtiden fra et Silicon Valley-perspektiv, og forestiller oss en Star Trek-lignende verden med Elon Musk på vei til Mars. Likevel, for kanskje halvparten av menneskeheten, vil hundrevis av millioner leve på mindre enn 2 dollar om dagen, og milliarder på under 5 dollar om dagen.
Konflikt utvikler seg også. Vi ser dette i Gaza og, til en viss grad, i Ukraina. Velstående, teknologisk avanserte nasjoner kan forårsake enorm skade på sine naboer mens de selv står overfor minimal risiko. Samtidig tar en global våpenkappe fart. I Europa, for eksempel, stiger forsvarsutgiftene til 5 % av BNP. Dette vil drenere hundrevis av milliarder euro årlig fra våre helse-, utdannings- og velferdssystemer – nettopp når økonomiene våre stagnerer og befolkningene våre eldes. Over de neste 10 til 20 årene, etter hvert som AI utvikler seg, kan store deler av verden føles som en sjusket, fattigere versjon av i dag. Medianinntekter vil sannsynligvis stag
