– Mennesket kan arbeide fysisk og kognitivt. Om datamaskiner er bedre til begge deler – hva er da menneskets verdi på arbeidsmarkedet?

Tekst

Uten sjåfør. Førerløse biler kan i nær fremtid ha gjort en mengde av verdens sjåfører overflødige. – Hva skal vi gjøre med de milliardene av mennesker som blir økonomisk verdiløse og dermed blottet for makt? Vi vet ikke, sier Harari. Illustrasjon: Shutterstock

Den verdensberømte historikeren og forfatteren Yuval Noah Harari diskuterer menneskehetens fremtid i kunstig intelligens-alderen.

– Jeg drukner i eposter og meldinger, jeg får dessverre ikke engang lest alle, langt mindre svart, sier Yuval Noah Harari (40).

Han er en ettertraktet mann. Hans forrige bok «Sapiens – en kort historie om menneskeheten» solgte i fem millioner eksemplarer, er oversatt til over 45 språk, hyllet av Barack Obama og har gjort Harari til en populær foredragsholder på Ted-konferanser og de største universitetene verden rundt.

Harari bor mellom Tel Aviv og Jerusalem, underviser ved Det hebraiske universitetet i Jerusalem – og har flere assistenter som hjelper ham med alle brevene og forespørslene.

Oppmerksomheten rundt «Sapiens» førte til en rekke spørsmål om hva historikeren trodde ville skje i fremtiden. Derfor har han skrevet boken «Homo Deus: A Brief History of Tomorrow». Den kommer i norsk oversettelse til høsten.

Ble verdenskjent forfatter. Yuval Noah Harari er en israelsk historieprofessor som opplevde uventet salgssuksess med boken «Sapiens: A Brief History of Humankind». I oppfølgeren «Homo Deus» tar han for seg menneskets fremtid i den kunstige intelligensens tidsalder. Foto: Antonio Olmos/The Guardian

– «Sapiens» beskriver hvordan mennesker tok over verden takket være en unik evne til å tro på kollektive myter om guder, nasjoner, penger og frihet. «Homo Deus» undersøker hva som kan skje hvis man kombinerer disse gamle mytene med ny, gudelignende teknologi, som kunstig intelligens og genteknologi. Hva skjer med demokratiet når Google og Facebook kjenner oss og preferansene våre bedre enn vi gjør selv? Hva skjer med velferdsstaten når bruken av kunstig intelligens skyver folk ut av arbeidsmarkedet og skaper en massiv, verdiløs menneskeklasse?

Datamaskiner uten bevissthet

Hva er det som gjør mennesket spesielt, spurte Harari i «Sapiens». Det er hverken de fiffige tomlene våre, det nyanserte språket eller det komplekse følelseslivet. Menneskeheten dominerer jordkloden av en eneste grunn, og den ligger ikke på individnivå. Derimot handler det om hva vi gjør kollektivt, mener han.

Vi tror på felles oppdiktede, enorme historier – fiksjoner – som gjør at vi kan samarbeide og stole på mennesker vi aldri har truffet. Vi har skapt en dobbel virkelighet. Dyrenes virkelighet begrenser seg til den som finnes rett rundt dem.

I «Homo Deus» beskriver Harari en nær fremtid der mennesket har skapt en så effektiv kunstig intelligens at disse programmene danker ut store deler av arbeidsmarkedet.

– Jeg vil imidlertid presisere at jeg ikke sikter til Hollywood-utgaven av kunstig intelligens. På kinolerretet utvikler kunstig intelligens ofte bevissthet og forsøker å manipulere eller tilintetgjøre menneskeheten. Det er et usannsynlig scenario. Intelligens og bevissthet er to forskjellige ting – datamaskinene har en imponerende intelligens, men det finnes ingen tegn på at de er på vei til å bli bevisste. Jeg er langt mer bekymret for en ikke-bevisst kunstig intelligens som fordriver milliarder av mennesker fra jobbmarkedet, enn for dødsroboter, sier han.

Jeg er langt mer bekymret for en ikke-bevisst kunstig intelligens som fordriver milliarder av mennesker fra jobbmarkedet, enn for dødsroboter

Et eksempel er transportmarkedet, der førerløse biler, busser og lastebiler ville gjøre alle slags sjåfører overflødige. På verdensbasis dør 1,3 millioner mennesker i trafikkulykker årlig, dobbelt så mange som antallet som dør av krig og terrorisme. En algoritme som dessuten lar bilene interagere med hverandre, ville fjerne uberegnelige og upålitelige sjåfører fra trafikken, og gjøre den både tryggere og billigere.

Men om ikke staten, helst sammen med flere andre land, utvikler disse programmene og bruker dem demokratisk, kommer de til å forskes frem og utarbeides av private foretak. De kommer dermed til å bli privateide. Slik markedet fungerer i dag, har alle som jobber – for eksempel som sjåfører – en liten økonomisk og politisk makt. Er de misfornøyde med vilkårene i samfunnet, kan de gå sammen i fagforeninger og streike.

– Men hvis foretakene som har skapt disse algoritmene, eies av noen få milliardærer, kommer ikke bare rikdom, men også politisk makt, til å konsentreres i hendene på en liten elite, og dermed skape en ubeskrivelig, tidligere ikke-eksisterende skjevfordeling, sier Harari.

­– Mennesket kan arbeide fysisk og kognitivt. Om datamaskiner er bedre til begge deler – hva er da menneskets verdi på arbeidsmarkedet? Hva skal vi gjøre med de milliardene av mennesker som blir økonomisk verdiløse og dermed blottet for makt? Vi vet ikke. Vi har ingen modell for en sånn situasjon. Vi vet ikke hva barna våre skal utdanne seg til for å finne nye jobber i den verdenen. Det kan bli det kommende århundrets største økonomiske og politiske spørsmål.

Mennesket kan arbeide fysisk og kognitivt. Om datamaskiner er bedre til begge deler – hva er da menneskets verdi på arbeidsmarkedet?

Ingen naturlig hungersnød

I «Homo Deus» beskriver Harari en samtid der alt egentlig er bedre enn noensinne. Hungersnød, sykdom og krig krever stadig færre ofre og er ikke lenger uunngåelige tragedier. Det finnes nok av føde, legemidler, energi og råvarer på jorden. Som han skriver i boken: «I verden finnes det nesten ikke naturlig hungersnød lenger, bare politisk hungersnød. Om folk i Syria, Sudan eller Somalia sulter i hjel, er det fordi visse politikere vil ha det sånn.»

– Hvordan får man folk til å engasjere seg i diskusjoner om kunstig intelligens og bioteknologi når det finnes så mange andre akutte problemer i verden?

– Ved å fokusere på problemet med dagens skole og utdannelse, for eksempel. For tusen år siden visste man ikke stort om fremtiden – men man visste at de fleste fortsatt kom til å jobbe som bønder. Så man lærte barna sine å dyrke mark, skjøtte dyr og bygge hus. Det var åpenbart at de trengte disse kunnskapene. I dag er det barna lærer på skolen, sannsynligvis irrelevant om noen tiår, og vi aner ikke hva de burde lære i stedet.

I dag er det barna lærer på skolen, sannsynligvis irrelevant om noen tiår, og vi aner ikke hva de burde lære i stedet

­­– I politikken har høyrekrefter vokst seg sterkere verden rundt. Disse partiene og lederne deres er ofte vitenskapsfiendtlige og fornekter fakta om klimaendringene. Hvorfor er nasjonalister ofte mot vitenskap, og hvilke følger har det?

– Fordi globale problemer som krever samarbeid med andre land, ikke passer deres nasjonalistiske agenda. Vitenskap er en global bevegelse som gjerne legger vekt på delte oppfatninger, håp og problemløsning for menneskeheten i stedet for å støtte opp om nasjonale interesser. Jeg håper disse strømningene ikke kommer til å forhindre et effektivt globalt samarbeid, for det er det eneste som kan løse de store menneskelige problemene i vårt århundre.

Nasjonalisme er virkelighetsflukt

Yuval Noah Harari nevner ikke bare klimaendringene, men også skjevfordeling, cybersikkerhet, kunstig intelligens og bioteknologi som områder hvor det trengs samarbeid og felles regulering.

– Dersom USA forbyr genteknologi på mennesker, men Kina tillater det, og resultatene deres gir dem en avgjørende militær eller økonomisk fordel, vil USA bli fristet til å bryte sine egne regler. Det er nok at ett land velger å gjennomføre høyrisikoforskning – men med mulig høy gevinst i sikte – så vil andre land bli tvunget til å følge etter, siden de ikke har råd til å bli hengende etter. Derfor kreves det globale regler og samarbeid, understreker han og fortsetter:

– Vår tids bølge av nasjonalisme er en form for virkelighetsflukt – mennesker som vegrer seg for å imøtegå nye problemer og søker trygghet i tradisjonelle lokale identiteter. Jeg håper at menneskeheten vil våkne opp i tide. Men vi kan ikke være sikre på det. Man skal aldri undervurdere menneskets dumhet.

– Hva mener du med å ikke undervurdere menneskets dumhet?

– Når mennesker står overfor avgjørende beslutninger, handler folk iblant klokt, men like ofte gjør de idiotiske feilgrep. For hundre år siden ble Europa dratt inn i Første verdenskrig gjennom en rekke idiotiske beslutninger. I stedet for å lære av dette, tok mennesker noen tiår senere enda dårligere beslutninger, som ledet til Annen verdenskrig. Dagens innstilling til klimaendringene kan lede til en enda verre katastrofe.

– Du er veganer. Hvordan ser du på utviklingen i dyr- og kjøttindustrien?

– Jeg tror bioteknologi kommer til å revolusjonere kjøttindustrien. Men det kan gå flere veier. På den ene siden kan vi fremstille kyr, griser og kyllinger som vokser fortere og produserer mer kjøtt, uten å ofre lidelsen vi utsetter disse dyrene for, en tanke. Eller så kan vi benytte bioteknologi til å forbedre prosessen med å dyrke frem kjøtt i laboratorier. Den første hamburgeren som ble fremstilt på denne måten i 2013, kostet 330.000 dollar, men i dag koster det 11 dollar å dyrke frem samme kjøttmengde fra dyreceller. Om noen år kommer prisen til å ligge mye lavere enn for slaktet kjøtt. Med riktig forskning og investering kan vi om ti års tid produsere rent kjøtt industrielt på en billigere, mer økologisk og mer etisk måte – hvis vi vil.

– Du har beskrevet penger som den «fiksjonen» flest mennesker på jorden tror på og forstår. Samtidig blir de rikeste rikere – nå har åtte menn i verden like mye penger som halve jordens fattigste befolkning på 3,6 milliarder mennesker. Hvordan kommer pengesystemet vårt til å utvikle seg og påvirke menneskeheten?

– Penger har i seg selv ingen verdi, de kan hverken spises eller drikkes. Men så lenge milliarder av mennesker tror på og er enige om fiksjonen, så fungerer den. Vi stoler på hverandre, pengeseddelen er ikke laget av gull, den er laget av gjensidig tillit. Opp gjennom tidene har folk fortalt mange overbevisende historier, om guder, nasjoner og rettigheter, for å skaffe seg tillit og makt. Alle tror ikke på de samme fiksjonene – men alle tror på penger. Se på IS, som blindt myrder folk og sprenger historiske bygninger – de brenner ikke penger de finner. Når det er sagt, vil jeg ikke påstå at det er noe galt med penger. Store samfunn kan bare fungere hvis vi stoler på fremmede. Penger er det mest effektive systemet for gjensidig tillit vi har. Problemet er at folk glemmer at vi har skapt systemet selv. Så starter folk kriger og myrder millioner av mennesker for å få flere penger. Pengene blir et mål i stedet for noe som tjener oss.

– Vi lever i en tid med enormt mye informasjon. Du som skriver fra et makroperspektiv – hvordan navigerer du?

– Hvis en problemstilling interesserer meg, begynner jeg å lese massevis av bøker om emnet, men jeg slutter å lese 90 prosent av dem etter ti sider. Hvis en bok ikke har lært meg noe nytt på de første ti sidene, legger jeg den vekk. Å oversvømmes av verdiløs, triviell eller falsk informasjon er også en form for sensur. Det gir oss oppmerksomhetsproblemer. Vi kan vie flere timer til morsomme klipp på internett, men ikke ett sekund til global oppvarming. Så når jeg forsker, vil jeg ikke bare ha informasjon, jeg vil få nye perspektiver og se verden fra nye synsvinkler.

– Sosiale medier har forandret nyheter, underholdning, sosial adferd og politikk de siste ti årene. Tiden for «dataisme» som religion – som du kaller det i boken din – er nært forestående. Men det finnes også en bevissthet rundt dette. Kan ikke det faktum at folk fortsetter å holde seg informert, iblant takket være nettopp sosiale medier, forhindre en fremtid som den du beskriver?

– «Homo Deus» beskriver bare muligheter, jeg har ikke skrevet en profeti. Jeg vil gjøre folk oppmerksomme på de mulighetene vi står overfor. Teknologi er ikke deterministisk. Vi kan bruke de samme teknologiske gjennombruddene til å skape flere ulike fremtider. For eksempel brukte vi på 1900-tallet teknologien fra den industrielle revolusjon – som tog, elektrisitet, radio og telefon – for å skape kommunistiske diktaturer, fascistregimer – eller liberale demokratier. Vi valgte. På 2000-tallet kommer kunstig intelligens og bioteknologi til å forandre verden, men på hvilke måter, det er de viktigste problemstillingene menneskeheten står overfor. Menneskehetens fremtid, men sannsynligvis også selve livet på jorden, står og faller med dette.