Intervju med ledestjerne Jakob Graabak, samfunnsforsker og talsmann for pandemisikring og trygging av kunstig intelligens.

[D2 kårer Årets ledestjerne 2023– stem på din favoritt på denne siden.]

– Jeg mener kunstig intelligens først og fremst er et sikkerhetsspørsmål. Dersom vi løser det, vil det være en fantastisk mulighet for å skape større velstand enn verden noen gang har sett, sier Jakob Graabak (28).

Han har vist vei inn til et møterom ved Økonomisk institutt på Blindern. Der har han slått seg ned med ryggen mot et vindu med utsikt mot Ullernåsen. Graabak har advart om en skjult bjelke under bordplaten på det massive møtebordet, det er visst blitt noen blåmerker. Trøndersken er rund i kantene, stemmen bærer godt. Graabak virker møtevant – men av og til titter unggutten frem, i animerte øyenbryn og et blikk som spretter livlig mellom journalist og fotograf.

– Akkurat det punktet har noen forsøkt å gjøre narr av, men jeg har ikke sett gode, saklige argumenter for at kunstig intelligens ikke er et sikkerhetsspørsmål, at man ikke behøver å bekymre seg.

Samfunnsforskeren er pekt ut av D2s jury som en av 2023s ledestjerner, og jobber nå med intet mindre enn tre ulike prosjekter knyttet til sikker kunstig intelligens (KI) og pandemisikkerhet. Men da koronaviruset satte Norge på hodet vinteren 2020, lå han selv i koma – med autoimmun hjernebetennelse.

De andres liv

Jakob Graabak vokste opp i Trondheim. Moren er forsker ved Sintef, faren jobbet i Enova, og er nå prosjektansvarlig for digitalisering av Norges teknisk-vitenskapelige universitet (NTNU). Han er eldst i en søskenflokk på tre – lillebroren studerer medisin, lillesøsteren går på videregående og spiller fotball for Rosenborg 2.

– Vi bor i den bratteste bakken opp til Byåsen. Skråningen er nordvendt og gir fin utsikt til byen, men siden vi ligger i skyggen av åsen, var det mørketid hele vinteren. Tror ikke det nødvendigvis var så formativt, sier Graabak og ler.

Han lærte fort – kunne som treåring plutselig en dag lese, tok femteklassepensum i matematikk mellom påske- og sommerferien i fjerdeklasse. Faren fortalte sine tre barn at de skulle bruke evnene man er født med til å bidra til et bedre samfunn. Rundt middagsbordet snakket de om klimaendringer, teknologisk og økonomisk utvikling. Graabak ble tidlig oppfordret til å være nysgjerrig i sine intellektuelle interesser, lese bøker og forsøke å sette seg inn i andres ståsted.

– Men jeg hadde nok ikke en veldig tydelig barnedrøm om hva jeg ville bli.

Han tror han fant den først da han ble aktiv i Effektiv Altruisme i 2015.

– Det er en sosial bevegelse som kombinerer analytiske tilnærminger med global nestekjærlighet og ambisiøse prosjekter. Det føles som man har muligheten til å være med å forme verden til det bedre – for ellers er det mange som er bekymret for verdens utvikling, men som ikke ser mulighetene man har for å gjøre den bedre.

Sivilisasjonssmell

Det var i studietiden Jakob Graabak begynte å gruble på utfordringene ved kunstig intelligens. I 2018 ferdigstilte han sin mastergrad i industriell økonomi ved NTNU i hjembyen, og som ledd i utdannelsen tok han et utvekslingsår ved École Polytechnique Fédérale de Lausanne i Sveits.

Han hadde nettopp lest boken «Superintelligence», der den svenske Oxford-filosofen Nick Bostrom utforsker de potensielle risikoene og implikasjonene ved utvikling av KI.

– Jeg forsøkte å snakke med en professor i risikostyring om eksistensiell risiko, altså risiko som er så stor at det kan endre potensialet til menneskeheten på lang sikt. Han mente fagmiljøet i Oxford – som var blant de første til å systematisk forske på risikoer fra bioteknologi og kunstig intelligens – var bra for drømmer, fantasier og fiksjon, men at man skulle holde seg langt unna hvis man skulle drive med skikkelig vitenskap.

Få år senere er verden annerledes.

– Det kan være kleint å være han ene raringen i rommet som sier at vi må ta det seriøst – men det er enda kleinere om åtte milliarder mennesker, som hadde muligheten til å se dette komme, lener seg tilbake og tar en smell som rammer hele sivilisasjonen.

Etter studiene begynte Graabak å jobbe i tenketanken McKinsey Global Institute. Der fikk han mulighet til å jobbe med rapporter som fikk gjennomslagskraft, blant dem «Climate risk and response» (2020), som så på hvor store samfunnskostnader som var knyttet til klimaendringer i et kort tidsperspektiv, fra 2030 til 2050. Den ble lansert i januar 2020, på World Economic Forums toppmøte i Davos.

Rapporten påvirket blant annet Blackrock – verdens største investeringsforvaltningsselskap – til å endre sin investeringsstrategi, og flytte milliarder av dollar inn i grønnere investeringer.

Jeg ble lagt i koma med fentanyl. Da jeg våknet opp, var jeg narkoman. De neste to månedene måtte jeg gradvis trappe ned på opioider

Jakob Graabak

Nedtrapping

Å være ansatt i McKinsey og jobbe med rapporter med faktisk påvirkningskraft, var tilfredsstillende, forteller Jakob Graabak. Likevel var det andre problemstillinger som murret. Kunstig intelligens var det ene – og en dag i januar 2020 leste han om mystiske sykdomstilfeller i Kina.

– Jeg hadde gått i fem år og tenkt på utfordringene knyttet til pandemisikkerhet, da vi begynte å se at noe rørte på seg i Wuhan – og ingen tok det seriøst. Sent i januar 2020 begynte jeg å snakke om at denne greia kunne gå globalt, og at vi måtte forberede oss.

Men så havnet Graabak på sykehus – der ble han liggende til midten av april.

– Jeg sov dårlig. Sovnet sent og våknet altfor tidlig. Jeg kom på jobb med hodepine og dobbeltsyn, og ble sittende lenge i kantinen på morgenen for å forsøke å hente meg inn. HR-sjefen så at jeg ikke var meg selv, kalte meg inn til kontoret sitt og sa: «Jakob, nå drar vi til legen.» Det var ikke nødvendig, mente jeg, men hun insisterte, og vi dro til legen. Etter det husker jeg ingenting.

På folkemunne kalles sykdommen autoimmun hjernebetennelse – på fagspråket anti-NMDA reseptorencefalitt. Rundt én av seks som får sykdommen, dør. Halvparten av de overlevende får ulike grader av ervervet hjerneskade – jo tidligere sykdommen fanges opp, desto bedre sjanse for å bli frisk. Hadde den forblitt ubehandlet, ville symptomene vist seg i hallusinasjoner, vrangforestillinger og utfall i en rekke kognitive funksjoner, blant annet språk.

– Jeg ble lagt i koma med fentanyl. Da jeg våknet opp, var jeg narkoman. De neste to månedene måtte jeg gradvis trappe ned på opioider. Jeg bodde på avdeling for traumatisk hjerneskade, og visste ikke om jeg noen gang ville kunne jobbe igjen, langt mindre med de temaene jeg så for meg.

Pandemiens smått panikkartede opptakt i Norge, gikk ham hus forbi.

– I etterkant var det absurd å bli fortalt historier om hva som skjedde rundt omkring i landet 12. mars – at alle løp til butikken og hamstret toalettpapir. Alle historiene fra de dagene er for meg fullstendig fremmed, og det hadde jo vært profesjonelt nyttig å ha vært til stede. Men det var jeg jo ikke.

Pandemien som ble glemt

100 år før koronapandemien ble verden rammet av spanskesyken, en pandemi som tok livet av dobbelt så mange mennesker som første verdenskrig. Men det finnes knapt spor av spanskesyken i populærkulturen, så kanskje er det noe med pandemier som gjør at vi har lyst til å glemme dem – og det fort.

Jakob Graabak forteller at pandemier allerede har forsvunnet fra World Economic Forums årlige liste over risikoer som bedrifts- og verdensledere.

– Det er helt sykt – no pun intended. Sånn skal det ikke være. Jeg tror mange tenker at vi har opplevd århundrets pandemi, og har god tid til neste, men det fungerer ikke sånn. Den årlige risikoen for pandemi er økende. Vi har hatt near misses, og vi har hatt hiv, som drepte dobbelt så mange mennesker som covid-19, det har ikke vært en 100-årig pause.

Det er faglig uenighet om nøyaktig hvor stor pandemirisikoen er fremover, men det er stort sett enighet om retningen på kurven, som forteller oss at risikoen øker, utdyper Graabak. Han har selv jobbet mindre intenst etter sykdommen, forsøkt å kompensere ved å jobbe smartere og mer fokusert.

– Jeg er erklært frisk nå. Med en forventet levealder på kanskje 60 år til, er det en helt fantastisk mengde med gleder, opplevelser og godt liv å se frem til, som jeg ikke lenger tar for gitt.

Jeg tror mange tenker at vi har opplevd århundrets pandemi, og har god tid til neste, men det fungerer ikke sånn

Jakob Graabak

Travelt forskerliv

Jakob Graabak kan også se frem til en rekke faglige utfordringer i årene som kommer. I fjor sa han opp McKinsey-jobben.

– Selv om det var litt appetitt hos McKinsey for å se på KI- og biorisiko, var det ikke nok drivkraft på disse temaene. Da begynte jeg å se etter andre muligheter. Nå føler jeg at jeg har kommet hjem, sier Graabak om sin nye arbeidshverdag.

Nå jobber han med intet mindre enn tre prosjekter knyttet til pandemisikkerhet og sikker kunstig intelligens, henholdsvis rettet mot amerikansk, europeisk og norsk politikk.

Han leder et forskningsprosjekt for SecureBio, et initiativ av den verdensledende biologen Kevin Esvelt. Professoren ved Massachusetts Institute of Technology er mest kjent for sitt arbeid med utviklingen av crispr-baserte teknologier for genetisk modifisering, og senere for sitt engasjement for etisk og ansvarlig bruk av disse teknologiene.

I sommer starter Graabak hos tenketanken International Center for Future Generations i Brussel, finansiert av den nederlandske milliardæren Steven Schuurman, hvor han skal bygge et forskningsteam rettet mot nettopp kunstig intelligens og pandemisikring.

– Når man snakker om å utvikle noe som er smartere enn oss selv, vil jeg ikke basere meg på flaks. Vi ser tidlige tegn på at Chat GPT og lignende teknologier kan brukes til å designe farlige virus eller automatisere hacking- eller scam-løsninger. Potensielt kan kunstig intelligens destabilisere et relativt fredfullt kjernefysisk ekvilibrium. Det har på ingen måte vært trygt, det finnes eksempler på at svaner og bjørner på ulike tidspunkt nesten har startet kjernefysisk krig, fordi de har gjort sitt sedvanlige, mens varslingssystemene har vært forvirrede.

Hvordan ser historien ut for menneskene som ikke hadde den beste teknologien tilgjengelig? spør Graabak retorisk. Svaret? Ikke bra.

– Neandertalerne ble utryddet – ikke fordi det var så mye vond vilje, men fordi Homo sapiens hadde bedre teknologi og konkurrerte om noen av de samme ressursene. Samfunnene i Amerika gikk mer eller mindre til grunne da europeerne kom.

Hvis man tar for seg kontrafaktiske verdensbilder, for eksempel hvis nazistene fikk kjernefysiske våpen først, ender vi heller ikke opp med trivelige tankebilder, ifølge Graabak.

– Hadde du ikke stolt på nazistene til å håndtere kjernefysiske våpen på en god måte, bør man heller ikke stole på kunstig intelligens til å utvikle egne teknologier, når vi ikke har gjort aktive tiltak for å sørge for at den er på vårt lag.

Hustak

I McKinsey jobbet Jakob Graabak tett opp mot klimaspørsmål, men han føler ikke at han har vendt klimakrisen ryggen når han nå retter blikket mot kunstig intelligens og pandemisikring.

– Det finnes gode klimatiltak vi kan og bør gjøre mer av, men likevel dedikerer jeg min tid til pandemisikkerhet og sikker kunstig intelligens, som jeg mener også påvirker hele verden. Vi snakker millioner, kanskje til og med milliarder av liv, og vi snakker tusenvis av milliarder av dollar. En betydelig andel av verdens brutto nasjonalprodukt står på spill, avhengig om vi gjør det riktig eller feil. Dette er problemer på samme skala som klimaendringene, men det er mye mindre oppmerksomhet rundt dem, og mange færre som jobber med det.

Han har nettopp kommet hjem fra London, hvor han deltok på en konferanse med organisasjonen Effective Altruism Global.

– Når flyet nettopp har tatt av eller skal lande, er man nær nok bakken til å telle hvert enkelt hus. Man vet at hvert enkelt hus representerer minst ett liv. I London bor rundt en tusendel av verdens befolkning, men fra flyvinduet ser landskapet uendelig ut – så mange hus, så mange mennesker.

– Jeg tror ikke vi klarer å sette fullt pris på skalaen av åtte milliarder menneskeliv, men det er i en sånn situasjon jeg kommer nærmest å virkelig verdsette hvor stor og viktig verden er å ivareta.

* (Vilkår)Copyright Dagens Næringsliv AS og/eller våre leverandører. Vi vil gjerne at du deler våre saker ved bruk av lenke, som leder direkte til våre sider. Kopiering eller annen form for bruk av hele eller deler av innholdet, kan kun skje etter skriftlig tillatelse eller som tillatt ved lov. For ytterligere vilkår se her.