Roboter og sensorer som følger med på oss er allerede på full fart inn i forsikringsbransjen. Nå kan eksempelvis kjøremønsteret ditt registreres for å avgjøre om du skal få billig forsikring.

– For å få tilbud på livsforsikring kan det være jeg gir tilgang til data fra treningsklokken min. Forsikringsselskapet får vite hvor mye jeg sover og annen informasjon om livsstilen min som er superpersonlig, sier Christopher Sparre-Enger Clausen, advokat i Thommessen under Dagens Næringslivs fintech-konferanse i Oslo.

– Så får jeg et tilbud basert på kunstig intelligens, uten at mennesker har vært involvert, sier han.

Clausen og hans kollega Tore Mydske holdt foredrag om de rettslige reglene rundt bruk av roboter og kunstig intelligens i finanssektoren. De var klare på at det blir noen tøffe utfordringer fremover, både når det gjelder personvern og risikoen knyttet til chatboter og andre tjenester som skal gi finansielle råd. Feiltrinn kan koste dyrt.

– Du risikerer at Finanstilsynet kommer etter deg, men også kundene. Kundene kan komme etter deg i 20 år etter at du har gitt dem et råd, det er en veldig langhalet risiko, sier Mydske.

Fallgruvene kan være interessekonflikter og at tjenester utgir seg for å være nøytrale uten å være det, eller at det er gjort feil i utformingen av algoritmene som påfører kundene tap.

Denne type feil kan hefte ved selskaper og gjøre dem erstatningspliktige i mange år etterpå.

Forsikringsmas om trening?

Tore Mydske mener dessuten at slike rådgivingstjenester normalt vil trenge en del opplysninger om kundene for å være brukbare, og at de da blir konsesjonspliktige.

Maskiner kan søke gjennom informasjon fra mange kilder, som våre profiler på sosiale medier, og finne sammenhenger som mennesker ikke ser, påpeker Mydske.

– I England er det blitt en nisje for tjenester der folk som ikke har fått kreditt tidligere, kan få det, basert på slike algoritmer, sier han.

Kina har allerede systemer på plass som gir folk fordeler ved ønskelig adferd, men i Norge har vi nye europeiske regler for behandling av personopplysninger. Reglene for databruk i forsikringsbransjen er strenge.

Clausen tror likevel det er mulig å lage tjenester basert på data for eksempel fra treningsklokker.

– Med uttrykkelig samtykke er det mulig, men du må være veldig forsiktig med hva du bruker sensitive data til. Man har ikke lov til å bruke det til hva man vil.

– Betyr dette at jeg i fremtiden kan få en sms fra forsikringsselskapet mitt om at forsikringspremien min går opp hvis jeg ikke trener den neste uken?

– Det er ikke usannsynlig, men jeg tror det vil ta ganske lang tid, for du må skape aksept for det blant brukerne. Og du kan ikke gjøre det uten at kunden vet nøyaktig hva du gjør og har samtykket til denne bruken av personopplysninger, sier Clausen.

Amazon ga opp

Å vite akkurat hvordan personopplysninger brukes kan imidlertid være vanskelig når beslutningene tas ved hjelp av kunstig intelligens.

– Det er utfordrende at systemene er selvlærende, og da kan det være krevende å forklare hvorfor en person får bedre forsikringsvilkår enn annen. For beslutningen skjer i en «svart boks», sier Mydske.

Svarte bokser nevnes ofte i sammenheng med kunstig intelligens fordi systemet kan finne sammenhenger som er svært komplekse og som fungerer, uten at systemet gir svar på hvorfor. Man dytter data inn i den «svarte boksen» og får råd, uten å vite begrunnelsen. Dette er problematisk når det gjelder europeiske personvernregler (GDPR), som krever åpenhet om slike beslutninger, påpeker advokatene.

– Alle har rett til å vite hvordan personopplysninger behandles og hvorfor beslutningen ble som den ble. Det er utfordrende, sier Christopher Sparre-Enger Clausen.

En av farene er at de selvlærende systemene skal virke selvforsterkende og bli diskriminerende. Dette skjedde blant annet med Amazon, som avsluttet sitt forsøk på å bruke kunstig intelligens i rekruttering etter at menn ble foretrukket fremfor kvinner basert på historiske mønstre.

– Det sier kanskje noe om hvor vanskelig dette er at Amazon bommer på noe som er så viktig for dem?

– Ja, det er langt igjen, og det er en hypefaktor her, sier Mydske.

– Hva kan gå galt?

– Absolutt alt, sier han.(Vilkår)Copyright Dagens Næringsliv AS og/eller våre leverandører. Vi vil gjerne at du deler våre saker ved bruk av lenke, som leder direkte til våre sider. Kopiering eller annen form for bruk av hele eller deler av innholdet, kan kun skje etter skriftlig tillatelse eller som tillatt ved lov. For ytterligere vilkår se her.

DNs kommentator om mellomvalget i USA: –Dette er det eneste sikre vi kan si om resultatet i natt
Kjetil Wiedswang forklarer hvorfor man må over 50 år tilbake for å finne tilsvarende.
01:20 Min
Publisert: