En bred offentlig debatt rundt behovet for regulering av kunstig intelligens og algoritmer har så langt vært fraværende. Forhåpentlig ser vi starten på en slik diskusjon nå. Som et forslag til hvordan man kan forhindre alvorlige teknologiske og etiske feilskjær i fremtiden, anbefalte jeg nylig at man ser til Bioteknologirådet og etablerer en lignende høringsinstans for kunstig intelligens og algoritmer.

Leder av Teknologirådet, Tore Tennøe, mener at et offentlig råd til å stemme over skjebnen til private og offentlige teknologiprosjekter ikke er gjennomførbart. Videre mener han at tilsyn og revisjon av algoritmer heller bør gjøres av Datatilsynet, Riksrevisjonen eller uavhengige tredjeparter (replikk i DN 18. august).

Per Myrseth i DNV GL mener at det i dag finnes både metoder for risikovurdering og kvalitetssikring og gir uttrykk for at dette er noe aktørene selv kan ivareta (DN 12. september).

Kunstig intelligens og algoritmer representerer uante muligheter, samtidig som de også bringer med seg risiko for ugunstige utfall. Spørsmålet er hvordan vi som samfunn kan gardere oss mot skadelige algoritmeutfall, og hvem som skal ha ansvar for tilsyn og revisjon.

Det utvikles i dag kunstig intelligens og algoritmer innenfor et bredt spekter av næringer. Selv om mange av selskapene bak har gode intensjoner og metoder for risikovurdering og kvalitetssikring, er det naivt og uansvarlig å tro at alle aktører legger tilstrekkelig vekt på hva som er rettferdige utfall og til samfunnets beste.

Per Myrseth tegner et motsetningsforhold mellom regulering av kunstig intelligens og algoritmer som sikrer samfunnets og brukernes interesser, og det å skape en ledende digital nasjon. Men hvorfor skal vi ikke stille de samme kravene til utvikling av kunstig intelligens og algoritmer som vi gjør til legemidler og vaksiner?

En vaksine kan ha stor nytteverdi for samfunnet, men gjennom regulering tillater vi likevel ikke at den tas i bruk, før den er godt dokumentert og risikovurdert. I dag eksisterer ikke like streng regulering av algoritmebruk som av legemidler, men skadepotensialet er minst like stort.

Hvorvidt et offentlig råd skal etableres, bør ikke bare bero på gjennomførbarheten, slik Tore Tennøe hevder, men må avhenge av det faktiske behovet for råd og regulering. Med så sterke økonomiske interesser som det ligger i utvikling av kunstig intelligens og algoritmer, er det et klart behov for både regulering, men også en instans som kan løfte diskusjonen og belyse den fra flere perspektiver. Om det er Datatilsynet eller en uavhengig tredjepart som skal gjennomføre tilsyn og revisjon av algoritmer, er underordnet, men noen må ta dette ansvaret og det er her jeg etterlyser en bredere samfunnsdebatt.

Parallellen jeg trekker til Bioteknologirådet handler om å eksemplifisere en instans som nettopp lykkes med å løfte den offentlige debatten og skape engasjement i allmennheten for det som i utgangspunktet er komplekse problemstillinger. Kunstig intelligens og algoritmer bør ikke bare diskuteres av teknologer, men på tvers av fagfelt og i befolkningen generelt.

Etableringen av et bredt sammensatt råd for kunstig intelligens og algoritmer, ville vært et viktig bidrag til dette.(Vilkår)Copyright Dagens Næringsliv AS og/eller våre leverandører. Vi vil gjerne at du deler våre saker ved bruk av lenke, som leder direkte til våre sider. Kopiering eller annen form for bruk av hele eller deler av innholdet, kan kun skje etter skriftlig tillatelse eller som tillatt ved lov. For ytterligere vilkår se her.