Denne våren fullførte mange elever i videregående skole graden International Baccalaureate (IB). Dessverre var resultatene til stor fortvilelse for mange. Årsaken er at International Baccalaureate Organization (IBO), i likhet med ordinære videregående skoler, bestemte seg for å avlyse alle vårens eksamener som følge av koronapandemien.

I prosessen med å fastsette standpunktkarakterer, inngikk en algoritme som bla. inkluderte den enkelte skoles karakterhistorikk, altså data på gruppenivå og ikke individnivå. Dette medførte at mange elever ved IB-linjen gikk betydelig ned i karakterer, ikke kom inn på drømmestudiet eller sitter igjen uten vitnemål. IBO betegner metoden bak karakterfastsettingen som en «belønningsmodell» snarere enn en «algoritme». Det vesentlige er likevel ikke hva det kalles, men hvordan metoden er utviklet og hvordan vektingen av datagrunnlaget er blitt gjort.

Kunnskapsdepartementet har nå bedt IBO komme med en redegjørelse og Datatilsynet ber nå IBO fastsette karakterer på nytt.

Eksempelet er bare ett av mange mulige skrekkscenarioer på hvordan algoritmer kan brukes feil. Hvem har ansvaret for å kvalitetssikre datagrunnlaget og algoritmene?

Hva ville skjedd om denne type algoritmer ble brukt i helsevesenet, uten innsyn og ettersyn?

Det er flere grunner til at Norge bør gå i gang med å etablere et kunstig intelligens- og algoritmeråd. Et slikt råd vil kunne fungere som høringsinstans og gi myndighetene anbefalinger om hvorvidt en algoritme eller teknologi basert på kunstig intelligens, er trygg og forsvarlig å ta i bruk.

Dette vil innebære transparens rundt datagrunnlag og hvordan algoritmer er blitt til, og at dataene er tilpasset formålet og ikke inneholder skjevheter. Dersom det forekommer slike skjevheter i datagrunnlaget ved utvikling av algoritmer til bruk i for eksempel helsevesenet, kan det medføre feilbehandling, diskriminering eller urettferdige utfall. Et uavhengig, regjeringsoppnevnt råd kan ha som mandat å problematisere og vurdere etikken og egnetheten i det anvendte datagrunnlaget og gi anbefalinger til myndighetene. Dette kan sikre åpenhet, interesse og debatt som også befolkningen kan ta del i.

Her har Norge en unik mulighet til å ta en verdensledende posisjon, ikke nødvendigvis i utviklingen av kunstig intelligens og algoritmer, men i regulering av feltet.

Etter hvert som teknologien får økt utbredelse, stiger risikoen for teknologiske havarier av den typen som rammet IB-elevene. Behovet for et organ som kan vurdere og gi sine synspunkter om algoritmer, etablerte så vel som nyutviklede, vil derfor øke, og fordi teknologien beveger seg fort, er det viktig å ikke komme på etterskudd regulatorisk.

Også tidligere har vi vært vitne til at ny teknologi medfører behov for kontroll og regulering. Nettopp dette var bakgrunnen for etableringen av Bioteknologirådet i 1991, som et regjeringsoppnevnt rådgivende organ i saker som omhandler moderne bioteknologi og genteknologi. Bioteknologirådets mandat er også å bidra med informasjon til offentlig forvaltning og befolkningen for øvrig, samt fremme diskusjon rundt de etiske aspektene ved bruk av moderne bioteknologi.

Det seneste eksempelet på aktualiteten fikk vi da Bioteknologirådet i vår uttalte seg om assistert befruktning for enslige, eggdonasjon og forslag til endringer i genteknologiloven, i en sak som fikk omfattende oppmerksomhet i mediene og befolkningen. Medlemmene i Bioteknologirådet dekker et bredt spekter av fagkompetanse, og har bakgrunn fra blant annet etikk, jus, medisin, samfunnsvitenskap og filosofi. I tillegg har det vært viktig å sikre bredde med tanke på livssyn, kulturbakgrunn og holdninger til bio- og genteknologiske spørsmål.

Slik har Bioteknologirådet blitt en viktig stemme i samfunnsdebatten og satt viktige etiske dilemmaer om bioteknologi på dagsordenen.

Norge har allerede Teknologirådet, som har som mandat å gi Stortinget og øvrige myndigheter innspill om ny teknologi. Imidlertid har Teknologirådet, som i stor grad består av teknologer og realister, foreløpig ikke klart å skape engasjement blant publikum når det gjelder de etiske dilemmaene som ny teknologi skaper.

Etikken knyttet til ny teknologi bør engasjere de brede samfunnslag, og ikke bare teknologer.

Når algoritmer og kunstig intelligens får en stadig større rolle i samfunnet og i folks hverdag, oppstår nye etiske dilemmaer og interessekonflikter slik vi tidligere har sett på bioteknologiområdet.

Bioteknologirådets synlige posisjon, brede representasjon, uavhengighet og evne til å skape engasjement bør derfor være en modell for hvordan et kunstig intelligens- og algoritmeråd kan utformes.(Vilkår)Copyright Dagens Næringsliv AS og/eller våre leverandører. Vi vil gjerne at du deler våre saker ved bruk av lenke, som leder direkte til våre sider. Kopiering eller annen form for bruk av hele eller deler av innholdet, kan kun skje etter skriftlig tillatelse eller som tillatt ved lov. For ytterligere vilkår se her.