Anders Løland skriver i DN 13. desember om dataprogrammer som diskriminerer. Disse dataprogrammene, som ofte kalles algoritmer, er bygget med teknologien kunstig intelligens. Dette er ikke noe mer magisk enn dataprogrammer som er trent opp istedenfor den mer tradisjonelle måten å nøyaktig bestemme alt som skjer i programmet.
At slike intelligente algoritmer har begynte å fungere virkelige godt, er det største som har skjedd dataverden de siste årene. Utfordringen er at vi kan miste kontrollen, og det er akkurat dette Anders Løland skriver om.
Et dataprogram med kunstig intelligens trenes med masse eksempler, og det er fra disse eksemplene programmet lærer. Vi kan trene programmene opp med data fra folk som har fått høy kredittvurdering og folk som har fått lav. Deretter kan programmene lære seg egenskaper som er viktige for å skille mellom gode og dårligere betalere, og automatisk behandle nye lånesøknader og kredittvurderinger deretter. Da kan det selvsagt skje mye galt som skjedde da Apple ga en mann bedre vurdering enn og kona, eller da Amazon hadde ansettelsesalgoritmer som behandlet menn bedre enn kvinner.
Alt dette er galt, virkelig galt, men det er ikke dataprogrammenes feil. Feilen ligger i dataene vi har dyttet inn. Det er vi mennesker, av kjøtt og blod, som har diskriminert. Det er vi som har behandlet menn og kvinner ulikt, lagret informasjon om kredittvurdering og ansettelser, og gitt disse diskriminerende dataene til algoritmene. Algoritmene klarer ikke å lære noe annet enn det vi gir dem. Det skjer på godt og vondt, men i eksemplene Løland bruker, mest vondt. Det ender opp i en stråmannsdiskusjon. Det finnes ingen som vil at dataprogrammene skal diskriminere. Den faglige forskjellen handler bare om hvordan ikke-fungerende dataprogrammer skal oppdages.
Kronikkforfatteren utelater å fortelle det aller viktigste: diskrimineringen ble oppdaget. Utviklerne fant ut at programmene ble diskriminerende, og det ble fikset. For Apple skjedde det for sent, men Amazon oppdaget at ansettelsesalgoritmen bare ansatte menn lenge før den var planlagt i bruk. I kronikken tegnes det et bilde at når mer og mer av vår omverden blir automatisert av intelligente dataprogram, blir det til en verden hvor vi alle kan forvente å bli diskriminert. Vi kunne ikke vært lenger unna sannheten.
Når dataprogrammene gjør feil, slik som å behandle noen grupper ulikt andre, kan dette både oppdages og fikses. Dette kan skje lenge før de intelligente programmene settes i produksjon, og dermed kan det rettes opp før det får reelle konsekvenser. Her er dataprogrammene mye bedre enn oss mennesker.
Hvis vi krever at dataprogrammene vi lager også skal forklare alle avgjørelsene den tar, som Løland gjør i sin kronikk, krever vi mye mer av dataprogrammene enn det de klarer i dag.
Elefanten i kunstig intelligens-rommet er at selv om algoritmene er blitt bedre og bedre til å ta avgjørelser, har de samtidig blitt dårligere og dårligere til å forklare hva de gjør. Der har Løland helt rett, men han tar feil i at forklarende algoritmer vil løse problemene. Vi kan oppdage at programmene gjør feil selv om de ikke er selvforklarende. En menneskelig bankfunksjonær som diskriminerer sine låntagere kan miste jobben selv om han ikke forklarer hvorfor han diskriminerte. En HR-sjef som utelukkende ansetter menn kan også miste jobben. Det gjør ikke noe fra eller til om han kan forklare hvorfor han diskriminerte, han gjør en for dårlig jobb uansett. Akkurat slik er det med dataprogram også. De som er for dårlige kan vi kaste.
I motsetning til oss mennesker kan vi derimot relativt enkelt finne ut at dataprogrammer gjør feil. Vi kan bare prøve de ut. Vi kan spørre algoritmene hvem den skal ansette av en mann og en bedre kvalifisert kvinne. Hvis programmet velger feil, er det for dårlig, og vi må lage et nytt program.(Vilkår)Copyright Dagens Næringsliv AS og/eller våre leverandører. Vi vil gjerne at du deler våre saker ved bruk av lenke, som leder direkte til våre sider. Kopiering eller annen form for bruk av hele eller deler av innholdet, kan kun skje etter skriftlig tillatelse eller som tillatt ved lov. For ytterligere vilkår se her.