Morten Goodwin svarer i innlegg i DN 3. januar på mitt innlegg «Det er algoritmens feil – greit?» (i DN 13. desember). Han skriver at algoritmer som diskriminerer, kommer av dataene vi dytter inn i dem og at det ikke er så farlig om vi ikke kan forklare algoritmene, siden vi enkelt kan avdekke om de gjør feil. Gjør de det, kan vi enkelt bytte dem ut.
Er det virkelig så enkelt?
Forklaringer: Goodwin mener det ikke er viktig å begrunne en algoritmes beslutning, siden vi ikke stiller slike krav til menneskelige saksbehandlere. Men både personopplysningsloven og forvaltningsloven stiller krav til en forklaring eller begrunning av slike beslutninger. Selvforklarende algoritmer løser ikke alle problemer, men kan være påkrevd for å beskytte borgerne mot misbruk.
Enkelt å avdekke: Urettferdige algoritmer er nok ikke så enkle å oppdage som Goodwin hevder. I mitt innlegg tar jeg dessuten opp problemet med mulig indirekte diskriminering, som er en gråsone. Èn persons urettferdighet kan være en annens rettferdighet.
Feilen ligger i dataene: Perfekte data gir ikke automatisk rettferdige algoritmer, og vi må nok alltid måtte leve med og gjøre det beste ut av data med feil og mangler.
Goodwin mener jeg tegner et bilde hvor «vi alle kan forvente å bli diskriminert» av «intelligente dataprogram». Det skrev og mener jeg ikke, men vi er heller ikke tjent med en blåøyd algoritmeoptimisme.(Vilkår)Copyright Dagens Næringsliv AS og/eller våre leverandører. Vi vil gjerne at du deler våre saker ved bruk av lenke, som leder direkte til våre sider. Kopiering eller annen form for bruk av hele eller deler av innholdet, kan kun skje etter skriftlig tillatelse eller som tillatt ved lov. For ytterligere vilkår se her.