«Det er algoritmens feil» – greit?

Diskriminering, direkte eller indirekte, er neppe greit selv om «det er algoritmens feil». La oss se hva som skjedde da Apple ga en mann mye høyere kredittkortgrense enn kona hans.

Amerikaneren David Heinemeier Hansson og kona Jamie søkte om kredittkort fra Apple tidligere i høst. Han fikk mye høyere kreditt enn henne – fordi han er mann? Apple hadde satt ut kredittvurderingen – algoritmen – til Goldman Sachs. Goldman Sachs sa at algoritmen behandler alle individuelt. God nok forklaring?
Amerikaneren David Heinemeier Hansson og kona Jamie søkte om kredittkort fra Apple tidligere i høst. Han fikk mye høyere kreditt enn henne – fordi han er mann? Apple hadde satt ut kredittvurderingen – algoritmen – til Goldman Sachs. Goldman Sachs sa at algoritmen behandler alle individuelt. God nok forklaring?Foto: Nicklas Knudsen
Publisert 12. December 2019, kl. 18.59Oppdatert 13. December 2019, kl. 14.26
TeknologiDigitaliseringAlgoritmerEtikkDiskriminering