Ein Google-ingeniør påstod i fjor at programmet han kommuniserte med var medvite. ChatGPT har ført til at offentlegheita no er full av spekulasjonar om onde datamaskiner som blir så intelligente at dei tek over for menneska.
Den høge kvaliteteten på tekstar laga av ChatGPT skaper ei kjensle av at maskinene er smarte og kan tenkje. Det å vere menneske er sterkt knytt til språk og vi brukar språk som reiskap for tenking. Ut frå dette trekkjer mange den konklusjonen at ChatGPT «tenkjer», den «forstår» og den har «medvit».
Inga Strümke skriv edrueleg om KI i «Maskiner som tenker», men tenke-metaforen er heilt sentral i tittelen, og på omslaget er det eit ondt auge som liknar på HAL2000 frå filmen «2001. En romodyssé». Professor Jill Walker Rettberg skriv på nrk.no at når ChatGPT genererer tekster som ikkje har rot i fakta, så er den ein lystløgnar. Har ChatGPT glede av å fremje usanne påstandar?
Det er uheldig at seriøse forskarar formidlar KI som menneskeleg, og gjev systema allslags gode og dårlege menneskelege eigenskapar. Maskiner tenkjer nemlig ikkje, dei reknar. Det burde vore unødvendig å presisere dette, men eksempla ovanfor viser at det trengst.
ChatGPT er eit system som består av ulike komponentar. Maskinlærings-delen som genererer språk er sjølvsagt sentral, men systemet avheng òg av datalagring, datakommunikasjon og grensesnittet i nettlesaren. Alt er bygd på datamaskiner som utfører aritmetikk, logiske testar på dataverdiar og hopp mellom basale instruksjonar.
Prosessane er menneskedesigna algoritmar, altså presise instruksjonar om korleis ein skal rekne. ChatGPT er opplært med designa prosessar som går gjennom enorme datamengder med tekst, og etter opplæringa er det rekning som genererer teksten.
Vi bør unngå metaforar som likestiller kunstig intelligens med menneske. Det er ingen plan i tekstgenereringa når ChatGPT samtalar med deg. Heile tida er det neste ordet som vert rekna ut, basert på den teksten som inngår i samtalen frå før, ord for ord. Det er statistisk sannsyn som avgjer kvart ord som vert valgt, ikkje fakta.
I tillegg er det greitt å vere klar over at kvar brukar har sin versjon som oppstår og stoppar med bruken, og det fins inga kopling mellom to ulike ChatGPT-samtalar.
ChatGPT imponerer, men den er altså ein reknemodell, muliggjort av kraftige datamaskiner og tilgang til store mengder med språkdata. Den lagar tekstar som kan sjå menneskelege ut, men dei vert generert på ein heilt annan måte enn det som foregår i hovudet når du snakkar og skriv. Du planlegg ordvalet og setningsstrukturen, og kanskje til og med fleire setningar om gongen. Argumentet som ChatGPT framfører, fins ikkje nokon plass i systemet før teksten er rekna ut.
Menneskehjernen driv òg informasjonshandsaming, men i hjernen vår er nevronet den sentrale eininga, og denne eininga fins fysisk heile tida, i motsetning til rekneprosessane i din ChatGPT-versjon. Kjemiske og elektriske prosessar i nevrona og eit utal koblingar skaper læring, språk, sansing, og medvit. Desse funksjonane er i nokon grad plassert i spesialiserte delar av hjernen. Heilskapen og delane er skapt av millionar av års evolusjon, og kvart nevron og det komplekse samspelet mellom dei, har organismen si overleving som mål.
I kunstig intelligens-system er rekneprosessane abstrakte og flyktige, og målsetningane er definerte av ingeniørane som har utforma algoritmane.
Moores lov seier at tal på transistorar i ei datamaskinbrikke doblar seg kvart andre år, altså eksponentielt. Ideen har ofte blitt overført til andre aspekt som har med datamaskiners kapasitet å gjere. Og no snakkar ein om eksponentiell vekst i kunstig intelligens.
Men det er fysiske grenser for kor små transistorar kan vere; det er avgrensingar i kor mykje energi og råstoff vi kan bruke på reknemaskiner; og det er faktisk både teoretiske og praktiske avgrensingar på kva som lar seg rekne ut.
Veksten i KI-feltet vil sakte, men sikkert avta. Fokuset vil verte på ny og smartare bruk av teknologien, men innanfor grenser.
Metaforen om at maskiner kan tenkje, bidrar til å skape unødig uro. Det vert skapt eit bilete av ein skapnad som er som oss, men likevel veldig framand, og dermed trugande.
KI er samtidig både nyttig og ei utfordring, og det kan vere behov for reguleringar. Men desse systema har ikkje onde intensjonar - eller intensjonar i det heile. Dei er ikkje menneske og dei tenkjer ikkje. Dei reknar.
(Vilkår)Copyright Dagens Næringsliv AS og/eller våre leverandører. Vi vil gjerne at du deler våre saker ved bruk av lenke, som leder direkte til våre sider. Kopiering eller annen form for bruk av hele eller deler av innholdet, kan kun skje etter skriftlig tillatelse eller som tillatt ved lov. For ytterligere vilkår se her.