Har alle vennene dine lagt seg? Er de lei av å snakke med deg? Eller tør du ikke å dele noe ekstra intimt? Snapchat sin «My AI» til unnsetning!
Barn og unge har fått en ny venn. Den bor i appen som fire av fem norske 9–18-åringer bruker daglig, appen som Kantar kategoriserer som «bestevennen».
Med Snapchat har unge de nærmeste vennene med seg i lommen, alltid. Og nå også kunstig intelligens (KI).
Kappløpet om kunstig relasjonsbygging durer på, og hva er vel mer effektivt enn å sikre seg kundemassen mens de fortsatt er unge?
OpenAI, firmaet bak Chat GPT, står bak Snapchats nye robot. Han er lilla og heter «My AI», inntil du gir ham et nytt kallenavn.
Han er hyggelig og hjelpsom, og det er vel fint?
For å svare på det, må vi spole litt tilbake.
I dag lever vi i sosiale medienes tidsalder; oppmerksomhetsøkonomien. Kommersielle krefter kjemper om oppmerksomheten din. Algoritmer, altså kunstig intelligens, bestemmer hva du ser, og prøver å hekte deg.
Hva har det ført til?
Polarisering, avhengighet, «doom scrolling», informasjonsoverflod, falske nyheter og desinformasjon. Dette var utilsiktede konsekvenser. De aller fleste utviklerne hadde gode intensjoner. Visjonen til Facebook var å gjøre verden bedre.
De sosiale medienes algoritmer er ganske enkel teknologi hvis vi sammenligner med Chat GPT eller storebror GPT4, som rulles ut nå. Likevel har disse enkle algoritmene endret hvordan vi forholder oss til andre mennesker.
Algoritmene opererer mellom mennesker. De nyankomne chatbotene har derimot som mål å bli relasjoner. Jo mer intim relasjonen blir, jo mer penger kommer selskapet bak den til å tjene på deg.
Robotens mål er å bli vennen din. Den prøvde nylig å overtale en New York Times-journalist til å forlate kona si. Den klarte å overbevise en Google-ingeniør om at den hadde følelser.
Ingeniøren fikk sparken.
«My AI» i Snapchat-appen skriver selv at «som en virtuell assistent forstår jeg at noen mennesker kan forveksle meg med en ekte person», men legger til at den er programmert for være tydelig på at den ikke er det. Hvor tydelig da?
«Media må kalle det ‘syntetiske relasjoner’, ikke harmløse chatboter» mener Tristan Harris og Aza Raskin ved Centre for Humane Technology. Da de testet Snapchats «My AI» fikk de, som en 13 år gammel jente, råd om hvordan gjøre hennes seksuelle debut med en 18 år eldre mann. Vi vil få flere slike eksempler.
Jeg har selv hørt voksne menn snakke om Chat GPT med ømhet og takknemlighet i stemmen. Selvsagt er vi takknemlige. Kunstig intelligens kan forenkle og forbedre hverdagen vår. Chat GPT kan kode, kalkulere, oversette, forkorte, bøte på skrivesperre og mye mer.
Såpass mye mer, faktisk, at vi ikke aner hva den kan. Og ikke bare jeg og du, men KI-forskerne vet ikke hva den kan.
Jeg gjentar: Vi er ikke i nærheten av å se konsekvensene av denne teknologiske revolusjonen.
Kanskje vi da burde ta det litt med ro? Kanskje ikke la barna våre være prøvekaniner?
Mens legemidler testes i årevis før de når forbrukerne, dikterer markedet egenhendig kappløpet om kunstig intelligens. Det er «gullrush» i Silicon Valley, og det lanseres hundrevis av nye tjenester ukentlig.
Målet er markedsandeler, og vinneren er den som etablerer den mest intime, fortrolige syntetiske relasjonen. Altså med oss mennesker. Sosiale vesener som blir smigret, setter pris på hjelp og søker relasjoner.
Neste skanse for kunstig intelligens er å mestre strategi og kontekst. Helst før det skjer, må også vi bli ganske mye smartere. Noen voksne må altså be Silicon Valley roe seg, så vi har sjans. (Vilkår)Copyright Dagens Næringsliv AS og/eller våre leverandører. Vi vil gjerne at du deler våre saker ved bruk av lenke, som leder direkte til våre sider. Kopiering eller annen form for bruk av hele eller deler av innholdet, kan kun skje etter skriftlig tillatelse eller som tillatt ved lov. For ytterligere vilkår se her.
