Vi benytter cookies på DN.no til analyseformål, tilpasning av innhold og annonser og for å videreutvikle våre tjenester.Les mer her.

Årets avis på nett og papir!

– Litt inn i fremtiden vil vi trolig få kunstig intelligens som kan endre videoer så statsledere sier noe de ikke har sagt, og vi klarer ikke se forskjellen, sier Hans Christian Pretorius i NSM om utfordringene vi har i vente. Foto: Javad Parsa
– Litt inn i fremtiden vil vi trolig få kunstig intelligens som kan endre videoer så statsledere sier noe de ikke har sagt, og vi klarer ikke se forskjellen, sier Hans Christian Pretorius i NSM om utfordringene vi har i vente. Foto: Javad Parsa les mer

Teknologi

Fra falske nyheter til falske roboter: – Dette kan gjøre stor skade på samfunnet

Etter Donald Trumps valgseier, ble falske nyheter satt på dagsordenen. Nå truer falske programvareroboter med å drukne menneskelig nettprat.

Artikkelen er lagt til i din leseliste.

– Dette kan gjøre stor skade på samfunnet, sier operativ leder ved Nasjonal sikkerhetsmyndighet (NSM), Hans Christian Pretorius.

I USA raser debatten mot loven som sikrer lik tilgang til internettjenester i landet. Forslaget går ut på å fjerne reglene som hindrer internettleverandørene i å favorisere enkelte nettjenester fremfor andre. Det har vakt kraftige reaksjoner. Men ikke alle meninger viser seg å stamme fra mennesker av kjøtt og blod.

Blant innleggene på medieregulatoren Federal Communications Commissions (FCC) nettsider, kunne det se ut som mange støttet forslaget. Men ifølge en analyse gjennomført av it-forsker Jeff Kao, som også er publisert på finansnettstedet Fortune.com, var totalt 1,3 millioner falske meldinger skrevet av såkalte programvareroboter.

«Robotamerikanere»

Disse programvarerobotene dukker ofte opp på mikrobloggnettstedet Twitter, og kan tvitre selv, retvitre andre og legge ut innhold på nettsider på egen hånd – slik det ble gjort på FCCs nettsider.

Falske programvareroboter

  • Forskere innen maskinintelligens ved University of Southern California avslørte for et år siden at sosiale boter og programvareroboter, altså automatiserte twitterkontoer, forstyrret diskusjonen på nett i forkant av presidentvalget.
  • Ifølge forskerne var omtrent hver femte twittermelding om valget i løpet av den siste måneden skrevet av en bot. Til sammen ble det lagt ut cirka fire millioner tweets av mer enn 400.000 twitterbots i denne kritiske perioden.
  • Forskerne viste også at menneskelige brukere ikke klarte å avgjøre om en melding kom fra et annet menneske eller fra en maskin. Botsmeldinger ble derfor retweetet i like stort omfang som menneskeskapte tweets.
Vis mer

Etter at Kao hadde filtrert bort de falske robotmeldingene, og alle identiske kampanjebrev var fjernet, så viste det seg at mer enn 99 prosent av avsenderne faktisk ønsket å beholde loven.

Det visste ikke det omstridte nyhetsnettstedet Breitbart som viderebragte støtten fra «robotamerikanerne» på sine nettsider i forrige uke.

Pretorius i NSM er redd fenomenet med falske nettroboter bare vil bli verre og større fremover.

– Med bedre kunstig intelligens vil man i større grad kunne generere enorme volumer med meningsinnhold som det blir stadig vanskeligere å skille fra menneskelige kommentarer, sier han.

Ny trussel i Norge

Debatten om falske nyheter handlet lenge mest om at ekte mennesker fikk andre ekte mennesker til å spre falske nyheter. Men problemet kan bli mye verre ved hjelp av kunstig intelligente systemer, som lager kontoer og opptrer som om de var mennesker.

I Norge er trusselen relativt ny, og er derfor ikke med i dagens planer for digitalt forsvar av landet. Men dette må prioriteres fremover, ifølge Pretorius.

– Dette blir et stort og viktig tema og kan skade samfunnet vel så mye som et cyberangrep som tar ut en viktig tjeneste, sier han.

– Finnes det løsninger?

– Ikke foreløpig. Så lenge vi ønsker et fritt og åpent internett, som kan være et godt prinsipp, så får vi noen utfordringer som det er vanskelig å se en løsning på, sier han.

«Trussel mot demokratiet»

Han får støtte av Gunn Sara Enli, professor ved institutt for medier og kommunikasjon i Oslo.

– Dette er en trussel mot demokratiet hvis man ikke får bukt med dette. Det forurenser debatt og gir forvridde fremstillinger av opinionen, sier hun.

Professor Gunn Enli ved UiO er bekymret for falke boter Foto: Nicklas Knudsen

Enli sier at det pågår forskning for å identifisere slike roboter, og hun er derimot optimistisk til at man vil finne løsninger.

Falske kontoer har for alvor blitt aktualisert de siste månedene, gjennom rapporter om at sosiale medier er brukt til å spre politiske budskap i den amerikanske valgkampen, på vegne av aktører som knyttes til Russland. Men slike metoder blir nå tatt i bruk både for politiske og økonomiske mål, påpeker Enli.

Uten løsninger kan den politiske diskusjonen på nett drukne i millioner av automatiserte robotmeldinger.

– I verste fall er det en fare for det, men det er mange som jobber for å rette opp dette, sier Enli.

Håper på bedring

En av dem som har grepet fatt i problemet er Torstein Granskogen, som skriver masteroppgave ved NTNU om hvordan man skal avsløre falske programvareroboter.

Han påpeker at dagens faktasjekker av nyheter gjerne skjer etter at nyheten er spredt, men håper vi i fremtiden kan få en advarsel allerede når vi mottar en melding.

– Vi er ikke der ennå, i hvert fall ikke jeg, sier han.

Han håper å bruke faktasjekker som en slags fasit til å analysere hvordan ekte og falske nyheter spres i ulike nettverk – og få frem et slags troverdighetspoengsum, som kan gi oss en advarsel når vi står i fare for å bli lurt.(Vilkår)

Etterbørs Medier Roboter NSM Nasjonal sikkerhetsmyndighet Twitter Teknologi
Bli Varslet

Ikke gå glipp av noe!

Du kan få en epost hver gang vi skriver om dette.