Deepfakes - the future of disinformation

Abstract

Deepfakes er manipulerte videoer, lyd eller bilder hvor maskinlæring blir brukt for å gjøre dem så realistiske som mulige. De er et relativt nytt fenomen, og forskning på temaet er begrenset, spesielt i en norsk kontekst. Denne oppgaven utforsker nordmenns evne til å gjenkjenne deepfakes. Problemstillingen for oppgaven er: I hvilken grad er nordmenn i stand til å gjenkjenne deepfakes, og hvilke faktorer påvirker dette? Faktorene som ble utforsket er kjønn, alder, utdanning, digital kompetanse, internettbruk, tillitt til nyheter, politisk interesse, forventet prestasjon og tidligere kjennskap. Studien bruker et kvantitativt design hvor en online spørreundersøkelse ble laget og distribuert bland norske innbyggere, hovedsakelig ved bruk av Facebook. I spørreundersøkelsen ble respondenter spurt om å evaluere autentisiteten til 16 videoer, hvorav 8 var ekte og 8 var deepfakes. Spørreundersøkelsen hadde 682 respondenter.

Teoretiske begreper som kunnskapskløfter, digital kompetanse og bekreftelsestendenser legger et godt teoretisk rammeverk for å undersøke hvordan mennesker behandler medieinnhold, og de potensielle konsekvensene av å ikke være i stand til å gjenkjenne falskt innhold. Sentrale funn i studien er at nordmenn hadde en gjennomsnittlig suksessrate på 57.3% når det kom til å evaluere videoer, som er bare litt høyere enn ved tilfeldig gjetning. Eldre deltakere presterte dårligere enn yngre deltakere, og antall timer som brukes på internett hadde en kurvelineær sammenheng med evnen til å gjenkjenne deepfakes. Forventninger om å prestere godt hadde en positiv innvirkning på prestasjon og selvtillit, og det å ha tidligere kunnskap til personen eller videoen økte deltakernes selvtillit når de evaluerte.

Disse resultatene er et viktig tilskudd til forskningsfeltet, og de viser at på generell basis er bevissthet og gjenkjenningsevne rundt deepfakes i Norge relativt lav. Derfor kan deepfakes være en mektig trussel hvis det brukes ondsinnet.

Deepfakes are manipulated videos, audio, or images where machine learning is used to make them as realistic as possible. They are a relatively new phenomenon, and research on its detection is scarce, specifically in a Norwegian context. This thesis explores Norwegian’s ability to detect deepfakes. The study's research question is: To what extent are Norwegians able to recognize deepfakes, and which factors affect this? The factors examined include gender, age, education, digital literacy, internet use, trust in news, interest in politics, expected performance, and previous knowledge. The study uses a quantitative design where an online survey was created and distributed among Norwegian citizens, primarily using Facebook. In the survey, respondents were asked to evaluate the authenticity of 16 videos, where 8 were real and 8 were deepfakes. The survey had 682 respondents.

Theoretical terms like knowledge gaps, digital literacy, and confirmation bias, compose the theoretical framework for examining how humans treat media content, and the potential consequences of not being able to detect fake content. The central findings of the research were that Norwegian's had an average success rate of 57.3% when classifying videos, which is only slightly higher than randomly guessing. Older participants performed worse than younger participants, and hours spent on the internet had a curvilinear effect on correctly classifying videos. Expecting to perform well had a positive influence on performance and confidence and having previous knowledge of the subject in the video or the video in itself increased respondents’ confidence when answering.

These results are an important addition to the research field, and they show that general awareness and detection of deepfakes in Norway is relatively low. Hence, they are a potentially powerful threat if used maliciously.