A rapid literature review on generative AI, misinformation and the need for media, information and AI literacy
Abstract
Den raske utviklingen av generative AI har i betydelig grad endret informasjonslandskapet og skapt både muligheter og utfordringer. Denne oppgaven, som bygger på forfatterens tidligere arbeid for OECD Skills Outlook 2023, utforsker de kognitive, utdanningsmessige og samfunnsmessige implikasjonene av feilinformasjon generert av AI, og hvilken rolle medie-, informasjons- og AI-literacy har når det kommer til håndteringen av disse utfordringene. Gjennom en rapid litteraturgjennomgang og tematisk analyse, identifiseres tre sentrale temaer: (1) kognitive reaksjoner på AI-generert feilinformasjon, med fokus på heuristikker og biaser som påvirker tillit og oppfatning av generativ AI; (2) AI-kompetanse som en essensiell digital ferdighet, med fokus på dens betydning for å fremme kritisk tenkning og digitalt medborgerskap; og (3) integrasjonen av medie-, informasjons- og AI-literacy i pedagogiske intervensjoner for å styrke kritiske vurderingsevner knyttet til AI-generert innhold.De begrensede funnene de siste to årene antyder at det vitenskapelige miljøet muligens ikke anser generativ AI som en faktor som krever en grunnleggende transformasjon av behovet for medie- og informasjons-literacy. I stedet ser litteraturen ut til å anse påvirkningen av generativ AI som mer inkrementell, som først og fremst påvirker de måtene feilinformasjon formidles og oppfattes på. Dette forskningsgapet gjør det vanskelig å trekke konklusjoner om temaet og understreker behovet for ytterligere forskning.Litteraturen viser også at selv om AI-literacy er anerkjent som en viktig digital kompetanse, behandles den ofte som en isolert kompetanse i stedet for å bli integrert i eksisterende rammeverk for medie- og informasjons-literacy. Denne fragmenterte tilnærmingen kan være en svakhet når det gjelder å utstyre politikere og lærere med verktøyene de trenger for å utvikle intervensjoner og programmer som kan gjøre befolkningen i stand til å håndtere informasjonslandskapet i det 21. århundre. Basert på funnene argumenterer denne oppgaven for en mer helhetlig integrasjon av AI-literacy i bredere utdanningsmessige og samfunnsmessige rammeverk for å forberede ulike befolkningsgrupper på å interagere ansvarlig med generativ AI. Denne oppgaven gir en oversikt over de endringene som utviklingen av nye generative AI-verktøy har forårsaket innen feltet for falsk formasjon samt medie-, informasjons- og AI-literacy, og gir forslag til fremtidig forskning for å utvikle en mer fullstendig forståelse av feltet. The rapid advancement of generative AI technologies has significantly altered the information landscape, creating both opportunities and challenges. This thesis, which builds on the author’s previous work for the OECD Skills Outlook 2023, explores the cognitive, educational, and societal implications of misinformation generated by AI and the role of media, information, and AI literacy in addressing these challenges. Through a rapid literature review and thematic analysis, three key themes are identified: (1) cognitive responses to AI-generated misinformation, focusing on the heuristics and biases that influence trust and perception of generative AI; (2) AI literacy as an essential digital competency, emphasizing its importance in fostering critical thinking and digital citizenship; and (3) the integration of media, information, and AI literacy in educational interventions to enhance critical evaluation skills related to AI-generated content. The limited findings over the past two years suggest that the scientific community may not view generative AI as a factor necessitating a fundamental transformation in media and information literacy needs. Instead, the literature seems to view the influence of generative AI seems to be more incremental, primarily affecting the modalities through which misinformation is disseminated and engaged with. This research gap complicates efforts to draw broad conclusions on the topic, highlighting the need for further study.The literature also found that while AI literacy is widely acknowledged as a critical digital skill, it is typically treated as an isolated competency rather than being integrated into established media and information literacy frameworks. This fragmented approach is a potential limitation when equipping policy makers and educators with the tools they need to create interventions and programs to make the public capable of handling the 21st century information landscape. Based on its findings, this thesis advocates for a more holistic integration of AI literacy within broader educational and societal frameworks, to prepare diverse populations to engage responsibly with generative AI. This thesis helps provide an overview of the changes that the development of new generative AI tools has caused in the field of false information and media, information and AI literacy, and provides suggestions for future research in order to get a more complete overview of the field.