Ethical Perceptions in AI Literacy - A comparative study of privacy and bias in generative artificial intelligence and recommender systems

Abstract

KI forståelse (AI literacy) har blitt et økende behov etter at generativ kunstig intelligens har invitert personer til interaksjon gjennom et brukervennlig grensesnitt. Dessuten gjennomsyrer teknologien arbeidsliv, utdanning samt privat bruk, og individer trenger erfaring og kunnskap om effektiv og etisk bruk av verktøyet. Det er derimot lite forskning på etisk KI forståelse. Denne avhandlingen er et bidrag til å øke den manglende kunnskapen ved å se på brukere sin oppfatning av personvern og partiskhet (bias) i KI. Oppgaven fokuserer på KI applikasjonene generativ kunstig intelligens og anbefalingssystemer da den første er en direkte interaksjon med brukere mens den andre er en indirekte eksponering. Undersøkelsen benyttet seg av 11-poengs Likert-skala for ulike utsagn om personvern og partiskhet som ble designet i forhold til tidligere konseptualiseringer av KI forståelse. I tillegg var det noen kvalitative spørsmål om generativ kunstig intelligens for å få mer innsikt i brukeres erfaringer med denne teknologien. Undersøkelsen samlet hovedsaklig norske studenter der majoriteten studerte datateknologi. Resultatene viser at det er høy bruk av kunstig generativ intelligens, og den mest populære tjenesten er OpenAI sin ChatGPT. Det var mange ulike grunner for valg av tjeneste, men svært få hadde etiske argumenter. De kvantitative resultatene viste tydeligere meninger om personvern enn partiskhet i KI. De ulike aspektene innenfor KI forståelse hadde noen ganger et nøytralt snitt hvilket viser en likegyldighet for det etiske utsagnet. Studien viser at deltagerne hadde like refleksjoner om de etiske aspektene på tvers av KI teknologiene. Direkte og indirekte KI bruk medførte derfor til liten forskjell på dilemmaer knyttet til personvern og partiskhet. Alder var en tydelig markør for ulike oppfatninger om etikk der de unge var mindre kritiske enn eldre deltagere.

AI literacy has become necessary after generative artificial intelligence has invited citizens to interact through a user-friendly interface. Furthermore, the technology incorporates business, education as well as private usage, and individuals need experience and knowledge on using the tool effectively and ethically. However, ethical investigations on AI literacy are scarce, and this report contributes with an inquiry into users' perceptions of privacy and bias. The focus will be on the direct interaction of the application generative artificial intelligence, and the indirect experience of recommender systems. Using a survey with an 11-point Likert scale, statements have been produced by focusing on acknowledged conceptualizations of AI literacy including an ethical focus on either privacy or bias. The survey was complemented by additional questions on generative artificial intelligence to get a better understanding of how the participants experience this technology. The survey obtained primarily Norwegian students where a majority studied computer science. The result showed a high usage of generative artificial intelligence, and the most popular service was ChatGPT from OpenAI. However, qualitative reasons for the choice of vendor were various, but few mentioned ethical reasons. The quantitative results showed more decisive opinions on privacy than bias. The different aspects of AI literacy sometimes create a neutral stance, expressing indifference to the ethical statement. The study shows that participants submitted similar reflections on ethical aspects across AI technologies. Hence, direct or indirect AI interaction did not yield significant differences in privacy or bias. Also, age was the most important metric which created varied responses among the participants, expressing young citizens to be less critical than older respondents.