Pilotere Copilot For Microsoft 365 - Funnrapport fra NTNUs prosjekt i Datatilsynets regulatoriske sandkasse våren 2024

Abstract

Rapporten omhandler NTNUs erfaringer med å teste Copilot for Microsoft 365 våren 2024, og presenterer de åtte hovedfunnene som spilles inn til Datatilsynets prosjekt i den regulatoriske sandkassen for personvernvennlig innovasjon og digitalisering. Funnene inkluderer at Copilot er effektivt når brukeren allerede har god kunnskap om oppgaven, men kan påvirke utøvelsen av offentlig myndighet. Copilot behandler store mengder personopplysninger på nye måter, ikke bare brukernes personopplysninger. Rapporten påpeker også at Microsoft 365 er utfordrende å forvalte, at Copilot fortsatt er tidlig i utviklingsløpet og at det tidvis fungerer veldig bra. Copilot kan påvirke organisasjonen på ulike måter, og systemet kan brukes til å overvåke og måle prestasjoner og adferd. Rapporten understreker viktigheten av opplæring, gode personvernkonsekvensvurderinger og aktiv stillingstaken til hvilke data Copilot skal ha tilgang til. Rapporten anbefaler også å se på Copilot primært som et organisasjonsutviklingsprosjekt (ikke et IT-prosjekt), og anbefaler at organisasjoner bruker prosjektresultatene for å komme raskt inn i kjernen av utfordringene som gjelder for egen virksomhet. I tillegg inneholder rapporten overordnede anbefalinger til hva en organisasjon bør vurdere før verktøy med innebygd kunstig intelligens tas i bruk, informasjon om hvordan testene har blitt gjennomført og opplæringsprogram, samt NTNUs forslag til personvernkonsekvensvurderinger for både Copilot with commercial data protection og Copilot for Microsoft 365, og utkast til retningslinjer for bruk av generativ kunstig intelligens.