Can a machine have moral agency?

Abstract

I dette essayet viser jeg at det er behov for å muliggjøre tilegning av moralsk ansvar på maskiner. Jeg bruker det klassiske KI Etikk dilemmaet om den selvkjørende bilen for å vise at, siden menneskelige ovenfra-og-ned etiske rammeverk ikke strekker til ved forsøk på å løse dilemmaet selv med en menneskelig sjåfør, vi trenger noe annet for en selvkjørende bil: nemlig nedenfra-og-opp. Med dette sikter jeg til at den selvkjørende bilden kan i seg selv være en moralsk aktør, med evne til å ta de riktige beslutningene uavhengig av noe forhåndsdefinert moralsk rammeverk. Dette vil utstyre den med den fleksibiliteten som er nødvendig for å håndtere de mange situasjonene som vi sliter med å finne svar på, før bilen slippes ut på veiene.

In this essay, I will show that there is a need for allowing affixing moral responsibility onto machines. I will use the classical AI Ethics dilemma of the self-driving car to show how, since human top-down ethical frameworks fall short in solving the issue even for a human driver, we need something else for a self-driving car: bottom-up. By this I am referring to the self-driving car itself being a moral agent, able to make the right decision regardless of any pre-defined moral framework. This should provide it with the flexibility to tackle the wide array of situations which we would have trouble providing an answer to all of, before the car hits the road.