Autonomous Vehicle Control: End-to-end Learning in Simulated Environments

Abstract

I de siste årene er det gjort betydelige fremskritt mot et kjøretøys evne til å operere autonomt. En ende-til-ende-tilnærming forsøker å oppnå autonom kjøring ved hjelp av en enkel, omfattende komponent. Nylige gjennombrudd i dyp læring har økt kapasiteten til ende-til-ende systemer, og de anses nå som et mulig alternativ til dagens løsninger.

Denne oppgaven undersøker ende-til-ende-læring i ulike, simulerte miljøer som inneholder andre kjøretøyer, trafikklys og fartsgrenser -- i værforhold som varierer fra sol til kraftig regn. Videre undersøker oppgaven noen av usikkerhetene tilknyttet implementeringen av et ende-til-ende-system. Mer spesifikt undersøker oppgaven hvordan systemets ytelse påvirkes av størrelsen på treningsdatasettet, den tillatte prediksjonfrekvensen, og antall skjulte tilstander i systemets tilbakevendende modul.

Avhandlingen foreslår en ende-til-ende-arkitektur som kombinerer et konvolusjonelt nevralt nettverk med et tilbakevendende nettverk for å lære romlige og tidsmessige relasjoner. Systemet trenes opp ved hjelp av menneskelig kjøredata fra ulike simulerte miljøer, og evalueres på grunnlag av sanntidsytelsen i usette, simulerte miljøer.

Resultatene viser at ende-til-ende-systemer kan operere autonomt i simulerte miljøer, i en rekke forskjellige værforhold. Videre viste resultatene at ti skjulte tilstander for systemets tilbakevendende modul var optimalt. I tillegg viser resultatene at systemet var følsomt overfor små reduksjoner i datasettstørrelsen, og at en prediksjonsfrekvens på 15 Hz var nødvendig for at systemet skulle operere optimalt.

In recent years, considerable progress has been made towards a vehicle's ability to operate autonomously. An end-to-end approach attempts to achieve autonomous driving using a single, comprehensive software component. Recent breakthroughs in deep learning have significantly increased end-to-end systems' capabilities, and such systems are now considered a possible alternative to the current state-of-the-art solutions.

This thesis examines end-to-end learning for autonomous vehicles in diverse, simulated environments containing other vehicles, traffic lights, and speed limits; in weather conditions ranging from sunny to heavy rain. Moreover, the thesis further aims to explore some of the uncertainties regarding the implementation of an end-to-end system. Specifically, how the system's overall performance is affected by the size of the training dataset, the allowed prediction frequency, and the number of hidden states in the system's recurrent module.

The thesis proposes an end-to-end architecture combing a traditional Convolutional Neural Network with a recurrent layer, to facilitate the learning of both spatial and temporal relationships. The system is trained using expert driving data from various simulated settings and evaluated by its real-time driving performance in unseen simulated environments.

The results of the thesis indicate that end-to-end systems can operate autonomously in simulated environments, in a range of different weather conditions. Additionally, it was found that using ten hidden states for the system's recurrent module was optimal. The results further show that the system was sensitive to small reductions in dataset size and that a prediction frequency of 15 Hz was required for the system to perform at its full potential.