Estimating Tail-Latency of Latency-Sensitive Workloads

Abstract

Mange av arbeidsoppgavene som behandles i dagens datasentre er følsomme for forsinkelse, og krever at brukere har en tilfredsstillende opplevelse, noe som gjør energibesparing til en utfordring, som følge av strenge krav til forsinkelse. Oppgaveplanleggere er avgjørende for å redusere energiforbruket samtidig som disse kravene møtes. Denne masteroppgaven introduserer Heimdall, en løsning basert på enkle maskinlæringsmodeller (random forest og support vector machine) for å forstå korrelasjonen mellom kjerner, dynamisk spennings -og frekvensskalering (DVFS), arbeidsbelastning og forsinkelse. Våre eksperiment er gjennomført på et Nvidia Jetson TX1 brett, med resultater som viser at Heimdall reduserer energiforbruket med henholdsvis 2% og 16% i forhold til eksisterende oppgavebehandlere som Hipster og Heracles, og møter kravene for forsinkelse henholdsvis 11.2% og 6.1% oftere.