Q-PRM - A QoS Aware Resource Manager for Colocated Services

Abstract

Veksten innenfor bruk av skytjenester har ført til at tjenester som er følsomme for forsinkelser i større grad bor i skyen. Disse tjenestene er ofte rettet mot brukere, et faktum som gjør konvensjonelle energibesparingsmetoder krevende å utnytte uten å forverre sluttbrukerens opplevelse. Ressurskontrollere prøver å lette på dette problemet ved å ta sanntidsmålinger av tjenestenes ressursbruk. Disse målingene kan brukes til å balansere ressursbruk mellom tjenester for å møte minimumskravene for forsinkelse. I denne oppgaven forbedrer vi en eksisterenede, konvensjonell ressurskontroller, Intel Platform Resource Manager, ved å gjøre den bevisst på tjenestens forsinkelse. Våre endringer førte til en 92.4% QoS garanti, sammenlignet med 37.8% for den umodifiserte ressurskontrolleren.

The growth of cloud-computing has lead to a large number of latency-sensitive workloads being hosted in the cloud. These workloads are often user-facing, which makes conventional power-saving techniques hard to fully utilize without adverse impact on the user's experience. Resource managers attempt to alleviate this problem by using real-time metrics in order to control workload resources. By balancing resource requirements of different workloads, we might be able to leverage those measurements to meet latency requirements. In this thesis we improve upon a conventional resource manager, the Intel Platform Resource Manager, by making it aware of workload latency. Our approach yielded a 92.4% QoS guarantee, compared to 37.8% for the unmodified Platform Resource Manager.