Spatio-Temporal Graph Attention Network for Anomaly Detection in the Telco Domain

Abstract

På de neste sidene er masteroppgaven vår om hvordan de nylige fremskrittene i dyplæringsarkitekturer, nemlig grafnevrale nettverk, kan utføre feildeteksjon uten tilsyn, i telekommunikasjonsdomenet (telco). Dette arbeidet er motivert av behovet for effektiv og nøyaktig deteksjon av avvik i telco-domenet, hvor viktige ytelsesindikatorer (KPI-er) for basestasjoner kontinuerlig overvåkes. Nettverksinfrastruktur oppgraderes fortløpende, 5G er på vei, og det er en eksponentiell økning av enheter og antenner. Dermed er det svært utfordrende å oppnå robust og pålitelig anomalideteksjon uten å benytte seg av datadrevne modeller for å automatisere denne oppgaven. Dessuten utgjør de mange KPI-ene multivariate tidsserier med komplekse korrelasjoner og avhengigheter som feildeteksjonssystemet bør lære å dra nytte av.

For å adressere dette bygger vi et komplett rammeverk for feildeteksjon uten tilsyn, der vi undersøker bruken av grafoppmerksomhetsnettverk (GAT), i kombinasjon med en prognosebasert og en rekonstruksjonsbasert modell, i tillegg til en ikke-parametrisk terskelmetode. For det første verifiserer vi rammeverket vårt på tre anerkjente referansedatasett innen feildeteksjon. For det andre gjennomfører vi omfattende studier der vi 1) analyserer GAT sitt potensial for å oppfatte og utnytte komplekse korrelasjoner i multivariate tidsserier i både romog tidsdimensjoner, 2) undersøker effekten av å kombinere en prognosebasert og en rekonstruksjonsbasert modell, og 3) verifiserer effektiviteten av den ikke-parametriske terskelmetoden. Til slutt benytter og evaluerer vi rammeverket vårt på virkelig data levert av Telenor.

In the following pages lies our master’s thesis on how the recent advances in deep learning architectures, namely graph neural networks, can perform unsupervised anomaly detection in the Telecommunications (telco) domain. This work is motivated by the need for efficient and accurate anomaly detection in the telco domain, where Key Performance Indicators (KPIs) of base stations are continuously being monitored. Furthermore, network infrastructures are constantly being upgraded, 5G is on its way, and there is an exponential increase of devices and antennas. Thus, it is impractical to achieve robust and dependable anomaly detection results without relying on data-driven models to automate this task. Also, the numerous KPIs constitute multivariate time-series with complex patterns and dependencies that the anomaly detection system should learn to leverage.

In order to address this, we build a complete framework for unsupervised anomaly detection, where we investigate the use of Graph Attention Network (GAT), in combination with a forecasting-based and a reconstruction-based model, in addition to a non-parametric thresholding method. Firstly, we verify our framework on three commonly-used benchmark datasets within anomaly detection. Secondly, we conduct extensive studies where we 1) analyze GAT’s potential for capturing and exploiting the complex relationships of multivariate time-series in both spatial and temporal dimensions, 2) investigate the impact of combining a forecasting-based and a reconstruction-based model, and 3) verify the effectiveness of the non-parametric thresholding method. Lastly, we employ and evaluate our framework on real-world telco data provided by Telenor.