Improving the robustness of neural networks for time series forecasting through augmentationswith specific characteristics

Abstract

Nevrale nettverk er sett på som en toppmoderne metode i mange oppgaver som handler om mønstergjenkjenning, som bildeklassifisering og maskinoversettelse. Likevel har det blitt vist nevrale nettverk ofte produserer prediksjoner med liten usikkerhet når de støter på data annerledes enn det sett under trening, så kalt «out-of-distribution» data. I klassifisering vil ikke slik data nødvendigvis likne noen av klassene nettverket er trent for å predikere, men likevel vil nettverket være selvsikkert. Denne oppgaven undersøker dette fenomenet i sammenheng med prognosering av tidsserier.

En viktig forutsetning for å forske på dette problemet er anskaffelse av «out-of-distribution» data. En metode for generering av slik data utvikles ved å se forskning gjort på generering av tidsserie data i sammenheng med forsking gjort på «out-of-distribution» data. Den datagenererende metoden brukes deretter til å frembringe data med spesifikke karakteristikker for å augmentere dataset. Resultatene viser at slik augmentering av dataset muliggjør en kontrollert økning av robusthet.

Neural networks are considered state of the art in many pattern recognition tasks like image classification and machine translation. However, it has been shown that when neural networks encounter data differing from what seen during training, referred to as out-of-distribution data, they often output a highly confident prediction. In a classification setting, the out-of-distribution data might not resemble any of the classes the network is trained to classify, yet the predictions remain confident. This thesis investigates the phenomenon in the domain of time series forecasting, which has not been considered by previous research on the topic.

An important prerequisite for research on out-of-distribution data is the acquisition of such data. By linking work related to generating time series with specific characteristics and work related to out-of-distribution data, a method for generating time series data is devised. The data generating method is then used to augment datasets with time series exhibiting different characteristics than those already present in a dataset. The results show that augmenting datasets with time series displaying specific characteristics allows model robustness to be increased in a highly controlled manner.