Neural Ordinary Differential Equations for Forecasting in the Energy Sector
Master thesis
Permanent lenke
http://hdl.handle.net/11250/2627014Utgivelsesdato
2019Metadata
Vis full innførselSamlinger
Sammendrag
Nevrale Ordinære Differentiallikninger (NODE) [Chen et al., 2018] er en ny familie av nevrale nettverk som eksplisittmodellerer nettverkets skjulte tilstand som et dynamisk system, og løser dette systemet ved å bruke en numerisk differ-ensialligningløser som en komponent i nettverket. Denne oppgaven gjennfører en innledende undersøkelse av NODEtil prognosering av ulike tidsserieproblemer i energisektoren. Så vidt jeg vet, har dette ikke blitt gjort før. Elektrisiteter en utfordrende vare på grunn av sin korte levetid når den først er blitt produsert. Energileverandører må kontin-uerlig følge med på etterspørselen og tilbudet i markedet for å være lønnsomme. De små marginene og store handledekvanta betyr at en liten forbedring av effektivitet gir en stor forbedring i avkastning. Min hypotese er at NODE haren spesiell fordel til prognosering av tidsserier på grunn av deres evne til å lære den underliggende dynamikken tildet konrekte systemet. Gjennom empirisk eksperimentering testes fem forskjellige NODE-modeller på tre energiprog-noseproblemer. Disse problemene har en prognosehorisont på 1 til 24 timer. I tillegg til å undersøke nøyaktighet, blirpåstander om fordelaktige egenskaper testet for verifisering, og spesifikke elementer i NODE-treningsprosessen blirundersøkt. Resultatene indikerer at NODE-modeller er i stand til å utkonkurrere eksisterende modeller på en 24-timershorisont, og er sammenlignbare på en 1-timers horisont. Med disse lovende funnene, er konklusjonen at ytterligereeksperimentering med NODE kan føre til verdifulle resultater. Neural Ordinary Differential Equations (NODE) [Chen et al., 2018] is a novel family of neural networks which ex-plicitly model the hidden state as a dynamic system, and solves this system using a numerical ordinary differentialequation (ODE) solver as a network component. This thesis performs an initial study on the applicability of NODEto various time series forecasting problems in the energy sector. To the best of my knowledge this has not been donebefore. Electricity is a challenging commodity due to its short lifetime once produced. Energy providers continuouslyneed to keep track of the demand and supply in the market in order to be profitable. The small margins and large tradequantities means a small improvement in efficiency yields a big improvement in returns. My hypothesis is that NODEhave a special advantage on forecasting time series due to their ability to learn the underlying dynamics of the pre-dicted system. Through empirical experimenting, five different NODE models are tested on three energy forecastingproblems. These problems have a forecasting horizon of 1 to 24 hours. In addition to forecasting accuracy, claims onadvantageous properties are tested for verification, and specific elements of the NODE training process are examined.The results indicate NODE models are able to outperform existing models on a 24 hour horizon, and perform com-parable on a 1 hour horizon. As the findings are promising, the conclusion is that further experimentation on NODEcould lead to valuable results.