LSTM Hybrid Model for Water Reservoir Inflow Forecasting, a Comparison Between Black Box- and Interpretable Hybrid Models

Abstract

Norges innsjøer oppnådde over 31GW innstallert vannkraftskapasitet, og produserte over 144 TWh ren kraft i 2016 i følge International Hydropower Association. Denne avhandlignen vurderer 9 hybridmodeller for prediksjon av tilsig til vannreservoirer for å forbedre prediksjonene til den mye brukte HBV-modellen for tilsigsprediksjon. Hybridmodellene er kombinasjoner av to ulike HBV implementasjoner, en med lukket kildekode som er et kommersielt produkt som selges og en med åpen kildekode, sammen med et dypt LSTM nettverk for å kunne tilby bedre prediksjoner for en 40 timers tidshorisont fremover, for å kunne bedre vannkraftprodusenters evne til å predikere hvor mye kraft de burde produsere time for time i det Nordiske kraftmarkedets day-ahead market og også spare miljømessige og samfunnsmessige kostnader.

Studiet er gjennomført med grunnlag i et systematisk litteratursøk som analyserer de fremste teknikkene innen hydrologisk tilsigsmodellering ved hjelp av hybridmodeller med nevrale nettverk, med fokus på å undersøke hvilke nevrale nettverksarkitekturer som er i fokus, hvilke multi-klassifikator-metoder som er i fokus og hvilke støtteverktøy som er nødvendige for å gjennomføre gode eksperimenter i feltet. Litteratursøket følges opp med eksperimenter med 9 hybridmodeller og 2 rene LSTM-nett vannkraftverket på Søa's tilsigsfelt, med diskusjon og evaluaering av effekten av å bruke en HBV modell med lukket- eller åpen kildekode med tilgang til en begrenset eller komplett del av modellens interne tilstand, av effekten av å ha tilgang til tidlige tilsigsdata som input, av effekten av å bruke to HBV modeller sine prediksjoner, og effekten av å ikke bruke noen fysik modell sammen med LSTM-nettet no HBV model at all. Resultatene presenterer flere gode modeller og forskjellene på deres prediksjoner. Problemet er definert som prediksjon av tilsig ved hjelp av historisk data om nedbør, temperatur sammen med tidligere reservoir-tilsig. Avhandlingen avlsuttes ved å beskrive anbefalt fremtidig arbeid innen feltet.

Norway's inland waters powered over 31GW installed hydropower capacity, and produced over 144 TWh of clean power in 2016 according to the International Hydropower Association. This thesis investigates 9 hybrid models in order to improve the predictions of the much used HBV model for inflow forecasting. The hybrid models are combinations of two different HBV implementations, one closed source commercial product and one open source model, in conjunction with a deep LSTM network to be able to provide better forecasts for a 40 hour time window into the future, in order to improve power producing companies ability to predict how much power they should produce hour by hour in the Northern European power market's day-ahead market and also save environmental and societal cost.

This study is conducted with a basis in a systematic literature review analysing the state of the art within hydrological inflow modelling using hybrid models with neural networks, with emphasis on investigating which neural network architectures are in focus, which multiclassifier methods are in focus and which tools are necessary to conduct good experiments in the field. The review is followed by experiments with 9 hybrid models and 2 pure LSTM networks on the water power plant inflow field, Søa, with a discussion and evaluation of the effect of using closed source vs open source HBV models with access to a limited or full set of state variables, the effect of having access to previous inflow as input, the effect of using two HBV model's predictions, and the effect of using no physical model at all. The results present multiple good models and the difference between their predictions. The problem is defined as predicting water reservoir inflow utilizing historical data of precipitation and temperature together with previous reservoir inflow. The thesis ends by outlining suggested future work to be done in the field.