Cautious optimization - based with Machine Learning

Abstract

Model Predictive Control (MPC) algoritmer har blitt en utbredt teknikk innen industriell kontrol. I de senere årene har MPC drevne kontrollere utvidet sitt virkeomr åde og er å finne innen stadig nye forskningsfelt, som følger av raskere teknologiske nyvinninger. En ulempe med mange av de eksisterende MPC løsningene er kravet om en detaljert deterministisk system model. En økende grad av komplekse systemer gjør det imidlertid vanskelig å utarbeide dynamiske systemmodeller tilpasset kontrollapplikasjoner. Heller ikke alle systemer kan beskrives ved deterministiske modeller. Nye formuleringer av MPC prinsippet har derfor vist seg å være lovende, deriblant metoden kjent som Gaussisk process drevet Model Predictive Control (GPMPC). GPMPC kontrolleren virker gjennom ̊a kombinere MPC prinsippet med den ikke - parametriske, veiledede, maskin - læringsmodellen kjent som Gaussisk prosess regresjon. Forskning hentyder at en kombinasjon av disse teknikkene vil kunne forbedre kontroll av ikke - lineære systemer, som tidligere hadde vært vanskelige å beskrive. Den følgende avhandlingen tar til høyde for å studere de teoretiske aspektene ved GPMPC prinsippet og metodens teoretiske oppbyggning. Derav er GP regresjon, MPC, ikke - lineære programmerings formuleringer of sample teknikker utforsket. Avhandlingen har også som mål å konseptualisere bakgrunnsteorien presentert gjennom et sett med praktiske implementasjoner. To Gaussiske prosess baserte regresjonsmodeller er derfor blitt presentert, sammens med en MPC løsning og en GPMPC løsning, testet på forskjellige problemstillinger. Implementasjonene foreslått og diskutert ble implementert i Python 3.7 sammen med tileggsbibliotekene CasADi, NumPy og Matplotlib. CasADi er et rammeverk som tillater symbolsk representasjon av variabler og ble benyttet sammens med NumPy biblioteket for å sikre beregningsmessig effektivitet. Resultatene presentert grafisk ble forøvrig ellers fremstillt ved hjelp av Matplotlib biblioteket. Simuleringer og optimering ble ogs ̊a implementert via bruk av CasADi - pakken. Optimering av MPC og GPMPC formuleringene ble videre utført ved bruk av IPOPT aksessert via CasADi, mens hyperparameter optimering ble også utført numerisk ved hjelp av NumPy - rammeverket. Alle implementasjonene viste seg å være suksessfulle. GPMPC - metoden viste seg å fungere på noen få deterministiske systemer, selv om løsningens ytelse og praktikalitet ble diskutert i noen grad. En sammen- likning mellom MPC - løsningen og GPMPC - implementasjonen ble også presentert.

Model Predictive Control (MPC) algorithms have become a common technique for controlling industrial plants. In recent years, MPC driven controllers have expanded their territory into new areas of research due to faster computational technologies. A drawback with many of the existing MPC approaches is the need of detailed deterministic system models. With gradually more complex systems being developed, obtaining accurate models suited for control purposes might be difficult. Neither all systems adheres to a deterministic system model. New formulations of the MPC principle, such as the Gaussian Process Model Predictive Controller (GPMPC), have therefore shown to be popular. The GPMPC controller merges the MPC principle with the non - parametric, supervised, machine learning regression model known as Gaussian process (GP) regression. Research suggests that combining these two models allows for improved control of difficult to describe non - linear systems. In the following thesis the GPMPC principle is studied along with the necessary theoretical building blocks behind the technique. GP regression, MPC, non - linear programming formulations and sampling approaches are therefore investigated. The thesis further aims at conceptualising each of the theoretical discussions through practical implementations of the principles. As a result two implementations regarding GP regression, a MPC implementation and one implementation showcasing the GPMPC principle was developed and tested on various cases. The implementation suggested and discussed was implemented using Python 3.7 in conjunction with additional libraries provided by CasADi, NumPy and Matplotlib. The CasADi framework, which allows variables to be symbolically represented, was used interchangeably with the NumPy library in order to ensure computational efficiency. All results were otherwise plotted using functionality provided by the Matplotlib library. For optimisation and simulation, functionality provided by the CasADi package was used. MPC and GPMPC optimisation were then done using the IPOPT solver, interfaced through the CasADi interface, meanwhile hyperparameter optimisation was done numerically using the NumPy framework. All of the implementations were found to be successful. The GPMPC method successfully controlled a few deterministic systems, although a few issues was raised regarding the method’s performance and practicality. Comments upon these issues were also provided comparing the MPC and the GPMPC approach to each other.