Reachability Analysis of Deep Active Learning for Nonlinear System Identification

Abstract

Systemidentifikasjon er en avgjørende teknikk for å forstå og modellere komplekse ikke-lineære dynamiske systemer fra inngangs- og utgangsdata. Dette feltet har utviklet seg med introduksjonen av dype nevrale nettverk, som fanger opp intrikate interaksjoner, men ofte krever omfattende mengder data, noe som gjør dem kostbare og tidkrevende å implementere.

For å adressere utfordringen med dataintensitet integrerer vår studie dyp aktiv læring med systemidentifikasjon, med vekt på nåbarhet (reachability), et mål på hvilke tilstander systemet kan nå under ulike pådrag. Vi fremsetter en metodikk som kombinerer et sett av dype nevrale nettverk med en selektiv strategi for datainnsamling. Denne tilnærmingen fokuserer på å samle de mest informative datapunktene innenfor systemets operasjonelle rekkevidde, for å optimalisere diversiteten og informasjonsverdien i de innsamlede dataene.

Metoden vår består av to hovedfaser: lokal utredning for å identifisere optimale pådrag-sekvenser for å oppnå informativ tilstandsrespons og totalutredning for å maksimere informasjonsverdien og diversitet på tvers av tilstandsrommet. Denne målrettede datainnsamlingen forbedrer betydelig treningseffektiviteten til vårt sett av nevrale nettverk, særlig gjennom fokuset på nåbarhet.

Vi tester grundig vår metodikk på en modell for fartøymanøvrering, som yter bedre enn referansemodeller ved å levere mer presise og nøyaktige prediksjoner av tilstandssekvenser. Funnene våre viser potensialet til denne tilnærmingen i å redusere datakravene til nevrale nettverk, noe som gjør avansert systemidentifikasjon mer anvendelig og effektiv for modellering av dynamiske systemer. Denne forskningen fremmer forståelsen av integrering av nåbarhet med aktiv læring og bidrar med vesentlig innsikt i praktisk bruk av modellering av komplekse systemer.

System identification is a pivotal technique for understanding and modelling complex nonlinear dynamic systems from input-output data. This field has evolved with the introduction of deep neural networks, which capture intricate interactions but often require extensive data, making them costly and time-consuming to implement.

Addressing the challenge of data intensity, our study integrates deep active learning with system identification, emphasizing reachability, a measure of the system's accessible states under various inputs. We propose a methodology combining an ensemble of deep neural networks with a selective data acquisition strategy. This approach focuses on collecting the most informative data points within the system’s operational reach, optimizing the diversity and informativeness of the data gathered.

Our method consists of two main phases: local exploration to identify optimal control input trajectories for obtaining informative state responses and global exploration to maximize data informativeness and diversity across the state space. This targeted data collection significantly enhances the training effectiveness of our neural network ensemble, particularly in addressing reachability.

We extensively test our methodology on a vessel manoeuvring model, which outperforms benchmarks by delivering more definite and accurate predictions of state trajectories. Our findings demonstrate the potential of this approach in reducing the data demands of neural networks, thus making advanced system identification more accessible and efficient for modelling dynamic systems. This research advances our understanding of integrating reachability with active learning and contributes significant insights into the practical applications of modelling complex systems.