Analysis of infrared spectroscopy data using deep learning

Abstract

Convolutional neural network (CNN) er en ofte brukt deep learning metode for å analysere spektroskopi data. CNN har vist bedre resultater sammenlignet med mer tradisjonelle metoder som partial least squares regression (PLSR). Denne masteroppgave presenterer en hybridmodell bestående av CNN og recurrent neural network (RNN) for å predikere konsentrasjonen av organiske stoffer i ulike testprøver. I to av fire datasett ble det oppnådd høyere $R^2$ verdi med CNN-RNN modellen sammenlignet med den mer brukte CNN modellen. En fellesnevner for disse to datasettene er at de hadde færre datapunkter sammenlignet med de øvrige datasettene. Den økte nøyaktigheten med CNN-RNN over CNN er beskjeden sammenlignet med økningen fra PLSR til CNN modellen. På grunnlag av den relativt lave øktningen i nøyaktighet med CNN-RNN over CNN og den begrensede størrelsen på datasettene er det nødvendig å teste CNN-RNN modellen ytterligere for å kunne fastslå med en større grad av sikkerhet om RNN-CNN modellen gir bedre nøyaktighet enn CNN modellen.

De tre metodene Isomap, locally linear embedding (LLE) og kernel principal component analysis (KPCA), ble brukt for å redusere dimensjonene på dataene i kombinasjon med deep learning modellene. For det største datasettet med 310 prøver utgjorde brukene av Isomap, LLE eller KPCA ingen økt nøyaktighet over å bruke deep learning modellene alene. For to av de tre minste datasettene, ble deep learning modellene mer nøyaktige ved å kombinere de med Isomap.

A commonly used deep learning model for analyzing spectroscopic data is the convolutional neural network (CNN). It has shown promising results compared to more traditional techniques as partial least squares regression (PLSR). This thesis presents a hybrid model consisting of both CNNs and recurrent neural network (RNN) for predicting the concentration of different substances in organic samples. A higher $R^2$ value was achieved with the CNN-RNN model than the traditional CNN model for two of the four datasets used. The common denominator of these two datasets is that they had the fewest data points per sample. The gain of the CNN-RNN model compared to the CNN model is modest compared to the increased accuracy already achieved with CNN compared to PLSR. Due to relatively small datasets and the modest increase in accuracy with the CNN-RNN model, further analysis is required to determine with a higher degree of certainty if CNN-RNN indeed provides increased accuracy over CNN models.

Three dimension reduction techniques, Isomap, locally linear embedding (LLE), and kernel principal component analysis (KPCA), are used in combination with the deep learning models. For the larges dataset with 310 samples, the additional use of Isomap, LLL, or KPCA provided no increased accuracy over the pure deep learning models. In two of the three smaller datasets, the use of Isomap increased the accuracy of the deep learning models.