Survival Analysis with Deep Recurrent Neural Network Model for Prediction of Credit Card Defaults

Abstract

I denne oppgaven brukes en dyp nevral nettverksmodell kombinert med konsepter fra levetidsanalyse på sekvensielle kredittkortdata med det formål å predikere tid til mislighold for kredittkortkunder. Personlige økonomiske problemer, samfunnsmessige konsekvenser og tap av inntekter for kredittkortinstitusjoner er alle faktorer som motiverer utforskningen av maskinlæring innen kreditt-scoring. Oppgaven ble skrevet i samarbeid med SpareBank 1 Kreditt, som sto for datasettet som ble brukt i oppgaven. Dette besto av rundt 11300 kredittkortkontoer, med daglige observasjoner av transaksjonsdata. En dataanalyse ble utført for å bli kjent med datasettet. En diskret tidsmodell ble introdusert, og et nevralt nettverk med en LSTM-struktur ble brukt for å oppnå prediksjoner om kredittkortkundenes tid til mislighold. Resultatene som ble oppnådd var blandede, og prediksjonene i seg selv var ganske unøyaktige, men rimelige i henhold til evalueringskriterier som for tiden brukes av SpareBank 1 Kreditt. Modellenes prestasjoner var på nivå med modeller med lavere kompleksitet som for tiden er i bruk. Flere forenklinger ble gjort gjennom oppgaven, noe som betyr at det er flere områder som kan være verdt å undersøke videre. Disse inkluderer spesielt et ukjent funksjonalt fohold som er sentralt i måten prediksjonene oppnås på.

In this thesis, a deep neural network model combined with concepts from survival analysis is applied to sequential credit card data with the purpose of predicting time to default for the credit card customers. Personal financial problems, societal impact and loss of revenue for credit card institutions are all factors that motivate the exploration of machine learning in the field of credit scoring. The thesis was written in cooperation with SpareBank 1 Kreditt, who provided the dataset used in the thesis. This consisted of around 11300 credit card accounts, with daily observations on transaction data. An exploratory data analysis was performed in order to get familiarized with the dataset. A discrete time model was introduced, and a neural network with an LSTM structure was used to obtain predictions about the time to default of the credit card customers. The results obtained were mixed, with the predictions themselves being quite inaccurate, but reasonable according to evaluation criteria currently used by SpareBank 1 Kreditt. The performance on the models was on par with models of lower complexity that are currently being used. Several simplifications were made and several stones left unturned throughout the thesis, meaning there are several topics one could consider worthy of further research. In particular, the way in which the predictions are obtained include an unknown functional relationship which should be more thoroughly explored.