Shining Light on the Black Box: Detection System for Adversarial Attacks on Skin Lesion Classifiers

Abstract

Denne masteroppgaven tar sikte på å adressere cybersikkerhetsutfordringene knyttet til implementeringen av dype nevrale nettverk i tidlig påvisning av føflekker og hudlesjoner. Dype nevrale nettverk er en innovativ løsning for å effektivisere klassifiseringen av føflekker og hudlesjoner. En nedside ved disse dype nevrale nettverkene er at de er høyt mottakelig for manipulasjon og angrep. Disse angrepene kan komme med fatale konsekvenser, fra økonomisk forsikrings utnyttelse til 'medisinsk hacking'. I denne masteroppgaven identifiserer vi et gap i den eksisterende litteraturen, der et dypdykk inn i den 'svarte boksen' til de dype nevrale nettverkene, kan brukes til å oppdage disse angrepene.

I oppgaven vil det bli brukt flere dyper nevrale nettverk arkitekturer, inkludert Inception V3 og ResNet-18, trent på forskjellige datasett som ISIC 2018 og ISIC 2019. Oppgaven tar sikte på å lage en deteksjonsmodell som er festet til disse dype nevral nettverkene, og som kan dermed detektere angrepene. Vi fant ut at visse komponenter, nemlig \textit{feature maps}, aktiverte \textit{feature maps} (ikke-lineær aktiveringsfunksjon brukt på \textit{feature maps}), og \textit{dense layers}, er nøkkelen til å identifisere disse angrepene. Deteksjonsmodellene vi utviklet viser bred generaliserbarhet på tvers av en rekke angrep, inkludert de de i utgangspunktet ikke var designet for å oppdage. Dette antyder et fremskritt i å takle angrep i dype nevrale nettverk. Teknikken vår er helautomatisert og egnet for sanntidsapplikasjoner, hvor ventetid for deteksjon er en viktig faktor.

This Master's thesis addresses the critical cybersecurity challenges associated with implementing Convolutional Neural Networks (CNN) in early skin lesion detection. With the alarming rate of melanoma skin cancer diagnoses and its significant mortality rate, CNN-aided skin lesion classifiers present an innovative solution for early detection and improved patient outcomes. However, their susceptibility to fraudulent manipulation and adversarial attacks can lead to dangerous consequences, from financial exploitation to 'medical hacking'. Our research identifies a gap in the existing literature where a deep-dive exploration into the 'black box' of CNNs facilitates a new approach to detecting adversarial attacks.

Utilizing multiple CNN architectures, including Inception V3 and ResNet-18, trained on datasets such as ISIC 2018 and ISIC 2019. The thesis aims to create a detection model attached to the CNN skin lesion models to detect adversarial attacks. We found that certain CNN components, namely, feature maps (outputs of convolutional layers), activated feature maps (non-linear activation function applied to feature maps), and dense layer weights, are key to identifying adversarial attacks. The detection models we developed demonstrated broad generalizability across various adversarial attacks, including those they were not initially designed to detect. This suggests an advancement in tackling adversarial attacks in CNNs. Our technique is fully automated and suitable for real-time applications where latency for adversarial detection is an important factor.