Evaluating Evolution Strategies as a Method to Combat Adversarial Attacks on Convolutional Neural Networks

Abstract

De siste årene har dype nevrale nettverk blitt brukt til bildeklassifisering, og de har oppnådd imponerende resultater. Desverre er nevrale nettverk sårbare for angrep, der små endringer legges til bildene. Denne artikkelen forsøker å løse dette problem ved å bruke evolusjonsstrategier. Evolusjonsstrategier er en gradientfri optimaliseringsteknikk som nylig har dukket opp igjen som en algoritme som kan parallelliseres veldig effektivt. Vi har trent modeller med evolusjonsstrategier, og evaluert hvordan dette påvirker en modells robusthet mot motstandsangrep. Vi finner at modeller trent med evolusjonsstrategier viser interessante egenskaper under trening, og er mer robuste mot visse angrep, men ikke mot andre.

In recent years, deep neural networks have been used for image classification, and have achieved impressive results. However, neural networks are vulnerable to adversarial attacks, where small alterations are added to the input images. This paper aims to address this vulnerability by using evolution strategies. Evolution strategies are a gradient free optimization technique which has recently resurfaced as an algorithm that can be parallelized very efficiently. We have trained models with evolution strategies, and evaluated how this affects a model's robustness against adversarial attacks. We find that models trained with evolution strategies show interesting properties during training, and are more robust against certain attacks, but not against others.