Recognizing Social Media Right-Wing Radicalization Using Text Analysis and Artificial Intelligence

Abstract

I den vestlige verden blir de fleste voldelige ekstremismerelaterte hendelsene utført av høyreekstreme. Likevel er mesteparten av forskningen på ekstremisme relatert til religiøs ekstremisme. økningen og utviklingen i bruk av sosiale medier har ført med seg mange fordeler, som at det har blitt enklere å holde kontakten med venner og familie. Dessverre har ikke sosiale medier bare ført med seg positive ting; det har også oppstått en ny arena for selv-radikalisering, rekruttering av nye medlemmer til ekstreme grupper og muligheten for å tilegne seg nye, ekstreme meninger. Denne masteroppgaven fokuserer på å gjenkjenne høyreradikal radikalisering på sosiale medier ved bruk av kunstig intelligens. Poster publisert på plattformene Gab og Twitter ble samlet og analysert. Videre ble dataen brukt til språkprosessering og for å trene kunstige nevrale nettverk slik at postene kunne bli klassifisert som nøytrale, radikale eller ekstreme. De ekstreme og radikale datasettene ble hentet fra Gab, mens det nøytrale datasettet inneholdt tweets og er offentlig tilgjengelige.

De tre datasettene ble analysert basert på postlengde, mest brukte ord, referanser til andre personer, hashtagger og linker. Resultatene viste at politisk innhold karakteriserte de radikale og ekstreme postene. TF-IDF ("Term Frequency-Inverse Document Frequency") ble brukt til å beregne hvor ekstrem en post er basert på IDF-verdier gitt ut i fra hvor mye brukt hvert ord var i det ekstreme datasettet. Den viktigste evaluering av maskinlæringsmodellene var hvor godt den klarte å minimere feilklassifisering av nøytrale poster som radikale eller ekstreme. Et fjerde datasett, som inneholder lik fordeling av nøytrale, radikale og ekstreme poster, ble laget for å evaluere de trente modellene. Det beste kunstige nevrale nettverket ga en recall score på 86.6% for den nøytrale klassen.

Det norske politiet ble kontaktet for å få innsikt i hva som gjøres for å forebygge radikalisering. Kunstig intelligens brukes ikke av det norske politiet til overvåkning av tilfeldige personer på nett eller for å oppdage personer som er sårbare for å bli påvirket av ekstremisme. Politiet driver ikke med overvåkning siden ytringsfriheten og retten til privatliv forhindrer dette.

Right-wing extremists perform and plot most acts of extremism related violence in the Western world. Nevertheless, most research is done on religious extremism. The rise of social media has given multiple benefits, like making it easy to stay in touch with friends and family. However, it has also given an extra and easily accessible arena for radicalization. This master's thesis focuses on recognizing right-wing radicalization on social media using artificial intelligence. Social media posts from Gab and Twitter were collected to be analyzed and used for natural language processing and training of artificial neural networks to classify posts as neutral, radical or extreme. The extreme and radical datasets were collected from Gab, while the neutral dataset was publicly available.

The three datasets were analyzed based on the language features: post length, frequently used words, mentions, hashtags and URLs. It was found that politically related content characterized extreme and radical posts. Term frequency-inverse document frequency (TF-IDF) was used to calculate how extreme a post is based on IDF scores valuing the 500 most frequently used words in the extreme dataset. It was considered most important to minimize the erroneous of neutral posts as either radical or extreme. A fourth dataset was created to evaluate the trained models containing equally distributed data between the neutral, radical and extreme categories. The best artificial neural network gave a recall score of 86.6% for the neutral classifications.

As a supplement to the presented tasks, the Norwegian police were contacted to explore their current work to prevent radicalization. Artificial intelligence is not used in Norway for surveillance online to recognize people vulnerable to radicalization due to such as the importance of freedom of speech and privacy rights.