Early Detection of Cybergrooming Conversations

Abstract

Problemet omkring cybergrooming has fått mer oppmerksomhet etter hvert som flere personer knytter seg sammen digitalt. For å løse dette problemet kan forebyggende mekanismer som oppdager cybergrooming- forsøk i nettsamtaler innføres. I denne masteroppgaven har en metode for å oppdage cybergroomingsamtaler så tidlig som mulig blitt utforsket. Et nytt datasett bestående av samtaler fra ulike dataspill rettet mot barn ble analysert og kategorisert. Ved bruk av denne dataen ble en helt ny risiko- oppdateringsmekanisme som kontinuerlig evaluerer risikoen i pågående samtaler ved å se på individuelle meldinger utviklet. Denne mekanismen hadde flere justerbare parametre, som sammen med en risikogrense, ble finjustert for klassifiseringsytelse og tidlig oppdagelse. Valideringsmetoder ble så brukt for å evaluere ytelsen av systemet. Resultatene var lovende, både med tanke på korrekt klassifisering og oppdagelse av cybergroom- ingforsøk tidlig i pågående samtaler. Denne masteroppgaven har gjennom de oppnådde resultatene demonstrert at et risikobasert system kan bli brukt for å oppdage cybergroomingsamtaler på et tidlig stadium.

The issue of cybergrooming has gained more attention as more people engage with one another online. To address this issue, preventative mechanisms that detect cybergrooming attempts in online conversations could be implemented. In this thesis, a method for early detection of cybergrooming conversations was explored. A new data set containing conversations from different online games aimed at children was analyzed and labeled. Using this data, a novel risk update mechanism was devel- oped that continuously evaluates the risk of ongoing conversations by looking at individual messages. This mechanism had several adjustable parameters, which, together with a risk threshold, were finetuned for clas- sification performance and earliness. Validation methods were then used to evaluate the performance of the system. The results were promising, both with regard to correct classification and detecting cybergrooming attempts early in ongoing conversations. This thesis has, through the obtained results, demonstrated that a risk-based system could be used for the early detection of cybergrooming conversations.