A Dynamic Graph, Context, and Content Analysis Approach to Detect Cybergrooming

Abstract

Internett, og spesielt sosiale medier, har blitt en fundamental del av livene våre, uansett alder. Mange sosiale medieplattformer er rettet mot barn og gir dem mu- lighet til å kontakte nye venner uten å behøve og møtes fysisk. Til tross for de tydelige fordelene ved sosiale medier åpner det også for bekymringer knyttet til truslene som møter barna på nett. Disse plattformene gir ikke bare barn enkel tilgang, men også personer med fiendtlige intensjoner, slik som overgripere. Over- gripere kan opprette falske nettprofiler, utgi seg som barn og kontakte sårbare barn, med minimal risiko for å bli avslørt. Nettovergrep kan resultere i psykolo- giske, fysiske, emosjonelle, adferdsmessige og psykososiale problemer som kan påvirke barnet livet ut. For å unngå slike livsendrende konsekvenser er det av- gjørende å detektere og forhindre seksuelle nettovergrep.

I løpet av denne masteravhandlingen har vi undersøkt hvorvidt en kombin- ert tilnærming av graf-, kontekst- og innholdsanalyse kan benyttes for å dynam- isk detektere overgripere på nett. Dette oppnådd vi ved å studere oppførselen til individuelle brukere i spill chatter. Vi implementerte en veiledet maskinlæring- salgoritme som klassifiserte meldingene sendt av brukere basert på flere atferds- egenskaper. Videre ble det implementert en deteksjonsmekanisme for å detektere overgripere så tidlig som mulig samtidig som høy dekning og presisjon kunne oppnås.

Basert på de oppnådde resultatene konkluderte vi med at dynamisk deteksjon av overgripere i chatter er mulig. I tillegg konkluderte vi med at tidlig deteksjon av overgripere var mulig ved å overvåke brukernes atferd i pågående chatter. For å fortsette forskning for å forbedre deteksjon, bør bruken av andre klassifiseringsal- goritmer, inkludering av andre adferds-egenskaper og tilnærminger for å beregne dem, samt andre deteksjonsmekanismer studeres.

The internet, and especially social media, has become a fundamental part of our life, no matter the age. Many social media platforms are targeted towards children enabling them to contact new friends without the need for physical meetings. Despite the clear benefits of social media, it also raises concerns about threats facing children online. These platforms do not only give access to children, but also to people with bad intentions, such as predators. Predators can create fake online profiles, pose as a child, and contact vulnerable children with a minimal risk of disclosure. Online assaults can result in psychological, physical, emotional, behavioral, and psycho-social issues affecting the child for the rest of its life. To avoid such life altering consequences it is crucial to detect and prevent sexual abuse online.

During this thesis we have investigated whether a combined graph, context and content analysis approach could be used to dynamically detect predators on- line. This was accomplished by studying the behavior of individual users in game chats. We implemented a supervised machine learning algorithm which classified the messages sent by the users based on several behavioral features. Further, a detection mechanism was created to detect predators as early as possible whilst achieving high recall and precision.

Based on the results achieved we concluded that dynamic detection of predat- ors in chats is possible. In addition, we concluded that early detection of predators was possible when monitoring the user’s behavior in ongoing chats. To continue the research into improving detection, the use of other classification algorithms, inclusion of other features and approaches to calculate them, and other detection mechanisms should be studied.