A Dynamic Graph, Context, and Content Analysis Approach to Detect Cybergrooming
Abstract
Internett, og spesielt sosiale medier, har blitt en fundamental del av livene våre,uansett alder. Mange sosiale medieplattformer er rettet mot barn og gir dem mu-lighet til å kontakte nye venner uten å behøve og møtes fysisk. Til tross for detydelige fordelene ved sosiale medier åpner det også for bekymringer knyttet tiltruslene som møter barna på nett. Disse plattformene gir ikke bare barn enkeltilgang, men også personer med fiendtlige intensjoner, slik som overgripere. Over-gripere kan opprette falske nettprofiler, utgi seg som barn og kontakte sårbarebarn, med minimal risiko for å bli avslørt. Nettovergrep kan resultere i psykolo-giske, fysiske, emosjonelle, adferdsmessige og psykososiale problemer som kanpåvirke barnet livet ut. For å unngå slike livsendrende konsekvenser er det av-gjørende å detektere og forhindre seksuelle nettovergrep.
I løpet av denne masteravhandlingen har vi undersøkt hvorvidt en kombin-ert tilnærming av graf-, kontekst- og innholdsanalyse kan benyttes for å dynam-isk detektere overgripere på nett. Dette oppnådd vi ved å studere oppførselen tilindividuelle brukere i spill chatter. Vi implementerte en veiledet maskinlæring-salgoritme som klassifiserte meldingene sendt av brukere basert på flere atferds-egenskaper. Videre ble det implementert en deteksjonsmekanisme for å detektereovergripere så tidlig som mulig samtidig som høy dekning og presisjon kunneoppnås.
Basert på de oppnådde resultatene konkluderte vi med at dynamisk deteksjonav overgripere i chatter er mulig. I tillegg konkluderte vi med at tidlig deteksjonav overgripere var mulig ved å overvåke brukernes atferd i pågående chatter. For åfortsette forskning for å forbedre deteksjon, bør bruken av andre klassifiseringsal-goritmer, inkludering av andre adferds-egenskaper og tilnærminger for å beregnedem, samt andre deteksjonsmekanismer studeres. The internet, and especially social media, has become a fundamental part of ourlife, no matter the age. Many social media platforms are targeted towards childrenenabling them to contact new friends without the need for physical meetings.Despite the clear benefits of social media, it also raises concerns about threatsfacing children online. These platforms do not only give access to children, butalso to people with bad intentions, such as predators. Predators can create fakeonline profiles, pose as a child, and contact vulnerable children with a minimalrisk of disclosure. Online assaults can result in psychological, physical, emotional,behavioral, and psycho-social issues affecting the child for the rest of its life. Toavoid such life altering consequences it is crucial to detect and prevent sexualabuse online.
During this thesis we have investigated whether a combined graph, contextand content analysis approach could be used to dynamically detect predators on-line. This was accomplished by studying the behavior of individual users in gamechats. We implemented a supervised machine learning algorithm which classifiedthe messages sent by the users based on several behavioral features. Further, adetection mechanism was created to detect predators as early as possible whilstachieving high recall and precision.
Based on the results achieved we concluded that dynamic detection of predat-ors in chats is possible. In addition, we concluded that early detection of predatorswas possible when monitoring the user’s behavior in ongoing chats. To continuethe research into improving detection, the use of other classification algorithms,inclusion of other features and approaches to calculate them, and other detectionmechanisms should be studied.