Cyber Grooming Detection: Human or Machine? Or Hybrid?

Abstract

Den teknologiske utviklingen byr på mange nye muligheter. Med slike muligheter kommer også nye utfordringer. En av disse er cybergrooming. Predatorer utnytter disse nye mulighetene som lar dem være til stede over alt i det digitale rom, for å etablere relasjoner til barn. Disse relasjonene blir videre misbrukt av predatorene for å utføre seksuelle overgrep eller andre straffbare handlinger. Denne oppgaven tar sikt på å oppdage utvidet kunnskap om egenskaper fra menneskelig analyse, som mennesker finner definerende ved predator-samtaler og ikke-predatorsamtaler. Egenskaper som potensielt kan benyttes til å forbedre cybergroomingdeteksjonssystemer. Det eksisterer cybergrooming-deteksjonssystemer som benytter seg av maskinlæringsalgoritmer, men det er begrenset hvor mye maskinlæringsalgoritmer klarer å lære seg på egen hånd. Det ble samlet inn menneskelige evalueringer av samtaler. Disse evalueringene ble sammen med de korresponderende samtalene videre analysert for å oppdage trender, mønstre og egenskaper av definerende art. Ingen egenskaper sto seg frem som absolutte i alle predator-samtaler, noe som betyr at en egenskap alene ikke med absolutt sikkerhet kan si om en samtale potensielt er en predator-samtale eller ikke. Kombinasjoner av to eller flere egenskaper ble funnet til å stort sett alltid være til stede i predator-samtaler. Flere egenskaper viste seg å være av definerende art. Noen egenskaper er aldersdefinerende, og andre definerer potensielt tiltenkte handlinger. Ikke-predatorsamtaler utgjorde mesteparten av evalueringene, og de fleste av disse var definert som normale samtaler. Noen samtaler var også definert som seksuelle. For å potensielt kunne benytte disse egenskapene kan implementasjoner av ulike maskinlæringsmetoder inkluderes i eksisterende cybergrooming-deteksjonssystemer, som for eksempel AiBA (Author input Behavioral Analysis). Egenskaper kan legges til i systemer på ulike måter for å forbedre deteksjon og hjelpe med deteksjon av pågående cybergrooming på et så tidlig tidspunkt som mulig.

The technological evolution is providing new opportunities at fast pace. Such opportunities also come with new challenges, one of which is cyber grooming. Predators are taking advantage of the new opportunities being present everywhere, establishing relations to children. The relations are further misused by the predators to perform sexual abuse or other malicious actions. This thesis aims to discover extended knowledge of features found from human analysis of predatory and non-predatory chat conversations. Features of which potentially can be used to improve cyber grooming detection systems. There exist cyber grooming detection systems utilizing machine learning algorithms, but machine learning algorithms can only discover so much on their own. Human evaluations of conversations were collected. The collected evaluations and corresponding conversations were further analyzed to discover trends, patterns and features of defining nature. No feature stood out as absolute in every predatory conversation, meaning one feature alone cannot with absolute certainty tell if a conversation is predatory or non-predatory. Combinations of two or more features were, however, found to almost always be present in predatory conversations. Several features showed to be of a defining nature. Some features are age defining and others are defining potentially intended actions. Non-predatory conversations constituted most of the evaluations, mostly being defined as normal conversations and some being sexual conversations. In order to potentially make use of the features, implementations of various machine learning methods can be included in existing cyber grooming detection systems, as for example AiBA (Author input Behavioral Analysis). Features can add to systems in different ways in order to improve detection and help detect ongoing cyber grooming at an earlier point of time.