How safe are children on online social platforms
Description
Full text not available
Abstract
Denne rapporten er en vurdering og evaluering av tryggheten til barn som er på sosiale plattformer, for denne oppgaven inkluderer det Moviestarplanet, Roblox, Snapchat og TikTok. Metoden for å gjennomføre analysen er basert på rammeverk som ISO-standarder og <<NTNU veiledning i Risikovurdering for informasjonsikkerhet ved NTNU versjon 0.8>> (NTNU-retningslinje) for å lage nøyaktig estimater og antagelser, basert på beste praksis for risikostyring. % metode sjekk om de blir nevnt her
Resultatene fra analysen viser at selv om sikkerhetsmekanismer er implementert, er det fremdeles rapportert flere hendelser relatert til seksuell mishandling av barn, og slike angrep kan fortsatt skje selv med mekanismer på plass.
Undersøkelser i spillene Moviestarplanet og Roblox, avslører problematiske omgivelser som er i strid med deres rettningslinjer. Roblox støter på problemer med sine beryktede <<condo spill>> som er kraftig preget av seksuelt innhold, men kan trygges med at det er svært få av den typen spill i forhold til de normale in-game verdene som Roblox tilbyr. Basert på våre funn kan man også se at Moviestarplanet ved fleste anledninger har svak moderering. I tillegg er det ofte tegn på innhold som er seksuelt preget, som kan være alt fra samtaler til brukernavn og selve spill figurenes utseende.
Gjennom analysen viser ulike tester at sikkerhetsmekanismer kan unngås. Seksuelle overgripere kan lokke barn ut av spillene som Roblox og Moviestarplanet, og inn til Snapchat eller andre tredjeparts applikasjoner, der de kan dele seksuell materiale. I tillegg ser man innhold i plattformer som TikTok der seksuell eller voksent innhold er ofte vist, noe som eksponerer barn for innhold som ikke er ment å se i ung alder.
Resultatet av analysen viser at de fleste sårbarhetene består av lav tekniske funksjoner, sosiale og psykologiske aspekter. Videre trenger ikke trusselaktørene å være teknisk kompetente. Har de god nok innsikt i sosiale plattformer er de mer sannsynlige for å lykkes med sine angrep. Analysen antyder at funksjonaliteter som kanskje ikke blir sett på som sårbarheter, kan betraktes som slik. Manipulering av barn er den vanligste teknikken som brukes av relevante trusselaktører, og krever ikke omfattende kunnskap. Eksempler på manipulasjon kan sees på Roblox hvor en seksuell overgriper bytter spill valuta i spillet for seksuelt innhold delt av barn.
Rapporten konkluderer med at barn er det svakeste leddet i de online sosiale plattformene (OSP) som er inkludert i oppgaven, hovedsakelig på grunn av deres naivitet som kan sette dem i potensiell fare. De anbefales å ikke være på plattformer rettet mot eldre brukere som Snapchat. Moviestarplanet er heller ikke en plattform å anbefale, ser man bort i fra potensielle overgripere i plattformen, er det likevel et miljø som er svært upassende for den spesifikke målgruppen som Moviestarplanet retter seg mot. I motsetning til Moviestarplanet og Snapchat, kan både Roblox og TikTok bli ansett som tryggere for tenåringer og barn å bruke, gitt at riktige sikkerhetsmekanismer og de foreslåtte retningslinjene blir implementert.
Analysen viser at de respektive plattformers regler og sikkerhetsretningslinjer ikke vises tilstrekkelig for brukerne, selv om informasjonen er relevant. Det anbefales å ha effektive retningslinjer som lett kommuniseres til brukerne. I tillegg er behovet for å kommunisere de omkringliggende risikoene en nøkkelfaktor for god bevissthet. Foreldre og skolelærere bør være oppmerksomme på risikoene rundt OSPer generelt, slik at de kan hjelpe barn med å ha en god vane når de er aktive på sosiale plattformer.
Risikovurderingen er begrenset til å finne risiko som plattformene står ovenfor. Derimot er det mulighet for videre arbeid, som å studere om OSPene har en etisk tilnærming til utvikling av sine tjenester. Testing av de foreslåtte retningslinjene og tiltak for sikker bruk bør også være med som studie for videre arbeid. På grunn av tidsbegrensninger var det ikke mulig å gjøre testingen. Tanken var å ha to kontoer der den ene har sikkerhetsmekanismer og retningslinjer implementert, mens den andre ikke har noen, for deretter å se om kontoene er sikre med de foreslåtte retningslinjene til stede eller ikke. This report is an assessment and evaluation of the safety of children on online social platforms including Moviestarplanet, Roblox, Snapchat and TikTok. The method of conducting the analysis are based on such frameworks, as ISO standards and <<NTNU veiledning i Risikovurdering for informasjonsikkerhet ved NTNU versjon 0.8>> (NTNU guideline) for creating accurate estimations and assumptions, based on best practises for risk management.
The results of the analysis show that even though security mechanisms have been implemented, several incidents related to sexual abuse of children have still been reported, and such attacks can still occur even with mechanisms in place.
Investigations in the games Moviestarplanet and Roblox, reveal problematic environments that are contrary to their community rules. Roblox encounters problems with its infamous condo games that are strongly influenced by sexual content, but can be assured that there are very few of these games in comparison to the normal in-game worlds otherwise offered. Based on our findings, one can also see that Moviestarplanet on most occasions has weak moderation. In addition there are often signs of content that is sexually influenced, which can be anything from conversations to usernames and the actual game characters appearance.
Through the analysis, various tests show that security mechanisms can be avoided. Sexual abusers can lure children out of games like Roblox and Moviestarplanet, and into Snapchat or other third-party applications, where they can share sexual material. In addition, it can be seen content in platforms such as TikTok where sexual or mature content is often shown, which exposes children to content that is not meant to be seen at a young age.
The results of the analysis show that most vulnerabilities consist of low-techical functions, social and psychological aspects. Furthermore, the threat agents do not have to be technically competent. If they have good enough insight into social platforms, they are more likely to succeed with their attacks. The analysis suggests that functionalities that may not be seen as vulnerabilities can be considered as such. Manipulation of children is the most common technique used by relevant threat actors, and does not require extensive knowledge. Examples of manipulation can be seen on Roblox where a sexual predator exchanges in-game currency for sexual content shared by children.
The report concludes that children are the weakest link in the online social platforms (OSP) included in the thesis, mainly due to their naivety that can put them at potential risk. They are advised not to be on platforms aimed for older audiences such as Snapchat. Moviestarplanet is also not a platform to recommend, disregarding potential abusers in the platform, it is nevertheless an environment that is very inappropriate for the specific target group that Moviestarplanet is aimed towards. Unlike Moviestarplanet and Snapchat, both Roblox and TikTok can be considered safe for teens and children to use, given that proper security mechanisms and proposed guidelines are implemented.
The analysis shows that the rules and security guidelines of the respective platforms are not adequately displayed to users, even if the information is relevant. It is recommended to have effective guidelines that are easily communicated to users. In addition, the need to communicate the surrounding risks is a key factor for good awareness. Parents and schoolteachers should be aware of the risks surrounding OSPs in general, so that they can help children to adopt healthy habits when active on social platforms.
The risk assessment is limited to finding the risk that the platforms face. However, there is an opportunity for further work, such as studying whether the OSPs have an ethical approach to the development of their services. Testing of the proposed guidelines and measures for safe use should also be included as a study for further work. Due to time constraints, it was not possible to do the testing. The idea was to have two accounts where one has security mechanisms and guidelines implemented, while the other does not, and then to see if the accounts are secure with the proposed guidelines present or not.