Ερευνητές που εξέτασαν αναρτήσεις στο TikTok και το Instagram κατέληξαν σε ιδιαίτερα ανησυχητικά συμπεράσματα, καθώς σύμφωνα με αυτά οι πλατφόρμες στοχοποιούν με επιβλαβές περιεχόμενο εφήβους που έχουν δει στο παρελθόν κάτι τέτοιο.
Η έρευνα έγινε για λογαριασμό του Molly Rose Foundation, το οποίο ίδρυσε ο Ίαν Ράσελ όταν αυτοκτόνησε η 14χρονη κόρη του αφού είδε επιβλαβές περιεχόμενο στα social media. Το ίδρυμα ζήτησε από ειδικούς να αναλύσουν εκατοντάδες αναρτήσεις στις πλατφόρμες, χρησιμοποιώντας τους λογαριασμούς ενός 15χρονου κοριτσιού στη Βρετανία.
Ερευνητές της Bright Data εξέτασαν 300 reels στο Instagram και 242 αναρτήσεις στο TikTok για να διαπιστώσουν αν «προωθούν και εξυμνούν την αυτοκτονία και τον αυτοτραυματισμό». Οι αναρτήσεις συγκεντρώθηκαν από τον Νοέμβριο του 2024 έως τον Μάρτιο του 2025, προτού τεθούν σε ισχύ οι νέοι κανονισμοί στη Βρετανία, που αφορούν τη χρήση των social media από ανήλικους.
Σύμφωνα με την οργάνωση, τα βίντεο που προτείνουν οι αλγόριθμοι συνεχίζουν να παρουσιάζουν ένα «τσουνάμι» περιεχομένου για «αυτοκτονία, αυτοτραυματισμό και κατάθλιψη» σε παιδιά κάτω των 16 ετών που στο παρελθόν είχαν δει παρόμοιο υλικό.
Μία στις 10 επιβλαβείς αναρτήσεις είχαν τουλάχιστον ένα εκατομμύριο likes. Ο μέσος αριθμός likes ήταν 226.000, σύμφωνα με τους ερευνητές.
Τα ευρήματα για το Instagram
Σύμφωνα με το Molly Rose Foundation το Instagram «συνεχίζει να προτείνει αλγοριθμικά τρομακτικά μεγάλο όγκο επιβλαβούς υλικού».
Οι ερευνητές ανέφεραν ότι κρίθηκε επιβλαβές το 97% των βίντεο που προτείνονται στο Instagram Reels σε λογαριασμό έφηβης που είχε δει προηγουμένως τέτοιο περιεχόμενο. Περίπου το 44% αναφέρονταν στην αυτοκτονία και τον αυτοτραυματισμό. Επίσης, επιβλαβές περιεχόμενο εστάλη σε emails με προτεινόμενο περιεχόμενο για τους χρήστες.
«Διαφωνούμε με τους ισχυρισμούς αυτής της έκθεσης και την περιορισμένη μεθοδολογία στην οποία βασίζονται», σχολίασε εκπρόσωπος της Meta, στην οποία ανήκει το Instagram.
«Δεκάδες χιλιάδες έφηβοι έχουν πλέον Teen Accounts στο Instagram, που προσφέρουν ενσωματωμένη προστασία, η οποία περιορίζει ποιος μπορεί να επικοινωνήσει μαζί τους, το περιεχόμενο που βλέπουν και τον χρόνο που περνούν στο Instagram», συμπλήρωσε.
«Συνεχίζουμε να χρησιμοποιούμε αυτοματοποιημένη τεχνολογία για την αφαίρεση περιεχομένου που ενθαρρύνει την αυτοκτονία και τον αυτοτραυματισμό και στο 99% λαμβάνονται προληπτικά μέτρα προτού γίνει αναφορά. Δημιουργήσαμε τους Teen Accounts για να βοηθήσουμε στην προστασία των εφήβων στο διαδίκτυο και συνεχίζουμε να εργαζόμαστε ακούραστα για να το κάνουμε αυτό», κατέληξε ο εκπρόσωπος της Meta.
Τα συμπεράσματα για το TikTok
Σε ό,τι αφορά στο TikTok, η έκθεση αναφέρει ότι η πλατφόρμα προτείνει «σχεδόν αδιάλειπτα» επιβλαβές περιεχόμενο. Το 96% των βίντεο κρίθηκαν επιβλαβή.
Πάνω από τις μισές (55%) αναρτήσεις που προτείνονταν διαπιστώθηκε ότι σχετίζονταν με την αυτοκτονία και τον αυτοτραυματισμό. Μία μόνο αναζήτηση απέδωσε αναρτήσεις που προωθούν αυτοκτονικές συμπεριφορές και επικίνδυνες προκλήσεις.
Ο αριθμός των προβληματικών hashtag αυξήθηκε από το 2023. Πολλά από αυτά κοινοποιούνται από λογαριασμούς με πολλούς ακολούθους, που φτιάχνουν «playlist» με επιβλαβές περιεχόμενο, σύμφωνα με την έκθεση.
«Οι εφηβικοί λογαριασμοί στο TikTok έχουν πάνω από 50 λειτουργίες και ρυθμίσεις σχεδιασμένες για να τους βοηθούν να εκφράζονται με ασφάλεια, να ανακαλύπτουν και να μαθαίνουν. Οι γονείς μπορούν να προσαρμόσουν περαιτέρω πάνω από 20 ρυθμίσεις περιεχομένου και απορρήτου, μέσω του Family Pairing», δήλωσε εκπρόσωπος της πλατφόρμας.
«Πάνω από το 99% του παραβατικού περιεχομένου αφαιρείται προληπτικά από το TikTok. Τα ευρήματα δεν αντικατοπτρίζουν την πραγματική εμπειρία των ανθρώπων στην πλατφόρμα μας, κάτι που παραδέχεται η έκθεση», πρόσθεσε.
Σύμφωνα με το TikTok, η πλατφόρμα δεν επιτρέπει περιεχόμενο που προβάλλει ή προωθεί την αυτοκτονία και τον αυτοτραυματισμό, ενώ η εταιρεία αναφέρει ακόμα πως τα απαγορευμένα hashtag οδηγούν τους χρήστες σε γραμμές βοήθειας.
«Τρομακτικά αποτελέσματα»
Τα αποτελέσματα είναι «τρομακτικά» και δείχνουν πως οι νόμοι για την ασφάλεια στο διαδίκτυο δεν είναι επαρκείς, δήλωσε στο Sky News ο Ίαν Ράσελ, ιδρυτής του Molly Rose Foundation.
Μετά την αυτοκτονία της Μόλι το 2017, ιατροδικαστής έκρινε ότι η 14χρονη έπασχε από κατάθλιψη και πως το υλικό που είχε δει στο διαδίκτυο συνέβαλε στον θάνατό της.
«Είναι συγκλονιστικό το γεγονός ότι οχτώ χρόνια μετά τον θάνατο της Μόλι, απίστευτα επιβλαβές περιεχόμενο για την αυτοκτονία, τον αυτοτραυματισμό και την κατάθλιψη, όπως αυτό που είδε, εξακολουθεί να είναι παντού στα social media», τόνισε ο πατέρας της.
«Η κατάσταση έχει επιδεινωθεί αντί να βελτιωθεί, παρά τις ενέργειες κυβερνήσεων, ρυθμιστικών αρχών και ανθρώπων όπως εγώ», υπογράμμισε και επεσήμανε πως η έκθεση δείχνει ότι είναι σχεδόν αδύνατο να αποφύγει κανείς το επιβλαβές περιεχόμενο για την αυτοκτονία και τον αυτοτραυματισμό, αν στο παρελθόν έχει δει κάτι ανάλογο.
