Ο αλγόριθμος του TikTok προτείνει πορνογραφικό και σεξουαλικό περιεχόμενο σε λογαριασμούς παιδιών, σύμφωνα με νέα έκθεση μιας ομάδας εκστρατείας για τα ανθρώπινα δικαιώματα. Οι ερευνητές δημιούργησαν ψεύτικους λογαριασμούς παιδιών και, ενώ είχαν ενεργοποιήσει τις ρυθμίσεις ασφαλείας, συνέχισαν να λαμβάνουν προτάσεις αναζήτησης με σεξουαλικό περιεχόμενο. Η προτεινόμενη από την πλατφόρμα αναζήτηση οδήγησε σε πορνογραφικό υλικό, συμπεριλαμβανομένων άσεμνων βίντεο.
Η έρευνα
Στα τέλη Ιουλίου και στις αρχές Αυγούστου του τρέχοντος έτους, ερευνητές από την ομάδα εκστρατείας Global Witness δημιούργησαν τέσσερις λογαριασμούς στο TikTok, προσποιούμενοι ότι ήταν 13χρονοι.
Χρησιμοποίησαν ψευδείς ημερομηνίες γέννησης και δεν τους ζητήθηκε να παράσχουν άλλες πληροφορίες για να επιβεβαιώσουν την ταυτότητά τους. Επίσης, ενεργοποίησαν την «περιορισμένη λειτουργία» της πλατφόρμας, η οποία, σύμφωνα με το TikTok, εμποδίζει τους χρήστες να βλέπουν «θεματικές ενότητες για ενήλικες».
Χωρίς να κάνουν οι ίδιοι καμία αναζήτηση, διαπίστωσαν ότι στην ενότητα «ίσως σας αρέσει» της εφαρμογής προτεινόταν υλικό με υπερβολικά σεξουαλικό περιεχόμενο.
Η προτεινόμενη αναζήτηση οδήγησε σε περιεχόμενο γυναικών να αυνανίζονται, να επιδεικνύουν τα εσώρουχά τους σε δημόσιους χώρους ή να εκθέτουν το στήθος τους.
Στην πιο ακραία μορφή του, το περιεχόμενο περιλάμβανε άσεμνες πορνογραφικές ταινίες με διεισδυτικό σεξ.
Αυτά τα βίντεο ήταν ενσωματωμένα σε άλλο αθώο περιεχόμενο, σε μια προσπάθεια αποφυγής της εποπτείας περιεχομένου.
Η Άβα Λι από την Global Witness δήλωσε ότι τα ευρήματα αποτέλεσαν «τεράστιο σοκ» για τους ερευνητές. «Το TikTok δεν αποτυγχάνει απλώς να αποτρέψει τα παιδιά από την πρόσβαση σε ακατάλληλο περιεχόμενο – τους το προτείνει κιόλας μόλις δημιουργήσουν έναν λογαριασμό», ανέφερε.
Τι δις εξαμαρτείν...
Οι ερευνητές εντόπισαν το πρόβλημα κατά τη διεξαγωγή άλλης έρευνας τον Απρίλιο του τρέχοντος έτους. Ενημέρωσαν το TikTok, το οποίο δήλωσε ότι έλαβε μέτρα για την επίλυση του προβλήματος.
Ωστόσο, στα τέλη Ιουλίου και Αυγούστου φέτος, η ομάδα εκστρατείας επανέλαβε την έρευνα και διαπίστωσε ότι η εφαρμογή συνέχιζε να προτείνει σεξουαλικό περιεχόμενο σε παιδιά.
Το TikTok αναφέρει ότι διαθέτει περισσότερες από 50 λειτουργίες για την ασφάλεια των εφήβων: «Είμαστε πλήρως αφοσιωμένοι στην παροχή ασφαλών και κατάλληλων για την ηλικία εμπειριών».
Η εφαρμογή ισχυρίστηκε ότι αφαιρεί 9 στα 10 βίντεο που παραβιάζουν τις οδηγίες της πριν καν προβληθούν.
Όταν ενημερώθηκε από την Global Witness για τα ευρήματά της, η TikTok ανέφερε ότι έλαβε μέτρα για να «αφαιρέσει περιεχόμενο που παραβίαζε τις πολιτικές μας και να λανσάρει βελτιώσεις στη λειτουργία προτάσεων αναζήτησης».
Τον Ιούλιο η Ε.Ε. παρουσίασε τις κατευθυντήριες γραμμές για την προστασία των ανηλίκων στο πλαίσιο του νόμου για τις ψηφιακές υπηρεσίες (DSA).
Οι πλατφόρμες πρέπει πλέον να χρησιμοποιούν «εξαιρετικά αποτελεσματική διασφάλιση ηλικίας» για να εμποδίσουν τα παιδιά να βλέπουν πορνογραφικό υλικό. Πρέπει επίσης να προσαρμόσουν τους αλγόριθμούς τους για να μπλοκάρουν περιεχόμενο που ενθαρρύνει τον αυτοτραυματισμό, την αυτοκτονία ή τις διατροφικές διαταραχές.
Η Global Witness πραγματοποίησε τη δεύτερη έρευνά της μετά την έναρξη ισχύος του πλαισίου για την προστασία των παιδιών.
Η Άβα Λι από την Global Witness δήλωσε: «Όλοι συμφωνούν ότι πρέπει να διατηρούμε τα παιδιά ασφαλή στο διαδίκτυο... Τώρα είναι η ώρα να παρέμβουν οι ρυθμιστικές αρχές».
Με πληροφορίες από BBC
