Έρευνα αποκάλυψε ότι εκατοντάδες λογαριασμοί στο TikTok «κερδίζουν» δισεκατομμύρια προβολές ανεβάζοντας περιεχόμενο δημιουργημένο από τεχνητή νοημοσύνη (AI) - συχνά αντιμεταναστευτικό ή σεξουαλικοποιημένο.
Η μη κερδοσκοπική οργάνωση AI Forensics εντόπισε 354 λογαριασμούς επικεντρωμένους στην AI, οι οποίοι ανέβασαν συνολικά 43.000 αναρτήσεις μέσα σε ένα μήνα και συγκέντρωσαν 4,5 δισεκατομμύρια προβολές.
Οι ερευνητές διαπίστωσαν ότι κάποιοι λογαριασμοί προσπαθούν να χειραγωγήσουν τον αλγόριθμο του TikTok ανεβάζοντας μεγάλο όγκο περιεχομένου, ενώ αρκετοί ανέβαζαν έως και 70 αναρτήσεις την ημέρα, στοιχείο που υποδηλώνει αυτοματοποίηση. Οι περισσότεροι είχαν δημιουργηθεί στις αρχές του έτους.
Από τους λογαριασμούς που δημοσίευαν περιεχόμενο πιο συχνά, περίπου οι μισοί σχετίζονταν με το γυναικείο σώμα, με στερεοτυπικά ελκυστικές φιγούρες, σεξουαλικοποιμένα ρούχα ή ντεκολτέ. Η έρευνα διαπίστωσε ότι λιγότερες από το 2% των αναρτήσεων έφεραν σήμανση για AI περιεχόμενο, αυξάνοντας την πιθανότητα εξαπάτησης των χρηστών, ενώ ορισμένες αναρτήσεις διέφευγαν της εποπτείας για μήνες, παρά τους κανόνες της πλατφόρμας.
Μέρος του περιεχομένου αποτελούσε ψεύτικα δελτία ειδήσεων με αφηγήσεις κατά των μεταναστών και σεξουαλικοποιημένες εικόνες, ακόμα και με ανήλικα κορίτσια, ενώ ορισμένες ψεύτικες ειδησεογραφικές αναρτήσεις χρησιμοποιούσαν λογότυπα γνωστών ΜΜΕ, όπως Sky News και ABC.
Μετά από παρέμβαση του Guardian, κάποιες αναρτήσεις αφαιρέθηκαν από το TikTok, το οποίο δήλωσε ότι αφαιρεί βλαβερό περιεχόμενο AI, μπλοκάρει bot λογαριασμούς και δίνει εργαλεία στους χρήστες για να ελέγχουν το περιεχόμενο που βλέπουν.
Οι πιο δημοφιλείς λογαριασμοί που εντόπισε η AI Forensics ανέβαζαν «slop» - δηλαδή ανορθόδοξο ή παράδοξο ΑΙ περιεχόμενο, σχεδιασμένο να γεμίζει τα feeds των χρηστών, όπως ζώα σε Ολυμπιακούς αγώνες καταδύσεων ή μωρά που μιλούν.
Αν και διασκεδαστικό, το φαινόμενο υπογραμμίζει την ενσωμάτωση περιεχομένου AI στις πλατφόρμες και την αυξανόμενη δυσκολία διαχωρισμού αυθεντικού και κατασκευασμένου περιεχομένου.
Οι ερευνητές προτείνουν στο TikTok να εξετάσει τη δημιουργία ξεχωριστής ενότητας αποκλειστικά για AI αναρτήσεις, ώστε να διαχωρίζεται σαφώς από περιεχόμενο που δημιουργείται από ανθρώπους και να μειωθεί η παραπλάνηση των χρηστών.
