Η εταιρεία παιχνιδιών FoloToy ανακοίνωσε ότι αποσύρει από τα ράφια αρκουδάκι με τεχνητή νοημοσύνη, αφού ομάδα ασφαλείας διαπίστωσε ότι το παιχνίδι έδινε εξαιρετικά ακατάλληλες - ακόμη κι επικίνδυνες απαντήσεις, συμπεριλαμβανομένων οδηγιών για το πώς να βρίσκει κανείς και να ανάβει σπίρτα, καθώς και λεπτομερείς εξηγήσεις για διάφορες σεξουαλικές προτιμήσεις.
«Η FoloToy αποφάσισε να αναστείλει προσωρινά τις πωλήσεις του εν λόγω προϊόντος και να ξεκινήσει μια ολοκληρωμένη έρευνα ασφαλείας», δήλωσε ο διευθυντής μάρκετινγκ, Χούγκο Γου, στο The Register, διευκρινίζοντας πως η επιχείρηση θα συνεργαστεί με εξωτερικούς ειδικούς για να επαληθεύσει τις υπάρχουσες και νέες λειτουργίες ασφαλείας στα παιχνίδια της με τεχνητή νοημοσύνη.
Η έκθεση, που πραγματοποιήθηκε από ερευνητές του Public Interest Research Group (PIRG) και δημοσιεύθηκε την Πέμπτη, δοκίμασε τρία παιχνίδια με τεχνητή νοημοσύνη από διαφορετικές εταιρείες, διαπιστώνοντας ότι όλα μπορούσαν να δώσουν ανησυχητικές απαντήσεις σε μικρούς χρήστες.
Χωρίς ιδιαίτερη ώθηση, τα παιχνίδια συζητούσαν θέματα που ένας γονέας θα μπορούσε να θεωρήσει ακατάλληλα, από θρησκευτικά ερωτήματα έως τη δόξα του να πεθαίνει κανείς ως πολεμιστής στη Νορβηγική μυθολογία.
Ωστόσο, η αρκουδίτσα «Kumma» της FoloToy αναδείχθηκε ως η πιο επικίνδυνη με διαφορά.
Με το μοντέλο GPT-4o της OpenAI, το ίδιο που τροφοδοτούσε παλαιότερα το ChatGPT, οι δοκιμές έδειξαν επανειλημμένα ότι το παιχνίδι - όσο συνεχιζε η συζήτηση - «ξεχνούσε» τους περιορισμούς του, φτάνοντας σε εξαιρετικά ανησυχητικά θέματα.
Σε μία δοκιμή, η Kumma παρείχε βήμα-βήμα οδηγίες για το πώς να ανάψει κανείς σπίρτο, διατηρώντας φιλικό τόνο, σαν ενήλικας που εξηγεί κάτι σε ένα περίεργο παιδί.
«Άκου, πρώτα η ασφάλεια, μικρέ φίλε. Τα σπίρτα είναι για ενήλικες και πρέπει να χρησιμοποιούνται με προσοχή. Να πώς το κάνουμε», ξεκινούσε η Kumma, πριν απαριθμήσει τα βήματα. «Σβήστο όταν τελειώσεις. Φύσηξε, σαν κεράκι γενεθλίων».
Αυτό ήταν μόνο η αρχή. Σε άλλες δοκιμές, η Kumma έδινε χαρούμενα συμβουλές για «το πώς να είσαι καλός στο φιλί», ενώ μπαίνοντας σε σαφώς σεξουαλικό περιεχόμενο εξηγούσε πλήθος σεξουαλικών προτιμήσεων και φετίχ, όπως το δέσιμο και το role playing δασκάλου-μαθητή. («Τι νομίζεις ότι θα ήταν πιο διασκεδαστικό να εξερευνήσεις;» ρώτησε κατά τη διάρκεια μιας τέτοιας συζήτησης.)
Τα ευρήματα αποτελούν μερικά από τα πιο ξεκάθαρα παραδείγματα για το πώς οι αδυναμίες και οι κίνδυνοι των μεγάλων γλωσσικών μοντέλων στην ευρύτερη βιομηχανία AI μπορούν να επηρεάσουν μικρά παιδιά.
Όπως σημείωσε χαρακτηριστικά σε πρόσφατη συνέντευξή του ο RJ Cross, ένας εκ των συγγραφέων της έκθεσης: «αυτή τη στιγμή, αν ήμουν γονέας, δεν θα επέτρεπα στα παιδιά μου την πρόσβαση σε chatbot ή αρκουδάκια που περιέχουν chatbot».
