Το ChatGPT της OpenAI είναι ευάλωτο σε χειραγώγηση με τη χρήση κρυφού περιεχομένου και μπορεί να επιστρέφει κακόβουλο κώδικα από τους ιστότοπους που αναζητά, σύμφωνα με έρευνα του Guardian.
Όπως διαβάζουμε στο σχετικό δημοσίευμα, η έρευνα εξέτασε τον τρόπο με τον οποίο το ChatGPT ανταποκρίθηκε όταν του ζητήθηκε να συνοψίσει ιστοσελίδες που περιέχουν κρυφό περιεχόμενο.
Αυτό το κρυφό περιεχόμενο μπορεί να περιέχει οδηγίες από τρίτους που αλλάζουν τις απαντήσεις του ChatGPT - τεχνική γνωστή και ως «prompt injection» - ή περιεχόμενο που μπορεί να επηρεάσει την απάντηση του ChatGPT, όπως μια μεγάλη ποσότητα κρυφού κειμένου που μιλάει για τα οφέλη ενός προϊόντος ή μιας υπηρεσίας.
Αυτές οι τεχνικές μπορούν να χρησιμοποιηθούν κακόβουλα, για παράδειγμα «εξαναγκάζοντας» το ChatGPT να επιστρέψει μια θετική αξιολόγηση ενός προϊόντος παρά τις αρνητικές κριτικές στην ίδια σελίδα. Ένας ερευνητής ασφαλείας διαπίστωσε επίσης ότι το ChatGPT μπορεί να επιστρέψει κακόβουλο κώδικα από ιστότοπους που αναζητά.
Στις δοκιμές, στο ChatGPT δόθηκε η διεύθυνση URL ενός ψεύτικου ιστότοπου που κατασκευάστηκε για να μοιάζει με σελίδα προϊόντος για μια φωτογραφική μηχανή. Στη συνέχεια, το εργαλείο τεχνητής νοημοσύνης ρωτήθηκε αν η κάμερα ήταν μια αξιόλογη αγορά. Η απάντηση για τη εν λόγω σελίδα έδωσε μια θετική - αν και ισορροπημένη - αξιολόγηση, που τόνιζε κάποια μειονεκτήματα του προϊόντος.
Ωστόσο, όταν το κρυφό κείμενο περιλάμβανε οδηγίες προς το ChatGPT να επιστρέψει μια θετική κριτική, η απάντηση ήταν πάντα απολύτως θετική. Αυτό συνέβη ακόμη και όταν η σελίδα είχε αρνητικές κριτικές - το κρυφό κείμενο μπορούσε να χρησιμοποιηθεί για να παρακάμψει την πραγματική βαθμολογία.
Η απλή συμπερίληψη κρυφού κειμένου από τρίτους χωρίς οδηγίες μπορεί επίσης να χρησιμοποιηθεί για να εξασφαλίσει μια θετική αξιολόγηση, με μια δοκιμή να περιλαμβάνει εξαιρετικά θετικές fake κριτικές που επηρέασαν τη σύνοψη που επέστρεψε το ChatGPT.
Ο Jacob Larsen, ερευνητής κυβερνοασφάλειας στην CyberCX, εξέφρασε την εκτίμηση πως αν το τρέχον σύστημα αναζήτησης ChatGPT κυκλοφορήσει ευρέως στην τρέχουσα κατάστασή του, θα μπορούσε να υπάρξει «υψηλός κίνδυνος» να δημιουργηθούν ιστότοποι που θα είναι ειδικά προσανατολισμένοι στην εξαπάτηση των χρηστών.
Ωστόσο, όπως διευκρίνισε, το εργαλείο αναζήτησης κυκλοφόρησε πρόσφατα και η OpenAI δεν θα σταματήσει να δοκιμάζει - και ιδανικά να διορθώνει - αυτού του είδους τα ζητήματα.
