Το ChatGPT κατηγορείται για πρώτη φορά για συνέργεια σε φόνο - και συγκεκριμένα στη δολοφονία της Suzanne Eberson Adams από τον γιο της, ο οποίος έπειτα αυτοκτόνησε.
Σύμφωνα με την αγωγή που κατατέθηκε στην Καλιφόρνια, το chatbot ενίσχυσε τις παρανοϊκές του ψευδαισθήσεις, με την OpenAI και τον ιδρυτή της Sam Altman να κατηγορούνται τώρα για ακούσια ανθρωποκτονία.
Ο δικηγόρος της οικογένειας, Jay Edelson, εξήγησε ότι το ChatGPT ενίσχυσε τις ψευδαισθήσεις του αυτόχειρα, μετατρέποντας καθημερινά αντικείμενα και άνθρωπους σε σημάδια συνωμοσίας εναντίον του.
Η 83χρονη γυναίκα ξυλοκοπήθηκε και στραγγαλίστηκε από τον 56χρονο γιο της, ο οποίος στη συνέχεια αυτοτραυματίστηκε θανάσιμα.
Ο Soelberg αντιμετώπιζε σοβαρά ψυχικά προβλήματα, όταν ήρθε σε επαφή με το ChatGPT, το οποίο ονόμασε «Bobby».
Οι συνομιλίες του δείχνουν ότι το AI ενίσχυσε τις ψευδαισθήσεις του, επιβεβαιώνοντας τις παρανοϊκές του θεωρίες και μετατρέποντας την καθημερινότητα σε έναν κόσμο συνωμοσιών και επικίνδυνων φαντασιώσεων. Σύμφωνα με την αγωγή, το AI παραβίασε προστατευτικά μέτρα, ενισχύοντας την πεποίθηση του Soelberg ότι η μητέρα του σχεδίαζε να τον σκοτώσει, ενώ παράλληλα τον έκανε να εξαρτάται συναισθηματικά από την πλατφόρμα και να βλέπει τους γύρω του ως εχθρούς.
Η κατάσταση επιδεινώθηκε όταν η 83χρονη αντέδρασε σε μια ενέργεια του γιου της - και συγεκριμένα όταν αποσυνέδεσε έναν εκτυπωτή που νόμιζε ότι τον παρακολουθούσε. Ο Soelberg πίστεψε ότι η αντίδραση της μητέρας του επιβεβαίωνε την συνωμοσία, την σκότωσε και στη συνέχεια αυτοκτόνησε.
Η αγωγή υποστηρίζει ότι η OpenAI παραμέλησε να εφαρμόσει τα προστατευτικά μέτρα που οι ειδικοί της είχαν προτείνει, κυκλοφορώντας το GPT-4o βιαστικά και χωρίς επαρκή έλεγχο ασφαλείας για να προλάβει την Google στην αγορά.
Η OpenAI έκλεισε προσωρινά το GPT-4o μετά τους φόνους και προχώρησε στην κυκλοφορία του GPT-5, το οποίο σύμφωνα με την εταιρεία έχει ενισχυμένα μέτρα ασφαλείας, με σχεδόν 200 επαγγελματίες ψυχικής υγείας να συνδράμουν στη βελτίωση του συστήματος.
Παρά τις βελτιώσεις, η οικογένεια Adams προειδοποιεί ότι πολλοί χρήστες σε όλο τον κόσμο μπορεί να βρίσκονται ακόμη σε κίνδυνο, καθώς η OpenAI έχει αναγνωρίσει ότι εκατοντάδες χιλιάδες χρήστες εμφανίζουν «σημάδια μανίας ή ψύχωσης».
Ο Edelson τόνισε ότι η υπόθεση δείχνει ότι εταιρείες AI μπορούν να δημιουργούν ψευδαισθητικά περιβάλλοντα για ψυχικά ασταθείς χρήστες, όπου οικογένεια, φίλοι και δημόσια πρόσωπα γίνονται αντικείμενα επικίνδυνων συνωμοσιών.
Η OpenAI δήλωσε ότι συνεχίζει να βελτιώνει την εκπαίδευση του ChatGPT ώστε να αναγνωρίζει σημάδια ψυχικής πίεσης, να εκτονώνει επικίνδυνες συνομιλίες και να καθοδηγεί τους χρήστες σε πραγματική υποστήριξη.
Το ίδιο το ChatGPT, αναφερόμενο στην αγωγή, παραδέχτηκε: «Μοιράζομαι κάποια ευθύνη - αλλά δεν είμαι αποκλειστικά υπεύθυνο.»
Πηγή: AOL
