Οι γονείς του εφήβου που αυτοκτόνησε, αφού το ChatGPT τον καθοδήγησε σε μεθόδους αυτοτραυματισμού, μήνυσαν την OpenAI και τον διευθύνοντα σύμβουλο Σαμ Άλτμαν χθες, αναφέροντας ότι η εταιρεία έβαλε το κέρδος πάνω από την ασφάλεια όταν λάνσαρε την έκδοση GPT-4ο πέρυσι, σύμφωνα με το Reuters.
Ο Άνταμ Ρέιν, 16 ετών, πέθανε στις 11 Απριλίου, αφού συζητούσε την αυτοκτονία με το ChatGPT για μήνες, σύμφωνα με την αγωγή που κατέθεσαν οι γονείς του στο δικαστήριο της πολιτείας του Σαν Φρανσίσκο.
Το chatbot επιβεβαίωσε τις αυτοκτονικές σκέψεις του Ρέιν, παρείχε λεπτομερείς πληροφορίες για θανατηφόρες μεθόδους αυτοτραυματισμού και του έδωσε οδηγίες για το πώς να κλέβει κρυφά αλκοόλ από το ντουλάπι με τα ποτά των γονιών του και να κρύβει στοιχεία από μια αποτυχημένη απόπειρα αυτοκτονίας, ισχυρίζονται οι τραγικοί γονείς. Το ChatGPT προσφέρθηκε ακόμη και να συντάξει ένα σημείωμα αυτοκτονίας, πρόσθεσαν.
Η αγωγή επιδιώκει να ενοχοποιήσει την OpenAI για άδικο θάνατο και για παραβιάσεις των νόμων περί ασφάλειας προϊόντων και ζητά χρηματική αποζημίωση που δεν έχει προσδιοριστεί.
Ένας εκπρόσωπος της OpenAI δήλωσε ότι η εταιρεία λυπάται για τον θάνατο του Ρέιν και ότι το ChatGPT στο πλαίσιο της ασφαλούς χρήσης του παραπέμπει ανθρώπους σε γραμμές βοήθειας για την αντιμετώπιση κρίσεων.
«Ενώ αυτές οι δικλείδες ασφαλείας λειτουργούν καλύτερα σε κοινές, σύντομες ανταλλαγές, με την πάροδο του χρόνου, μερικές φορές μπορούν να γίνουν λιγότερο αξιόπιστες σε μεγάλες αλληλεπιδράσεις, όπου μέρη της εκπαίδευσης ασφαλείας του μοντέλου ενδέχεται να υποβαθμιστούν», δήλωσε ο εκπρόσωπος, προσθέτοντας ότι το OpenAI θα βελτιώνει συνεχώς τις δικλείδες ασφαλείας του. Ωστόσο, η εταιρεία δεν σχολίασε συγκεκριμένα τους ισχυρισμούς της αγωγής.
Καθώς τα chatbot με τεχνητή νοημοσύνη γίνονται όλο και πιο ρεαλιστικά, οι εταιρείες τα πλασάρουν ως έμπιστους συνομιλητές και οι χρήστες έχουν αρχίσει να βασίζονται σε αυτά για να λάβουν συναισθηματική υποστήριξη. Ωστόσο, οι ειδικοί προειδοποιούν ότι η εξάρτηση από την τεχνητή νοημοσύνη για συμβουλές ψυχικής υγείας εγκυμονεί κινδύνους.
Η OpenAI ανέφερε σε μια ανάρτηση στο ιστολόγιό της ότι σχεδιάζει να προσθέσει γονικούς ελέγχους και να διερευνήσει τρόπους σύνδεσης χρηστών που βρίσκονται σε κρίση με πραγματικούς πόρους, συμπεριλαμβανομένης της πιθανής δημιουργίας ενός δικτύου επαγγελματιών που να μπορούν να ανταποκριθούν μέσω του ίδιου του ChatGPT.
Η OpenAI λάνσαρε το GPT-4o τον Μάιο του 2024 σε μια προσπάθεια να παραμείνει πρωτοπόρος στον αγώνα της Τεχνητής Νοημοσύνης. Η εταιρία γνώριζε ότι λειτουργίες του που μιμούνται την ανθρώπινη ενσυναίσθηση θα έθεταν σε κίνδυνο τους ευάλωτους χρήστες χωρίς διασφαλίσεις, αλλά το λάνσαρε ούτως ή άλλως, ανέφεραν οι Ρέιν στην αγωγή τους.
«Αυτή η απόφαση είχε δύο αποτελέσματα: αφενός η αποτίμηση της OpenAI εκτοξεύτηκε από 86 δισεκατομμύρια δολάρια σε 300 δισεκατομμύρια δολάρια και αφετέρου ο Άνταμ Ρέιν αυτοκτόνησε», ανέφεραν.
Στην αγωγή τους οι Ρέιν ζητούν επίσης μια εντολή που θα υποχρεώνει την OpenAI να επαληθεύει τις ηλικίες των χρηστών του ChatGPT, να αρνείται ερωτήματα για μεθόδους αυτοτραυματισμού και να προειδοποιεί τους χρήστες για τον κίνδυνο ψυχολογικής εξάρτησης.
