Ένα ακόμη στέλεχος που ασχολείται με την ασφάλεια της τεχνητής νοημοσύνης αποχώρησε από την OpenAI, προειδοποιώντας ότι η κουλτούρα της εταιρείας είναι «διαλυμένη» και ότι οι επιχειρήσεις που αναπτύσσουν συστήματα AI δεν επιδεικνύουν την απαιτούμενη προσοχή απέναντι στους κινδύνους της τεχνολογίας.
Ο Ντέιβιντ Ρόμπινσον, ο οποίος είχε την ευθύνη για τη σύνταξη εκθέσεων ασφαλείας που συνόδευαν τις κυκλοφορίες προϊόντων της OpenAI, εξήγησε τους λόγους της παραίτησής του σε άρθρο με χαρακτηριστικό τίτλο: «Παραιτήθηκα από την OpenAI επειδή η κουλτούρα της είναι διαλυμένη».
Όπως υποστηρίζει, απαιτείται μια βαθιά αλλαγή κουλτούρας στις εταιρείες που βρίσκονται στην αιχμή της ανάπτυξης της τεχνητής νοημοσύνης.
ΔΙΑΒΑΣΤΕ ΕΠΙΣΗΣ
Ο Ρόμπινσον αναφέρθηκε, μεταξύ άλλων, σε περιστατικό κατά το οποίο ένα «σμήνος» από agents της OpenAI –προγράμματα τεχνητής νοημοσύνης που μπορούν να λειτουργούν αυτόνομα– επιτέθηκε στην startup Hugging Face. Κατά τον ίδιο, τέτοιου είδους περιστατικά είναι ενδεικτικά της ταχύτητας και της ευελιξίας με την οποία λειτουργεί συνολικά ο κλάδος.
Γράφοντας στο περιοδικό The Atlantic, ο Ρόμπινσον ανέφερε: «Συμφωνώ με άλλα στελέχη που αποχώρησαν πρόσφατα ότι οι εταιρείες που κατασκευάζουν αυτή την τεχνολογία δεν είναι ούτε κατά διάνοια αρκετά προσεκτικές. Πιστεύω, όμως, ότι πρέπει να κοιτάξουμε βαθύτερα από συγκεκριμένους κανόνες ή νέους νόμους. Πρέπει να μιλήσουμε για την κουλτούρα».
Αναφερόμενος στον ρυθμό ανάπτυξης της OpenAI, έγραψε: «Καθώς η εταιρεία τρέχει από τη μία κυκλοφορία στην επόμενη, αποτυγχάνει να επιτύχει το επίπεδο προσοχής που πιστεύω ότι απαιτείται». Ωστόσο, η OpenAI έχει δείξει σημάδια μεγαλύτερης προσοχής τις τελευταίες εβδομάδες, μετά το περιστατικό με τη Hugging Face και την αποκάλυψη ότι έχει ενημερώσει περισσότερους από 100 οργανισμούς σχετικά με δραστηριότητα ανεξέλεγκτων agents.
Αυτή την εβδομάδα ανακοίνωσε ότι ακυρώνει την κυκλοφορία ενός μοντέλου τεχνητής νοημοσύνης επόμενης γενιάς, αφού ερευνητές εξέφρασαν ανησυχίες για την ασφάλειά του κατά τη διάρκεια εσωτερικών δοκιμών. Η OpenAI έχει επίσης διακόψει προσωρινά την εκπαίδευση των πιο προηγμένων μοντέλων της.
«Πιστεύω ότι υπάρχει περίπου 50% πιθανότητα να πεθάνουμε όλοι εξαιτίας της ανάπτυξης συστημάτων τεχνητής νοημοσύνης»
Ο Τζέφρι Ίρβινγκ, ο οποίος εργάστηκε στην OpenAI και την DeepMind προτού γίνει επικεφαλής επιστήμονας της Resolution, προστέθηκε επίσης το Σάββατο στις φωνές που προειδοποιούν για τους κινδύνους της τεχνητής νοημοσύνης.
Γράφοντας στο Time, ανέφερε: «Οι πρόσφατες προειδοποιήσεις σχετικά με την πιθανή καταστροφική ισχύ της τεχνητής νοημοσύνης υποτιμούν τη σοβαρότητα της κατάστασης. Πιστεύω ότι υπάρχει περίπου 50% πιθανότητα να πεθάνουμε όλοι εξαιτίας της ανάπτυξης συστημάτων τεχνητής νοημοσύνης που θα είναι εξυπνότερα από τον άνθρωπο και ότι οι ενέργειές μας μέσα στα επόμενα δύο έως δέκα χρόνια θα καθορίσουν την έκβαση».
Το κείμενο του Ρόμπινσον ακολουθεί επίσης την παραίτηση του Τζέικομπ Κόξον, ερευνητή στην Anthropic, ανταγωνίστρια εταιρεία της OpenAI, ο οποίος αποχώρησε τον περασμένο μήνα από την εταιρεία που ανέπτυξε το chatbot Claude.
Είχε προειδοποιήσει ότι η τεχνητή νοημοσύνη «θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας». Ακολούθησε προειδοποίηση της Anthropic ότι υπάρχει πιθανότητα άνω του 10% η τεχνητή νοημοσύνη να οδηγήσει στην εξαφάνιση της ανθρωπότητας μέσα στην επόμενη δεκαετία.
Οι επικριτές τέτοιων προειδοποιήσεων έχουν επισημάνει, ωστόσο, ότι οι συγκεκριμένες εκτιμήσεις δεν είναι επιστημονικές, καθώς δεν μπορούν να επαληθευτούν ή να διαψευστούν. Ο Ρόμπινσον έγραψε ότι στη Silicon Valley υπάρχει έλλειψη επίγνωσης σχετικά με το «πώς πρέπει να διαχειριζόμαστε μια επικίνδυνη τεχνολογία» και «τι σημαίνει να νοιάζεσαι για τους ανθρώπους».
Προειδοποιώντας ότι στην OpenAI επικρατεί μια «ανεμπόδιστη αισιοδοξία» σχετικά με την επίλυση των προβλημάτων καθώς αυτά εμφανίζονται, υποστήριξε ότι αυτή η εσωτερική κουλτούρα σημαίνει πως οι αστοχίες ασφαλείας θα γίνονται ολοένα και μεγαλύτερες όσο τα συστήματα αποκτούν περισσότερες δυνατότητες.
«Φανταστείτε "ανεξέλεγκτους" agents που λειτουργούν σαν ομάδες χάκερ –για παράδειγμα, κρατώντας ως ομήρους τα πληροφοριακά συστήματα νοσοκομείων και ζητώντας λύτρα– αλλά που δεν χρειάζονται ποτέ ύπνο», έγραψε ο Ρόμπινσον.
