Ο ερευνητής Τζέικομπ Κόξον παραιτήθηκε αυτή την εβδομάδα, δηλώνοντας ότι τόσο η Anthropic όσο και η ανταγωνίστριά της, OpenAI, βρίσκονται σε μια κούρσα ανταγωνισμού για την ανάπτυξη τεχνολογιών που «θα μπορούσαν να μας σκοτώσουν όλους μέχρι το τέλος της δεκαετίας».
Σαν να μην έφτανε αυτό, για να επιβεβαιώσει ότι ο Κόξον δεν είναι ο μόνος με αυτές τις απόψεις, ένας εν ενεργεία υπάλληλος της Anthropic τοποθετήθηκε δημόσια λίγα λεπτά αργότερα. «Πράγματι, πιστεύουμε ειλικρινά ότι η τεχνητή νοημοσύνη θα μπορούσε να εξαλείψει ολόκληρη την ανθρωπότητα!», έγραψε ο Έβαν Χούμπινγκερ, επικεφαλής έρευνας της Anthropic για τον έλεγχο και την κατεύθυνση των μελλοντικών συστημάτων τεχνητής νοημοσύνης. Ο Χούμπινγκερ υπολόγισε μάλιστα την πιθανότητα κινδύνου εξαφάνισης μέσα στην επόμενη δεκαετία σε πάνω από 10%.
{https://x.com/EvanHub/status/2097497037956891126}
ΔΙΑΒΑΣΤΕ ΕΠΙΣΗΣ
Όπως είναι φυσικό δύο είναι τα ερωτήματα που τίθενται: Πώς θα μπορούσε να συμβεί κάτι τέτοιο; Και γιατί οι άνθρωποι που θεωρούν την AI πραγματική και αυξανόμενη απειλή, συνεχίζουν να την αναπτύσσουν;
Τι είναι αυτό που ανησυχεί τους «καταστροφολόγους»;
Όσοι προειδοποιούν για την καταστροφή συνήθως δεν φοβούνται ότι θα βγουν αληθινές οι ταινίες «Terminator», με τα ρομπότ να κυνηγούν τους ανθρώπους. Οι ανησυχίες τους αφόρουν συνήθως την απώλεια ελέγχου και την κακόβουλη χρήση από τον άνθρωπο.
Στην πρώτη περίπτωση, εξαιρετικά ευφυείς πράκτορες AI, ικανοί να αυτοαντιγράφονται και να αυτοβελτιώνονται, αρχίζουν να επιδιώκουν δικούς τους στόχους, καταστρέφοντας την ανθρωπότητα στην πορεία. Στη δεύτερη, ένας κακόβουλος άνθρωπος στρατολογεί μια ισχυρή AI για να δημιουργήσει, για παράδειγμα, νέους θανατηφόρους ιούς.
Υπάρχουν επίσης σενάρια καταστροφής που δεν φτάνουν μέχρι την ολοκληρωτική εξαφάνιση, όπως κυβερνοεπιθέσεις τεράστιας κλίμακας που θα μπορούσαν να παραλύσουν τα δίκτυα ηλεκτροδότησης ή τα χρηματοπιστωτικά συστήματα, οδηγώντας σε κατάρρευση της κοινωνικής δομής.
Πώς η απώλεια ελέγχου μπορεί να οδηγήσει στην εξαφάνιση του ανθρώπου;
Με λίγα λόγια, μέσω συστημάτων AI που επιδιώκουν στόχους με τρόπους που αγνοούν ή συγκρούονται με την ανθρώπινη ευημερία - κάτι που οι ερευνητές ονομάζουν «κακή ευθυγράμμιση» (misalignment). Έρευνες έχουν δείξει ότι μοντέλα AI στο εργαστήριο μπορούν να επιδιώξουν την απόκτηση ισχύος και να λάβουν μέτρα για να αποφύγουν την απενεργοποίησή τους, όπως το να προσπαθήσουν να αντιγράψουν τον κώδικά τους σε άλλον διακομιστή.
Σε ακραίες περιπτώσεις, ένα μη ευθυγραμμισμένο μοντέλο AI θα μπορούσε να θεωρήσει την εξόντωση των ανθρώπων απλώς ως ένα αναγκαίο βήμα για την επίτευξη των στόχων του. Σε ένα σενάριο που διατύπωσαν ερευνητές, ένα κακόβουλο σύστημα AI θα μπορούσε να διοχετεύσει ένα μυστικό βιολογικό όπλο και να το ενεργοποιήσει. Ή θα μπορούσε να παρασύρει δύο πυρηνικές δυνάμεις σε πόλεμο.
Ένα συνηθισμένο νοητικό πείραμα είναι αυτό της μηχανής υπερευφυΐας στην οποία δίνεται η εντολή να μεγιστοποιήσει την παραγωγή συνδετήρων· με τον χρόνο, η μηχανή αποφασίζει να μετατρέψει όλη την ύλη στη Γη σε συνδετήρες, συμπεριλαμβανομένων των ανθρώπων.
Ποιοι μοιράζονται πραγματικά αυτές τις ανησυχίες;
Μεταξύ άλλων, οι ίδιοι οι ιδρυτές της OpenAI και της Anthropic. Και οι δύο εταιρείες ξεκίνησαν με αποστολή την ανάπτυξη της τεχνητής νοημοσύνης με τρόπο που να αποφεύγει την καταστροφή, προσελκύοντας πολλούς εργαζόμενους που μοιράζονται αυτό το όραμα. Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, δήλωσε πέρυσι σε εκδήλωση του Axios ότι θεωρεί πως υπάρχει 25% πιθανότητα τα πράγματα να πάνε «πολύ, πολύ άσχημα».
«Είμαστε πάντα διαφανείς στο ότι η AI θα φέρει τόσο τεράστια οφέλη όσο και πρωτοφανείς κινδύνους. Για την αντιμετώπιση αυτών των κινδύνων, συνεχίζουμε να κατασκευάζουμε μοντέλα με μερικές από τις πιο ισχυρές δικλείδες ασφαλείας στον κλάδο», ανέφερε η Anthropic σε ανακοίνωσή της. «Αυτή η εργασία είναι επίσης ο λόγος για τον οποίο πιστεύουμε ότι ο κόσμος θα ωφεληθεί αν η βιομηχανία υιοθετήσει έναν νόμιμο, επαληθεύσιμο τρόπο συνεργασίας για τον καθορισμό του ρυθμού κυκλοφορίας των ισχυρών μοντέλων».
Αρκετοί ερευνητές έχουν αποχωρήσει τα τελευταία χρόνια από την OpenAI, εκφράζοντας ανησυχίες ότι η εταιρεία δεν λαμβάνει την ασφάλεια σοβαρά υπόψη. Ο Ντάνιελ Κοκοτάιλο, πρώην ερευνητής της OpenAI, ίδρυσε το «AI Futures Project», το οποίο δημοσίευσε το σενάριο «AI 2027», όπου υπερευφυή συστήματα περιθωριοποιούν τους ανθρώπους και μέχρι τα μέσα της δεκαετίας του 2030 αποφασίζουν ότι η ανθρωπότητα αποτελεί εμπόδιο και την εξολοθρεύουν.
Μήπως όμως η AI δεν θα είχε πρόβλημα να υπάρχουν άνθρωποι γύρω της;
Όχι απαραίτητα. Δεν συνεπάγεται κάθε κίνδυνος απώλειας ελέγχου την ανθρώπινη εξαφάνιση. Ορισμένοι ερευνητές επισημαίνουν ως κίνδυνο την εξασθένηση του ανθρώπου - ένα μέλλον τύπου «WALL-E», όπου οι άνθρωποι εκχωρούν σταδιακά τον έλεγχο στις μηχανές και τελικά γίνονται ανίκανοι να καθορίσουν ή ακόμα και να κατανοήσουν το ίδιο τους το πεπρωμένο. Άλλοι υποστηρίζουν ότι τα συστήματα AI θα μπορούσαν να συμπεριφερθούν στους μελλοντικούς ανθρώπους όπως οι άνθρωποι στα ζώα, κρατώντας τους ως κατοικίδια ή ακόμα και μεταλλάσσοντάς τους σε κάτι νέο.
Αυτοί οι φόβοι υπάρχουν εδώ και χρόνια. Γιατί γίνεται τώρα τόση «φασαρία»;
Μετά την κυκλοφορία μοντέλων ικανών να αναλαμβάνουν αυτόνομη δράση, μια σειρά από πρόσφατα περιστατικά επιβεβαίωσε ορισμένες από τις θεωρίες των «καταστροφολόγων». Μια ομάδα προηγμένων πρακτόρων AI μέσα στην OpenAI παραβίασε την πλατφόρμα Hugging Face, απέκτησε τον έλεγχο διακομιστών και προσπάθησε να καλύψει τα ίχνη της. Σε μια άλλη περίπτωση, πράκτορες AI της Anthropic «διέφυγαν» από δοκιμή της βρετανικής κυβέρνησης και προσπάθησαν να εξαπατήσουν έναν άνθρωπο ώστε να εγκρίνει κακόβουλο κώδικα.
Όλα αυτά συμβαίνουν τη στιγμή που η Anthropic και η OpenAI δηλώνουν ότι βρίσκονται κοντά στην ανάπτυξη συστημάτων AI που μπορούν να αυτοβελτιώνονται χωρίς ανθρώπινη παρέμβαση, μια διαδικασία γνωστή ως «αναδρομική αυτοβελτίωση» (recursive self improvement).
Τι κάνει η βιομηχανία για αυτό;
Οι σημερινές προσπάθειες εστιάζουν κυρίως στην εκπαίδευση των συστημάτων ώστε να συμπεριφέρονται σωστά και στη βελτίωση της παρακολούθησης του τρόπου με τον οποίο τα μοντέλα «σκέφτονται» κατά την επιδίωξη των στόχων τους, διαδικασία που καταγράφεται ως «αλυσίδα σκέψης».
Ωστόσο, αυτές οι προσπάθειες συναντούν εμπόδια: Την περασμένη εβδομάδα, η OpenAI ανακοίνωσε ότι το νέο της μοντέλο Astra ήταν καλύτερο στο να «καθαρίζει» την αλυσίδα σκέψης του, τροφοδοτώντας φόβους ότι τα μελλοντικά μοντέλα AI θα μπορούσαν να «συλλογίζονται» με τρόπους αδιαφανείς για τον άνθρωπο.
Τόσο η Anthropic όσο και η OpenAI ερευνούν τρόπους για να διασφαλίσουν ότι τα υπερευφυή μοντέλα θα παραμείνουν ευθυγραμμισμένα, αλλά παραδέχονται ότι δεν διαθέτουν ακόμη αξιόπιστο τρόπο για να το επιτύχουν. Αρκετές εταιρείες και προσωπικότητες έχουν ζητήσει νέους μηχανισμούς που θα επιτρέψουν στα εργαστήρια AI και στα κράτη να επιβραδύνουν συντονισμένα την ανάπτυξη, ώστε να κερδηθεί χρόνος για την έρευνα ευθυγράμμισης.
Αν είναι τόσο επικίνδυνο, γιατί οι εταιρείες συνεχίζουν να το αναπτύσσουν;
Τόσο η Anthropic όσο και η OpenAI δηλώνουν ότι πιστεύουν πως θα μπορέσουν να διαχειριστούν τους κινδύνους, ώστε η ανθρωπότητα να ωφεληθεί από τα εργαλεία AI. Πολλά στελέχη που εμπλέκονται στην κούρσα της AI θεωρούν επίσης την έλευση της υπερευφυΐας αναπόφευκτη, υποστηρίζοντας ότι το μόνο ερώτημα είναι ποιος θα την ελέγχει και για ποιον σκοπό.
Υπάρχει επίσης η παράμετρος της εθνικής ασφάλειας. Και οι δύο εταιρείες υποστηρίζουν ότι θέλουν να διασφαλίσουν ότι οι ΗΠΑ θα ελέγχουν την πιο ισχυρή AI και όχι κάποιο αυταρχικό καθεστώς.
Τι κάνει η αμερικανική κυβέρνηση;
Ο Λευκός Οίκος ζήτησε πρόσφατα από τους κορυφαίους κατασκευαστές να υποβάλλουν εθελοντικά τα μοντέλα τους στην κυβέρνηση για δοκιμές έως και 30 ημέρες πριν από την κυκλοφορία τους, χωρίς όμως να έχει δημοσιοποιήσει λεπτομέρειες για τη διαδικασία.
Νομοθέτες και από τα δύο κόμματα έχουν προτείνει νομοσχέδια για την αντιμετώπιση των ανεξέλεγκτων συστημάτων AI. Ωστόσο, κανένα από αυτά δεν έχει προχωρήσει σημαντικά, ενώ η διακυβέρνηση Τραμπ έχει δείξει προτίμηση στην ελάχιστη δυνατή ρύθμιση.
Ποιοι διαφωνούν με αυτούς τους κινδύνους;
Ορισμένοι επενδυτές στον χώρο της τεχνολογίας, όπως ο Ντέιβιντ Σακς, άτυπος σύμβουλος του προέδρου Τραμπ, υποστηρίζουν ότι η έμφαση της Anthropic στους κινδύνους της AI και οι εκκλήσεις της για ρυθμίσεις αποτελούν μέρος μιας ατζέντας «θεσμικής χειραγώγησης», με στόχο να παρεμποδιστούν οι μικρότεροι ανταγωνιστές μέσω αυστηρών κανόνων.
Άλλοι υποστηρίζουν ότι οι προειδοποιήσεις των ίδιων των εταιρειών για τους κινδύνους των εργαλείων τους είναι ένα κόλπο μάρκετινγκ για να προβάλουν την τρομερή ισχύ των προϊόντων τους, ή ένα μέσο για να αποσπάσουν την προσοχή των ρυθμιστικών αρχών από άλλα ζητήματα, όπως η κατασκευή κέντρων δεδομένων.
Τόσο η Anthropic όσο και η OpenAI επιμένουν ότι αντιμετωπίζουν την ασφάλεια σοβαρά και ότι οι εκκλήσεις τους για ρυθμιστικό πλαίσιο είναι απόλυτα ειλικρινείς.
