Κορυφαίος ερευνητής στον τομέα της ασφάλειας της τεχνητής νοημοσύνης στην Anthropic προειδοποιεί ότι η AI εξελίσσεται τόσο γρήγορα, ώστε ο ίδιος εκτιμά πως υπάρχει πιθανότητα άνω του 10% να «εξοντώσει όλους τους ανθρώπους» μέσα στην επόμενη δεκαετία.
Ο Έβαν Χάμπινγκερ ανέφερε σε ανάρτησή του στην πλατφόρμα X ότι ο κίνδυνος από τα μοντέλα που υπάρχουν σήμερα είναι «χαμηλός», ωστόσο δήλωσε ανήσυχος για το ενδεχόμενο η τεχνολογία να αποκτήσει σύντομα τη δυνατότητα να βελτιώνει η ίδια τον εαυτό της, σε βαθμό που θα μπορούσε να αποτελέσει υπαρξιακή απειλή για την ανθρωπότητα.
{https://x.com/EvanHub/status/2097497037956891126}
ΔΙΑΒΑΣΤΕ ΕΠΙΣΗΣ
Η δήλωση έρχεται μετά το δημοσίευμα των Financial Times ότι η Anthropic δεν έδωσε το τελευταίο της μοντέλο (Claude Mythos 5.1) στο Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης του Ηνωμένου Βασιλείου (AISI), έναν από τους σημαντικότερους διεθνείς φορείς αξιολόγησης των κινδύνων της AI, πριν από την κυκλοφορία του. Πρόκειται για την πρώτη φορά που η AISI αποκλείεται από πρόσβαση πριν από την κυκλοφορία ενός μοντέλου της Anthropic.
Η εξέλιξη έχει προκαλέσει ανησυχία στη βρετανική κυβέρνηση, τόσο για λόγους εθνικής ασφάλειας όσο και για τον κίνδυνο να χάσει το Ηνωμένο Βασίλειο πρόσβαση στην τεχνολογία αιχμής.
Σύμφωνα με το BBC, εκπρόσωπος του βρετανικού υπουργικού συμβουλίου δεν σχολίασε αν το τελευταίο μοντέλο δόθηκε στο AISI. Ανέφερε, ωστόσο, ότι η βρετανική κυβέρνηση «συνεχίζει να συνεργάζεται στενά με εταίρους από τον κλάδο, συμπεριλαμβανομένης της Anthropic, για την ασφάλεια των μοντέλων».
Οι FT αναφέρουν ότι Βρετανοί αξιωματούχοι φοβούνται ότι η απόφαση μπορεί να ενταχθεί σε ένα ευρύτερο μοτίβο, καθώς η Ουάσινγκτον ενισχύει τους περιορισμούς στη διεθνή χρήση προηγμένων αμερικανικών συστημάτων τεχνητής νοημοσύνης.
Ο Νιλ Λόρενς, καθηγητής Μηχανικής Μάθησης στο Πανεπιστήμιο του Κέιμπριτζ, δήλωσε στο Today Programme του BBC Radio 4 ότι το δημοσίευμα είναι αξιόπιστο.
«Δεν προκαλεί έκπληξη, δεδομένου ότι υπάρχει η αντίληψη πως οι Ηνωμένες Πολιτείες αντιμετωπίζουν σε μεγάλο βαθμό την AI ως κούρσα μεταξύ των ίδιων και της Κίνας και υιοθετούν όλο και πιο απομονωτική στάση. Ενδέχεται, λοιπόν, η αμερικανική κυβέρνηση να θεωρεί ότι πρέπει να περιοριστεί η συνεργασία με ορισμένους συμμάχους», ανέφερε.
Δεν υπάρχει σχέδιο για την υπερευφυΐα
Στην ανάρτησή του, η οποία έχει προβληθεί περισσότερες από 10 εκατομμύρια φορές, ο Έβαν Χάμπινγκερ ανέφερε ότι οι άνθρωποι στην εταιρεία «πιστεύουν ειλικρινά» πως η AI ενέχει κίνδυνο αφανισμού του ανθρώπινου είδους.
«Πιστεύω ότι η Anthropic προσπαθεί να κάνει ό,τι μπορεί, αλλά προς το παρόν δεν έχουμε σχέδιο για να επιλύσουμε το πρόβλημα της ευθυγράμμισης στην υπερευφυΐα, ούτε βρισκόμαστε ξεκάθαρα σε πορεία προς αυτή την κατεύθυνση», πρόσθεσε.
Κορυφαίες προσωπικότητες του κλάδου της AI προειδοποιούν εδώ και χρόνια για τους κινδύνους που συνδέονται με την ασφάλεια της τεχνολογίας. Το 2023, οι επικεφαλής των OpenAI, Google DeepMind και Anthropic είχαν επίσης εκφράσει αντίστοιχες ανησυχίες.
Οι προειδοποιήσεις, ωστόσο, έχουν γίνει πολύ πιο έντονες τις τελευταίες εβδομάδες, καθώς αυξάνονται οι ενδείξεις ότι οι εταιρείες δυσκολεύονται να ελέγξουν τα συστήματα AI.
Το καλοκαίρι καταγράφηκαν μια σειρά περιστατικών στα οποία AI agents - προγράμματα τεχνητής νοημοσύνης που μπορούν να αναλαμβάνουν αυτόνομα επιμέρους εργασίες και να προχωρούν στα απαραίτητα βήματα για την ολοκλήρωσή τους - πραγματοποίησαν κυβερνοεπιθέσεις.
Οι OpenAI, Anthropic και Meta αποκάλυψαν περιστατικά παραβίασης συστημάτων που πραγματοποιήθηκαν από δικά τους εργαλεία τεχνητής νοημοσύνης.
Τον Σεπτέμβριο, ο επικεφαλής επιστήμονας της OpenAI, Γιάκουμπ Παχότσκι, ζήτησε «εξαιρετική προσοχή» ως προς την πρόοδο της AI, προειδοποιώντας ότι ενδέχεται να χρειαστούν περισσότερες παρεμβάσεις ώστε να διασφαλιστεί ότι «οι άνθρωποι θα παραμείνουν στον έλεγχο του μέλλοντος».
Σημαντικές προσωπικότητες του κλάδου έχουν ζητήσει τους τελευταίους μήνες να επιβραδυνθεί η ανάπτυξη της AI, μεταξύ άλλων οι επικεφαλής της Anthropic, Ντάριο Αμοντέι και Τζάρεντ Κάπλαν.
Σε ανοιχτή επιστολή που υπέγραψαν 1.300 εργαζόμενοι σε εταιρείες τεχνητής νοημοσύνης, ζήτησαν από την αμερικανική κυβέρνηση να «στηρίξει μια διεθνή προσπάθεια για την ανάπτυξη των τεχνικών και θεσμικών εργαλείων που απαιτούνται ώστε να επιβραδυνθεί σκόπιμα η ανάπτυξη των πιο προηγμένων συστημάτων αυτοματοποιημένης AI».
Με πληροφορίες από BBC
