Αντιμέτωποι με τις αυξανόμενες ανησυχίες για τους κινδύνους της τεχνητής νοημοσύνης (AI), οι επικεφαλής των μεγαλύτερων εταιρειών του κλάδου υιοθέτησαν χθες, Δευτέρα, ένα «ηθικά δεσμευτικό» κείμενο που θα χρησιμεύσει σαν ένα «είδος προστασίας», έπειτα από συνάντηση που είχαν στον Λευκό Οίκο με τον Αμερικανό πρόεδρο, Ντόναλντ Τραμπ.
Μετά την κεκλεισμένων των θυρών συνάντηση ο Τραμπ δέχθηκε τις ερωτήσεις των δημοσιογράφων επί μισή ώρα και ανήρτησε στον λογαριασμό του στο Truth Social αυτή τη συμφωνία, με βάση την οποία οι εταιρείες έχουν την ευθύνη να εγγυώνται την ασφάλεια των τεχνολογιών τους.
Οι εταιρείες επίσης συμφώνησαν να υιοθετήσουν δικλείδες ασφαλείας, προκειμένου να εγγυηθούν ότι τα μοντέλα ΑΙ θα λειτουργούν όπως προβλέπεται, και να εντοπίζουν και να διορθώνουν τυχόν ζητήματα γρήγορα.
ΔΙΑΒΑΣΤΕ ΕΠΙΣΗΣ
Τη συμφωνία υπέγραψαν ο Τραμπ και οι επικεφαλής της Google Σουντάρ Πιντσάι, της Anthropic Ντάριο Αμοντέι, της Meta Μαρκ Ζάκερμπεργκ, της OpenAI Γκρεγκ Μπρόκμαν, της SpaceX Έλον Μασκ και της Nvidia Τζένσεν Χουάνγκ.
«Είναι σχεδόν σαν ένα Σύνταγμα κατά μία έννοια», σχολίασε ο Αμερικανός πρόεδρος, προσθέτοντας ότι «οι μεγαλύτεροι άνθρωποι στον κόσμο το υπέγραψαν και το υπέγραψα εγώ ως πρόεδρος».
Παράλληλα ο Τραμπ σημείωσε ότι θα συστήσει επιτροπή που θα ελέγχει την ασφάλεια των εργαλείων ΑΙ, αν και δεν διευκρίνισε ποιος θα συμμετέχει σε αυτή.
Από την πλευρά του ο Ζούκερμπεργκ σχολίασε ότι η συμφωνία προσφέρει «στον αμερικανικό λαό και τους πελάτες την αυτοπεποίθηση ότι η τεχνολογία λειτουργεί όπως προβλέπεται», χαρακτηρίζοντας τη συνάντηση «ιστορική συζήτηση».
«Υπερνοημοσύνη»
Το κείμενο προβλέπει τη δημιουργία «ισχυρών εσωτερικών μηχανισμών ελέγχου» που θα αφορούν τη συμπεριφορά των μοντέλων ΑΙ σε τομείς όπως η «κυβερνοασφάλεια» ή οι «χημικές απειλές», τη συγκρότηση εξειδικευμένων εσωτερικών ομάδων για τη διαχείριση των εν λόγω ελέγχων, τη διενέργεια «εξωτερικών» αξιολογήσεων και, τέλος, τον ορισμό «ανεξάρτητων επιτροπών» στο ανώτατο επίπεδο της ιεραρχίας.
Οι εταιρείες δεσμεύθηκαν επίσης να συσκέπτονται «τακτικά για να καθορίζουν τα πρότυπα και τις σωστές πρακτικές».
«Πιστεύω ότι αυτή η τεχνολογία ενέχει πραγματικούς κινδύνους», δήλωσε ο επικεφαλής της Anthropic που συνέβαλε στην έναρξη της συζήτησης για την επιβολή ρυθμιστικών κανόνων στην ΑΙ, ζητώντας πρόσφατα να επιβραδυνθεί η ανάπτυξή της.
Επίσης χθες ο Τραμπ υπέγραψε διάταγμα με το οποίο ζητεί από τις αμερικανικές υπηρεσίες και τα υπουργεία να χρησιμοποιούν τον όρο «υπερνοημοσύνη» (super intelligence- SI). Ο όρος αυτός θα αντικαταστήσει τον AI «στην επίσημη αλληλογραφία», τους ιστότοπους, τις αναφορές και κάθε άλλη μορφή επικοινωνίας, σύμφωνα με το διάταγμα.
Στη διάρκεια της ομιλίας του στη Γενική Συνέλευση του ΟΗΕ την προηγούμενη εβδομάδα ο Τραμπ είχε δηλώσει ότι ο όρος «τεχνητή» κάνει την τεχνολογία αυτή «να μοιάζει ψεύτικη».
«Η αλλαγή του ονόματος της τεχνητής νοημοσύνης δεν συμβάλλει καθόλου στην αντιμετώπιση των πολύ πραγματικών κινδύνων που συνδέονται με τα ολοένα και πιο ισχυρά συστήματα τεχνητής νοημοσύνης», δήλωσε ο Δημοκρατικός γερουσιαστής Μαρκ Γουόρνερ.
Διάφορα περιστατικά ασφαλείας τους τελευταίους μήνες, καθώς και οι σοβαρές προειδοποιήσεις για τους κινδύνους που απειλούν την ανθρωπότητα στο σύνολό της έχουν αναγάγει την τεχνητή νοημοσύνη σε κεντρικό ζήτημα της προεκλογικής εκστρατείας ενόψει των ενδιάμεσων εκλογών της 3ης Νοεμβρίου.
Σύμφωνα με δημοσκόπηση που δημοσιεύθηκε από το CNN, το 82% των Αμερικανών δηλώνουν «ανήσυχοι» με τον ρυθμό ανάπτυξής της, σε αντίθεση με την αισιοδοξία που εκφράζει ο Αμερικανός πρόεδρος.
«Υπαρξιακοί κίνδυνοι»
Ο πρόεδρος της Βουλής των Αντιπροσώπων, ο Ρεπουμπλικάνος Μάικ Τζόνσον, ήταν στην πραγματικότητα η κινητήριος δύναμη πίσω από αυτή τη συνάντηση στον Λευκό Οίκο.
Στο πλευρό του Τραμπ και των επικεφαλής των εταιρειών δήλωσε: «Μπορούμε να διατηρήσουμε το προβάδισμα της Αμερικής έναντι των ανταγωνιστών μας και μπορούμε να το κάνουμε με ασφάλεια».
Τη Δευτέρα, η OpenAI ανακοίνωσε ότι ματαιώνει την κυκλοφορία ενός μοντέλου της που κρίθηκε υπερβολικά επικίνδυνο. Ο διευθύνων σύμβουλός της Σαμ Άλτμαν - ο οποίος δεν συμμετείχε στη συνάντηση στον Λευκό Οίκο - τάχθηκε υπέρ μιας προσέγγισης που εξισορροπεί δύο κινδύνους: την «τυχαία απώλεια ελέγχου» και την «υπερβολική συγκέντρωση ισχύος».
Από την πλευρά της η Anthropic, η εταιρεία που ανέπτυξε το μοντέλο ΑΙ Claude, προειδοποιεί στο ενημερωτικό δελτίο για την ένταξή της στο χρηματιστήριο ότι οι τεχνολογίες τεχνητής νοημοσύνης που αναπτύσσει ενδέχεται να ενέχουν «υπαρξιακούς κινδύνους για την ανθρωπότητα», σύμφωνα με τους Financial Times.
Ο Τραμπ επιβεβαίωσε εξάλλου την ένθερμη υποστήριξή του για την κατασκευή κέντρων δεδομένων, παρά τις διαμαρτυρίες που έχει προκαλέσει το ζήτημα αυτό στις ΗΠΑ.
Δημοσκόπηση του Marist Poll σε συνεργασία με το NPR και το PBS News η οποία δημοσιεύθηκε νωρίτερα τον Σεπτέμβριο κατέληξε στο συμπέρασμα ότι το 65% των εγγεγραμμένων ψηφοφόρων είναι αντίθετοι στην κατασκευή data centers την περιοχή τους.
Απαντώντας σε αυτές τις ανησυχίες ο Αμερικανός πρόεδρος δήλωσε ότι οι εταιρείες τεχνολογίας θα εργαστούν ώστε οι άνθρωπο να είναι «χαρούμενοι» με την κατασκευή των κέντρων δεδομένων. «Αυτές οι μεγάλες, ισχυρές, πολύ πλούσιες, πολύ έξυπνες εταιρείες πρόκειται να συμβάλλουν τα μέγιστα στις κοινότητες», δήλωσε ο Τραμπ στους δημοσιογράφους.
Στο παρελθόν ο Αμερικανός πρόεδρος έχει σχολιάσει στα μέσα κοινωνικής δικτύωσης ότι ο μόνος λόγος που οι κοινότητες θα πρέπει να αντιταχθούν στην κατασκευή κέντρων δεδομένων είναι «αν θέλουν να καταλήξουν οπισθοδρομικές και φτωχές».
Με πληροφορίες από Reuters, ΑΠΕ
