Βασιζόμενος σε μια λανθασμένη έκθεση των υπηρεσιών πληροφοριών, που είχε συνταχθεί με τη βοήθεια Τεχνητής Νοημοσύνης ο στρατός των ΗΠΑ έφτασε πολύ κοντά στο σημείο να κάνει νηοψία σε ένα κινεζικό πλοίο στη Μέση Ανατολή.
Η έκθεση των υπηρεσιών πληροφοριών, σύμφωνα με το CNN η οποία κυκλοφόρησε στις τάξεις του αμερικανικού στρατού την άνοιξη, εν μέσω του πολέμου με το Ιράν, σήμανε αμέσως συναγερμό: ένα κινεζικό πλοίο στη Μέση Ανατολή φερόταν να μεταφέρει εξαρτήματα που σχετίζονταν με πρόγραμμα πυρηνικών όπλων.
Ο αμερικανικός στρατός κινητοποιήθηκε, καταρτίζοντας σχέδια για την αναχαίτιση του πλοίου, σύμφωνα με τέσσερις πηγές που γνωρίζουν το περιστατικό. Δύο από αυτές ανέφεραν ότι ένοπλα μέλη των αμερικανικών ενόπλων δυνάμεων προετοιμάζονταν να επιβιβαστούν στο πλοίο. Στρατιωτικά αεροσκάφη είχαν ήδη απογειωθεί, σύμφωνα με μία από τις πηγές και ακόμη ένα πρόσωπο που είχε γνώση του περιστατικού.
ΔΙΑΒΑΣΤΕ ΕΠΙΣΗΣ
Μόλις λίγο πριν από την προγραμματισμένη επιχείρηση, αξιωματούχοι εξέτασαν πιο προσεκτικά την έκθεση, την οποία είχε συντάξει αναλυτής διοίκησης ειδικών επιχειρήσεων, και διαπίστωσαν ότι είχε δημιουργηθεί με τη βοήθεια Τεχνητής Νοημοσύνης (AI). Αποκαλύφθηκε επίσης ότι ένα chatbot που είχε χρησιμοποιήσει ο αναλυτής είχε αναγνωρίσει λανθασμένα το υλικό που μετέφερε το πλοίο. Το CNN δεν κατάφερε να εξακριβώσει ποιο ήταν στην πραγματικότητα το φορτίο που είχε αναγνωριστεί εσφαλμένα.
Σύμφωνα με μία από τις πηγές, η έκθεση ήταν «εντελώς ψευδής». Ωστόσο, όπως χαρακτηριστικά ανέφερε η ίδια πηγή, «παραλίγο να ξεκινήσει έναν πόλεμο». Οποιαδήποτε αμερικανική επιχείρηση εναντίον κινεζικού πλοίου θα μπορούσε να οδηγήσει σε κλιμάκωση και ακόμη και σε ένοπλη σύγκρουση μεταξύ των δύο χωρών.
Η Τεχνητή Νοημοσύνη μπαίνει παντού στον αμερικανικό στρατό
Σε ολόκληρο τον αμερικανικό στρατό και την κοινότητα των υπηρεσιών πληροφοριών, οι αξιωματούχοι επιχειρούν να ενσωματώσουν την Τεχνητή Νοημοσύνη σχεδόν σε κάθε πτυχή της δουλειάς τους: από την ανάλυση του τεράστιου όγκου ακατέργαστων πληροφοριών που συλλέγουν οι ΗΠΑ και την επιλογή στόχων για στρατιωτικά πλήγματα, μέχρι πιο καθημερινές εφαρμογές, όπως η διαχείριση προϋπολογισμών, της εφοδιαστικής και των αλυσίδων εφοδιασμού.
Το συγκεκριμένο περιστατικό, όμως, αναδεικνύει τους σοβαρούς κινδύνους από τη χρήση αυτής της ισχυρής, νέας και ακόμη σχετικά ανεπαρκώς κατανοητής τεχνολογίας για την επιλογή στρατιωτικών στόχων εν μέσω πολέμου.
Οι αναλυτές φοβούνται εδώ και καιρό ότι η Τεχνητή Νοημοσύνη θα μπορούσε να προκαλέσει έναν καταστροφικό λανθασμένο υπολογισμό, εάν τα κράτη βασίζονται σε εσφαλμένα ή αλλοιωμένα δεδομένα. Ένα τέτοιο λάθος θα μπορούσε, για παράδειγμα, να οδηγήσει τις Ηνωμένες Πολιτείες να ανοίξουν πυρ εναντίον ενός κινεζικού πλοίου βασιζόμενες σε ανακριβείς πληροφορίες.
Στη συγκεκριμένη περίπτωση, ο αναλυτής υπέβαλε ερώτημα σε chatbot σχετικά με πληροφορίες που αφορούσαν το δηλωμένο φορτίο του πλοίου και προέρχονταν από τη Διοίκηση Ειδικών Επιχειρήσεων των ΗΠΑ στον Ειρηνικό, η οποία εδρεύει στη Χαβάη. Δεν κατέστη σαφές εάν το chatbot ήταν κάποιο εμπορικά διαθέσιμο εργαλείο ή προϊόν της αμερικανικής κυβέρνησης.
«Τα εσωτερικά εργαλεία είναι ως επί το πλείστον απλώς αντίγραφα των εμπορικών προϊόντων, με λίγο… κραγιόν από πάνω», δήλωσε πρώην υψηλόβαθμος Αμερικανός αξιωματούχος που γνωρίζει τα συστήματα AI τα οποία χρησιμοποιούν στρατιωτικοί αναλυτές και αναλυτές πληροφοριών.
Το chatbot συνδύασε πληροφορίες από ανοικτές πηγές με απόρρητες πληροφορίες από υποκλοπές σημάτων που βρίσκονταν στα αρχεία της αμερικανικής κυβέρνησης και κατέληξε στο μοιραίο συμπέρασμα σχετικά με το υλικό που μετέφερε το πλοίο.
Στη συνέχεια, ο αναλυτής χρησιμοποίησε ξανά την Τεχνητή Νοημοσύνη για να παρουσιάσει τα ευρήματα με τη μορφή μιας τυπικής έκθεσης πληροφοριών — του είδους των αναφορών που θεωρούνται αξιόπιστες από τους στρατιωτικούς αξιωματούχους — και στη συνέχεια τη διένειμε.
Η Διοίκηση Ειδικών Επιχειρήσεων των ΗΠΑ στον Ειρηνικό και το Πεντάγωνο δεν απάντησαν σε αίτημα για σχόλιο.
Γιατί οι ΗΠΑ επιταχύνουν τη χρήση της AI
Το σκεπτικό πίσω από την ταχεία υιοθέτηση της Τεχνητής Νοημοσύνης είναι ότι μπορεί να βοηθήσει τον στρατό να λαμβάνει ταχύτερα αποφάσεις στο πεδίο της μάχης, όπως ποιοι στόχοι πρέπει να πληγούν ή πού πρέπει να μετακινηθούν στρατιωτικές δυνάμεις και μέσα.
Αμερικανοί αξιωματούχοι υποστηρίζουν ότι οι ΗΠΑ δεν μπορούν να μείνουν πίσω στην ενσωμάτωση της AI, καθώς ενδέχεται κάποια ημέρα να χρειαστεί να πολεμήσουν την Κίνα ή κάποιον άλλο αντίπαλο που θα μπορούσε, μέσω της τεχνολογίας, να βρίσκεται ένα βήμα μπροστά.
Τον Ιανουάριο, ο υπουργός Άμυνας Πιτ Χέγκσεθ παρουσίασε τη στρατηγική του υπουργείου για την επιτάχυνση της Τεχνητής Νοημοσύνης, με στόχο την ταχύτερη ενσωμάτωσή της στις αμερικανικές ένοπλες δυνάμεις.
«Θα απελευθερώσουμε τον πειραματισμό, θα εξαλείψουμε τα γραφειοκρατικά εμπόδια, θα επικεντρώσουμε τις επενδύσεις μας και θα επιδείξουμε την προσέγγιση που απαιτείται για να διασφαλίσουμε ότι θα είμαστε πρωτοπόροι στη στρατιωτική Τεχνητή Νοημοσύνη», δήλωσε ο Χέγκσεθ κατά την ανακοίνωση της στρατηγικής.
Η στρατηγική προωθεί επίσης την ευρεία χρήση της AI σε ολόκληρο τον στρατό, με το υπουργείο να καλείται να διαθέσει εργαλεία Τεχνητής Νοημοσύνης μέσω διαφόρων προγραμμάτων.
Στόχος, σύμφωνα με σχετικό υπόμνημα, είναι ο «εκδημοκρατισμός του πειραματισμού και του μετασχηματισμού μέσω της AI σε ολόκληρο το υπουργείο, θέτοντας τα κορυφαία μοντέλα Τεχνητής Νοημοσύνης της Αμερικής απευθείας στα χέρια των τριών εκατομμυρίων πολιτικών και στρατιωτικών υπαλλήλων μας, σε όλα τα επίπεδα διαβάθμισης».
Διαφορετικά εργαλεία χωρίς ενιαίους κανόνες
Ωστόσο, σύμφωνα με πολλούς Αμερικανούς αξιωματούχους, η προσπάθεια είναι αποκεντρωμένη. Διαφορετικά τμήματα της κυβέρνησης χρησιμοποιούν διαφορετικά εργαλεία, ακολουθώντας διαφορετικές εντολές και διαφορετικά πρότυπα ασφαλείας.
Δεν υπάρχει ένα ενιαίο σύνολο κανόνων σχετικά με τον τρόπο με τον οποίο οι ΗΠΑ επαληθεύουν τις πληροφορίες που παράγονται από αυτά τα εργαλεία. Το γεγονός ότι διαφορετικά συστήματα AI χρησιμοποιούνται σε διαφορετικά τμήματα του στρατού και των υπηρεσιών πληροφοριών σημαίνει ότι η αξιοπιστία και οι δυνατότητές τους διαφέρουν σημαντικά.
Τις τελευταίες εβδομάδες, στην Ουάσινγκτον διεξάγεται έντονη συζήτηση γύρω από την Τεχνητή Νοημοσύνη, μετά από σειρά ιδιαίτερα ανησυχητικών προειδοποιήσεων μηχανικών της Silicon Valley και διευθυντικών στελεχών τεχνολογικών εταιρειών σχετικά με το ενδεχόμενο η AI να ξεφύγει από τους ανθρώπινους περιορισμούς, με δυνητικά καταστροφικές συνέπειες για τον πολιτισμό.
Το περιστατικό με το κινεζικό πλοίο, ωστόσο, αναδεικνύει έναν διαφορετικό και πολύ πιο άμεσο κίνδυνο: οι ίδιοι οι άνθρωποι να λάβουν καταστροφικές αποφάσεις βασιζόμενοι σε ανακριβείς ή παραπλανητικές πληροφορίες που έχουν δημιουργηθεί από Τεχνητή Νοημοσύνη ή άλλα αυτοματοποιημένα συστήματα.
Πηγές ανέφεραν ότι ο στρατός στρέφεται με ταχύτατους ρυθμούς στην AI για να βοηθήσει στην επιλογή στρατιωτικών στόχων, έναν τομέα στον οποίο υπάρχει ο προφανής κίνδυνος θανατηφόρων λαθών.
«Η χρήση της AI στην επιλογή στόχων αυξάνεται ξεκάθαρα και δεν υπάρχει πραγματική καθοδήγηση για το πώς η παρουσία ανθρώπου στη διαδικασία λήψης αποφάσεων θα αποτρέψει απώλειες αμάχων ή φίλια πυρά», δήλωσε άλλη πηγή που γνωρίζει τις τρέχουσες πολιτικές του στρατού.
Οι λεγόμενες «παραισθήσεις» (hallucinations) της Τεχνητής Νοημοσύνης — δηλαδή όταν ένα σύστημα παράγει ανακριβείς ή ανύπαρκτες πληροφορίες σαν να ήταν πραγματικές — όπως αυτή που φέρεται να παρουσίασε το εργαλείο στη συγκεκριμένη περίπτωση, δεν αποτελούν μεμονωμένο περιστατικό στις αμερικανικές υπηρεσίες πληροφοριών από τότε που αυτά τα εργαλεία άρχισαν να χρησιμοποιούνται ευρέως στην κυβέρνηση, σύμφωνα με μία από τις πηγές.
Για ορισμένα μεγαλύτερης ηλικίας στελέχη των υπηρεσιών πληροφοριών — ακόμη και για εκείνα που υποστηρίζουν γενικά τη χρήση της AI στον στρατό — η Τεχνητή Νοημοσύνη έχει αυξήσει την πίεση προς τους αναλυτές να παράγουν και να διανέμουν πληροφορίες ταχύτερα, δημιουργώντας έτσι περισσότερα περιθώρια για λάθη.
Αρκετές πηγές ανέφεραν ότι ιδιαίτερα οι νεότεροι αναλυτές είναι περισσότερο εξοικειωμένοι με αυτά τα εργαλεία και ενδέχεται να είναι πιο πρόθυμοι να τα εμπιστευθούν χωρίς την απαιτούμενη κριτική αξιολόγηση.
Όπως το συνόψισε χαρακτηριστικά μία από τις πηγές: «Η Τεχνητή Νοημοσύνη σού επιτρέπει να φτάσεις πιο γρήγορα σε μια κακή ιδέα».
