Η καθήλωση των αεροπορικών πτήσεων που προκάλεσε χάος στις μετακινήσεις την Παρασκευή δεν σχετιζόταν με το νέο σύστημα Τεχνητής Νοημοσύνης ύψους 875 εκατ. δολαρίων που θέτει σε εφαρμογή η Ομοσπονδιακή Υπηρεσία Πολιτικής Αεροπορίας (FAA) για την πρόβλεψη δυσλειτουργιών στον εναέριο χώρο, σύμφωνα με κυβερνητικούς αξιωματούχους και την εταιρεία Τεχνητής Νοημοσύνης που ανέπτυξε την τεχνολογία.
Η χρονική συγκυρία της καθήλωσης, ωστόσο, τόσο κοντά στην πανεθνική ανάπτυξη του συστήματος SMART της FAA, έθεσε ερωτήματα σχετικά με το τι ακριβώς κάνει το σύστημα, ποια είναι τα οφέλη και οι κίνδυνοί του σε σύγκριση με το υπάρχον ανθρώπινο σύστημα και ποιες δικλίδες ασφαλείας υπάρχουν για την αντιμετώπιση πιθανών προβλημάτων.
Οι αξιωματούχοι διαψεύδουν οποιαδήποτε σύνδεση με το μπλακάουτ
Το σύστημα SMART εδρεύει σε μία κεντρική τοποθεσία κοντά στην Ουάσιγκτον, όπου μια ομάδα ειδικών αναλύει τα προγράμματα πτήσεων, τις μετεωρολογικές προγνώσεις και εκατοντάδες άλλες ροές δεδομένων. Στη συνέχεια, το γραφείο αυτό αποστέλλει συστάσεις στο κέντρο διοίκησης της FAA, το οποίο τις διαβιβάζει στους ελεγκτές εναέριας κυκλοφορίας σε ολόκληρη τη χώρα προς αξιολόγηση.
Ο υπουργός Εσωτερικής Ασφάλειας, Μαρκγουέιν Μάλιν, δήλωσε την Παρασκευή ότι δεν υπάρχει καμία ένδειξη πως τα προβλήματα επικοινωνιών που προκάλεσαν την καθήλωση των πτήσεων συνδέονται με το νέο υπολογιστικό σύστημα, θέση την οποία επανέλαβαν το Σάββατο και οι κορυφαίοι αξιωματούχοι του Υπουργείου Μεταφορών και της FAA.
Η νεοφυής επιχείρηση που σχεδίασε το σύστημα, η Air Space Intelligence (ASI), ανέφερε ότι η καθήλωση των αεροσκαφών δεν προκλήθηκε από «το σύστημα SMART, οποιοδήποτε προϊόν της ASI ή την ενσωμάτωσή μας με την FAA και τον έλεγχο εναέριας κυκλοφορίας (ATC)».
Ωστόσο, βουλευτές και ανεξάρτητοι φορείς είχαν εγείρει ερωτήματα για το σύστημα SMART ήδη πριν από το περιστατικό της Παρασκευής. Τον περασμένο μήνα, Δημοκρατικοί της Βουλής των Αντιπροσώπων απέστειλαν επιστολή στο Γραφείο Κυβερνητικής Λογοδοσίας των ΗΠΑ (GAO), ζητώντας έλεγχο του νέου λογισμικού και εκφράζοντας ανησυχίες για την ασφάλεια και τις δικλίδες προστασίας.
«Είναι ανησυχητικό το γεγονός ότι το προσωπικό πρώτης γραμμής για την ασφάλεια των αερομεταφορών της χώρας προφανώς είχε ελάχιστη έως μηδενική συμμετοχή στην ανάπτυξη του SMART και έλαβε περιορισμένη εκπαίδευση και ενημέρωση κατά την τρέχουσα διαδικασία εφαρμογής», ανέφερε η επιστολή της 13ης Οκτωβρίου. «Η χρήση της Τεχνητής Νοημοσύνης εντός του SMART έχει δικαίως εγείρει σοβαρά ερωτήματα σχετικά με την αξιοπιστία και τα οφέλη ασφαλείας του, ιδίως όσον αφορά την πιθανότητα να παρεμβαίνει στη λήψη αποφάσεων από έμπειρους ελεγκτές εναέριας κυκλοφορίας ή να παράγει ψευδείς πληροφορίες κρίσιμες για την ασφάλεια».
Το SMART, ωστόσο, δεν έχει ρυθμιστεί - τουλάχιστον όχι ακόμα - ώστε η Τεχνητή Νοημοσύνη να έχει τον έλεγχο των πτήσεων. Αντιθέτως, υποβάλλει συστάσεις στους ανθρώπους που έχουν την ευθύνη.
Τι είναι το σύστημα SMART;
Ο υπουργός Μεταφορών, Σον Ντάφι, και ο διοικητής της FAA, Μπράιαν Μπέντφορντ, παρουσίασαν το σύστημα τον Σεπτέμβριο, χαρακτηρίζοντάς το ως ένα «εργαλείο αιχμής που συγκεντρώνει 200 ροές δεδομένων - συμπεριλαμβανομένων των μετεωρολογικών μοτίβων, των διαδρομών πτήσης, της ροής κυκλοφορίας και των δεικτών στελέχωσης ελεγκτών - σε μία ενιαία πλατφόρμα». Το ακρωνύμιο SMART σημαίνει Στρατηγική Διαχείριση Εναέριου Χώρου, Διαδρομών και Τροχιών (Strategic Management of Airspace, Routes and Trajectories).
Η μηχανή του συστήματος, υποστηριζόμενη από Τεχνητή Νοημοσύνη, συνθέτει τα συστήματα δεδομένων και προβάλλει μια «ολοκληρωμένη απεικόνιση» για το πού κατευθύνονται τα αεροπλάνα, πόση κίνηση μπορεί να διαχειριστεί το σύστημα και πού η συμφόρηση ή ο καιρός θα μπορούσαν να προκαλέσουν προβλήματα, σύμφωνα με την ανακοίνωση. Η ιδέα είναι οι ειδικοί να χρησιμοποιούν στη συνέχεια την πλατφόρμα για να επιλύουν τα προβλήματα προτού αυτά ανακύψουν.
Η FAA αναφέρει ότι κατά την αρχική δοκιμή του συστήματος στην περιοχή της Ουάσιγκτον αυτό το φθινόπωρο, το SMART βοήθησε στην αναδρομολόγηση 180 πτήσεων, εξοικονομώντας κατά μέσο όρο 10 λεπτά και 80 γαλόνια (περίπου 303 λίτρα) καυσίμου ανά πτήση, παρακάμπτοντας κακοκαιρίες ή άλλα εμπόδια. Η υπηρεσία σημείωσε μάλιστα ότι μία πτήση μείωσε κατά 42 λεπτά τη διάρκεια του ταξιδιού της από την Τάμπα της Φλόριντα προς το Ντάλας χάρη στις συστάσεις του συστήματος.
Έτσι, η χρήση του SMART επεκτάθηκε σε εθνικό επίπεδο στις 10 Νοεμβρίου, καλύπτοντας τον εναέριο χώρο και των 22 κέντρων ελέγχου εναέριας κυκλοφορίας - μόλις τρεις ημέρες πριν από την καθήλωση των πτήσεων.
Σύμφωνα με κυβερνητικό ενημερωτικό δελτίο, το SMART μπορεί να προβλέψει πού κατευθύνεται η εναέρια κυκλοφορία και να εντοπίσει εναλλακτικές διαδρομές προτού μια περιοχή υπερφορτωθεί. Μπορεί επίσης να συμβάλει στην ταχύτερη επαναλειτουργία δεσμευμένου εναέριου χώρου και στην καλύτερη διαχείριση των αφίξεων στα αεροδρόμια.
Επιπλέον, το SMART προορίζεται να αντιμετωπίζει ταχύτερα τα ζητήματα που σχετίζονται με τις καιρικές συνθήκες.
Επί του παρόντος, η FAA αποκλείει τμήματα του εναέριου χώρου που πλήττονται από κακοκαιρία ως «μεγάλα, ορθογώνια κουτιά», γεγονός που δεν αντικατοπτρίζει την πραγματική εικόνα του καιρού, καθώς οι ταχέως κινούμενες καταιγίδες και τα καιρικά συστήματα έχουν «συχνά ακανόνιστο σχήμα, με στενά κενά ή διαδρόμους από τους οποίους τα αεροσκάφη θα μπορούσαν να πετάξουν με ασφάλεια».
Για να το λύσει αυτό, το SMART παρέχει στην FAA και στους διαχειριστές εναέριου χώρου μια «σαφέστερη εικόνα για το πώς ο καιρός θα επηρεάσει την εναέρια κυκλοφορία σε βάθος χρόνου», επιτρέποντας στους ελεγκτές να σχεδιάζουν διαδρομές γύρω από τις καταιγίδες και να αξιοποιούν τον διαθέσιμο εναέριο χώρο, αντί να κλείνουν άσκοπα μεγάλες εκτάσεις.
Καμία άλλη χώρα δεν διαθέτει ένα λειτουργικό εργαλείο εναέριας κυκλοφορίας με Τεχνητή Νοημοσύνη όπως το σύστημα SMART, σύμφωνα με τον Μάικλ ΜακΚόρμικ, πρώην διευθυντή εναέριου χώρου της FAA και αναπληρωτή καθηγητή στο Αεροναυτικό Πανεπιστήμιο Embry-Riddle. Ο ευρωπαϊκός οργανισμός ελέγχου εναέριας κυκλοφορίας, Eurocontrol, διαθέτει ένα σύστημα σε δοκιμαστικό στάδιο, ενώ αρκετοί κατασκευαστές αναπτύσσουν πρωτότυπα παρόμοιων εργαλείων.
Ανησυχίες για την εξάρτηση από την Τεχνητή Νοημοσύνη
Παρότι κυβερνητικοί αξιωματούχοι και η ASI υπογραμμίζουν ότι το σύστημα AI έχει σχεδιαστεί για να υποβοηθά τους ανθρώπους και όχι να διευθύνει τις πτήσεις, η ανάπτυξή του έχει προκαλέσει ανησυχίες σχετικά με την εξάρτηση από την Τεχνητή Νοημοσύνη όταν διακυβεύονται ανθρώπινες ζωές, δεδομένου ότι ακόμη και τα πιο προηγμένα μοντέλα είναι επιρρεπή σε «παραισθήσεις» - στην κατασκευή δηλαδή ψευδών πληροφοριών τις οποίες παρουσιάζουν ως γεγονότα.
Ο Μάικ Ο’Ντόνελ, πρώην ανώτερος αξιωματούχος της FAA με 17ετή θητεία στην υπηρεσία και νυν σύμβουλος αεροπορικής ασφάλειας, τόνισε ότι η υπηρεσία «πρέπει να διασφαλίσει πως αυτό αποτελεί απλώς ένα εργαλείο στην εργαλειοθήκη και όχι την ίδια τη μηχανή που κάνει τη δουλειά». Η FAA, όπως είπε, «δεν έχει την πολυτέλεια να κάνει λάθος σε αυτό».
«Είναι καλό να χρησιμοποιείται με τις κατάλληλες δικλίδες ασφαλείας και μηχανισμούς ελέγχου, ώστε να διασφαλίζεται ότι δεν δίνονται λανθασμένες πληροφορίες στους ελεγκτές με βάση τα ευρήματα της Τεχνητής Νοημοσύνης», σημείωσε ο Ο’Ντόνελ. «Πρέπει να υπάρχει τρόπος επαλήθευσης και επικύρωσης όσων κάνει, ώστε να βεβαιωνόμαστε ότι δεν πρόκειται για εσφαλμένα δεδομένα».
Ο ίδιος προειδοποίησε κατά της υπερβολικής εμπιστοσύνης στην Τεχνητή Νοημοσύνη «μέχρι να γνωρίζουμε με βεβαιότητα ότι έχει αποδείξει την αξία της ξανά και ξανά. Και αυτό θα πάρει αρκετό χρόνο».
Η κυκλοφορία του συστήματος AI έρχεται εν μέσω μιας χρόνιας έλλειψης ελεγκτών εναέριας κυκλοφορίας σε ολόκληρη τη χώρα. Η Εθνική Ένωση Ελεγκτών Εναέριας Κυκλοφορίας κρούει τον κώδωνα του κινδύνου εδώ και πάνω από μία δεκαετία, έχοντας ενημερώσει το Κογκρέσο ήδη από το 2015 ότι η έλλειψη βρισκόταν σε επίπεδο κρίσης, καθώς η FAA αποτύγχανε να πιάσει τους στόχους προσλήψεων επί πέντε συναπτά έτη. Το συνδικάτο εκπροσωπεί περίπου 14.000 ελεγκτές, εκ των οποίων περίπου 3.000 είναι εκπαιδευόμενοι. Παρ' όλα αυτά, οι ειδικοί επισημαίνουν ότι κανένα σύστημα Τεχνητής Νοημοσύνης δεν μπορεί να αντικαταστήσει τους ανθρώπους ελεγκτές, οι οποίοι εκπαιδεύονται επί χρόνια για αυτή την εξαιρετικά απαιτητική και στρεσογόνο εργασία.
Σε συνέντευξή του στο ραδιοφωνικό δίκτυο NPR τον Οκτώβριο, ο συνιδρυτής και διευθύνων σύμβουλος της ASI, Φίλιπ Μπάκεντορφ, δήλωσε ότι το εργαλείο SMART έχει σχεδιαστεί για τους διαχειριστές κυκλοφορίας που εποπτεύουν το σύνολο του αμερικανικού εναέριου χώρου.
«Η Τεχνητή Νοημοσύνη κάνει τα μαθηματικά, κάνει τους υπολογισμούς», ανέφερε ο Μπάκεντορφ στο NPR, αλλά εναπόκειται τελικά στον άνθρωπο-χειριστή το αν θα υιοθετήσει τη σύσταση του συστήματος. «Εκείνοι λαμβάνουν την απόφαση, εκείνοι είναι οι τελικοί κριτές».
Πηγή: Associated Press




























