Σύμφωνα με την ειδησεογραφία, η Αλβανία έγινε η πρώτη χώρα στον κόσμο η οποία θα έχει υπουργό που δεν θα είναι φυσικό πρόσωπο. Η νέα υπουργός Diella (Ντιέλα), που στα αλβανικά σημαίνει «ήλιος», είναι ένα ακαθορίστων λεπτομερειών λογισμικό τεχνητής νοημοσύνης, το οποίο αποτελεί μετεξέλιξη ενός ψηφιακού βοηθού (e-Albania) που καθοδηγούσε τους πολίτες σε ένα μεγάλο φάσμα ψηφιακών δράσεων όπως εκδόσεις πιστοποιητικών, υπεύθυνες δηλώσεις κ.ο.κ.. Σύμφωνα με τον πρωθυπουργό της Αλβανίας Έντι Ράμα, η Ντιέλα θα αναλάβει την ευθύνη για το αδιάβλητο των δημόσιων συμβάσεων και προμηθειών και θα εξετάζει κάθε δημόσιο διαγωνισμό, αξιολογώντας αντικειμενικά τις ιδιωτικές εταιρείες και τις προσφορές τους. Ο Ράμα θεωρεί την τεχνητή νοημοσύνη ως ένα αποτελεσματικό εργαλείο κατά της διαφθοράς που θα εξαλείψει τις δωροδοκίες, τις απειλές και τις συγκρούσεις συμφερόντων.
Η προσπάθεια είναι οπωσδήποτε φιλόδοξη αλλά έχει και σαφή συμβολικό χαρακτήρα. Μία πρώτη ανάγνωση είναι η επιστράτευση της υψηλής τεχνολογίας στην αντιμετώπιση του προβλήματος της διαφθοράς που ταλανίζει την Αλβανία (αλλά και γειτονικές της χώρες). Ωστόσο μία τέτοια ανάγνωση τρακάρει άσχημα με την πραγματικότητα: η διαφθορά στην Αλβανία δεν είναι μία τεχνική παρέκκλιση που μπορεί να εντοπιστεί με τεχνολογικά μέσα και να διορθωθεί. Παρέκκλιση είναι η έλλειψη διαφθοράς σε δημόσιους διαγωνισμούς. Η διαφθορά έχει βαθιές κοινωνικές και πολιτικές ρίζες, εξαπλώνεται σε όλα τα επίπεδα διακυβέρνησης, είναι ένα σύστημα σχέσεων και συμφερόντων που διαπερνά και ενιαιοποιεί τους θεσμούς, τα μεγάλα κόμματα, τους μηχανισμούς διαφήμισης, τις τράπεζες, τα μέσα ενημέρωσης και τις μεγάλες επιχειρήσεις σε αυτό που οι ίδιοι ονομάζουν «κανονικότητα» και «ομαλότητα».
Αν υποθέσουμε ότι ο Ράμα είναι ειλικρινής (κάτι που έντονα αμφισβητείται από πολλές πλευρές) και οι σχετικές ανακοινώσεις του δεν είναι μία πομφόλυγα δημοσίων σχέσεων και αυτοδιαφήμισης, τότε πρέπει να απαντηθούν ορισμένα δύσκολα ερωτήματα. Μπορεί ένα λογισμικό να αντιμετωπίσει τις πελατειακές σχέσεις; Μπορεί να καταργήσει τα δίκτυα διαπλοκής ανάμεσα σε πολιτικούς και επιχειρηματίες; Μπορεί να αποτρέψει τη «σιωπή» μιας κοινωνίας που φοβάται ή έχει συνηθίσει στη συναλλαγή; Μπορεί να επιβάλλει το κράτος δικαίου σε μια βαθιά διεφθαρμένη δικαιοσύνη που ερμηνεύει τους νόμους ανάλογα με την οικονομική κατάσταση των εμπλεκόμενων και τις κυβερνητικές εντολές; Μπορεί να κόψει τον ομφάλιο λώρο μεταξύ μεγάλων εργοληπτικών εταιρειών και μέσων μαζικής ενημέρωσης; Μπορεί να εντοπίσει δίκτυα παρανομίας που μετατρέπουν με νομιμοφανή τρόπο ευρωπαϊκά κονδύλια αναπτυξιακού χαρακτήρα σε Μερσεντές, Πόρσε και εξοχικά;
Τι μπορεί να κάνει η τεχνητή νοημοσύνη;
Είναι προφανές ότι η απάντηση είναι ένα μεγάλο ΟΧΙ. Δεν υπάρχει αμφιβολία ότι η τεχνητή νοημοσύνη μπορεί να παίξει σημαντικό ρόλο στην πρόληψη και τον περιορισμό φαινομένων διαφθοράς, υπό ορισμένες κοινωνικές και πολιτικές προϋποθέσεις. Ειδικά στον τομέα των δημόσιων προμηθειών, που διεθνώς θεωρείται «θερμοκήπιο» για σκάνδαλα, οι αλγόριθμοι μπορούν να αναλύουν τεράστιες βάσεις δεδομένων και να εντοπίζουν ανωμαλίες. Μπορούν, για παράδειγμα, να «σημαίνουν συναγερμό» όταν ένας μικρός αριθμός εταιρειών κερδίζει το μεγαλύτερο μέρος των συμβάσεων, όταν παρατηρούνται ασυνήθιστες υπερβάσεις κόστους ή όταν οι όροι ενός διαγωνισμού μοιάζουν σχεδιασμένοι για να ταιριάζουν με έναν μόνο προμηθευτή. Στη Χιλή, μια χώρα που τα τελευταία χρόνια έχει επενδύσει σε ψηφιακά εργαλεία διαφάνειας, πλατφόρμες ανοικτών δεδομένων έχουν ήδη βοηθήσει ερευνητές και δημοσιογράφους να αποκαλύψουν ύποπτα μοτίβα σε δημόσιες συμβάσεις. Στη Νότια Κορέα, η εισαγωγή αλγοριθμικών συστημάτων αξιολόγησης στις προσφορές οδήγησε σε μείωση καταγγελιών για «φωτογραφικούς» διαγωνισμούς.
Ωστόσο τα παραδείγματα άλλων χωρών δείχνουν ότι η ΤΝ από μόνη της δεν φτάνει. Στη Βραζιλία, τα προηγμένα λογισμικά παρακολούθησης οικονομικών ροών βοήθησαν να αποκαλυφθούν κολοσσιαία σκάνδαλα, αλλά τα ίδια ακριβώς εργαλεία χρησιμοποιήθηκαν άλλοτε ως όπλο εκκαθάρισης πολιτικών αντιπάλων, και άλλοτε ως φίλτρο συγκάλυψης. Στην Ινδία, οι πλατφόρμες ψηφιακών πληρωμών υποσχέθηκαν να περιορίσουν τη διαφθορά σε συναλλαγές «κάτω από το τραπέζι», αλλά η έλλειψη θεσμικού ελέγχου οδήγησε τελικά σε νέες μορφές κατάχρησης δεδομένων και εκβιασμών.
Τι νόημα έχει να εξαγνίζεις τις δημόσιες προμήθειες μέσω ενός «ψηφιακού υπουργού», αν η υπόλοιπη διοικητική και πολιτική δομή και κουλτούρα παραμένει αλώβητη; Τι νόημα έχει ο ψηφιακός έλεγχος δημοπρασιών και συμβάσεων αν αυτοί που προετοιμάζουν τα τεύχη δημοπράτησης συμμετέχουν στο καρτέλ των διαγωνιζόμενων και συνεννοούνται με την κυβέρνηση στο ανώτατο επίπεδο; Και τι επιπτώσεις θα έχει η όποια παράβαση αν το δικαστικό σύστημα αποτελεί το έσχατο καταφύγιο των μεγαλοαπατεώνων και οι πιθανοί μάρτυρες κατηγορίας τρομοκρατούνται με απειλές για τη ζωή τους κααι διασύρονται εκδικητικά στα δικαστήρια χωρίς καμία προστασία; Και το κυριότερο: ποιος και με ποιο τρόπο ελέγχει τι μπαίνει και τι βγαίνει στο λογισμικό ελέγχου των προμηθειών, ποιος καθορίζει ποιοι χρήστες βλέπουν ποιο περιεχόμενο, ποιος ρυθμίζει τις λεπτομέρειες του λογισμικού;
Πρακτικές εξαπάτησης
Υπάρχουν πολλοί τρόποι να κοροϊδέψεις ή να παρακάμψεις τους αλγοριθμικούς ελέγχους και τα κριτήρια τους. Δεν γνωρίζω λεπτομέρειες για την Αλβανία, αλλά όλοι ξέρουμε ότι στην Ελλάδα, κατά τη διάρκεια της πανδημίας αναφέρθηκαν αρκετά περιστατικά παράκαμψης του συστήματος των ηλεκτρονικών ραντεβού, περιστατικά ειδικών κωδικών που χρησιμοποιούσαν κρυφά παράθυρα του λογισμικού, ξαφνικές «χειροκίνητες» αλλαγές στη σειρά των ραντεβού κ.ο.κ. Αν αυτά έγιναν για την προτεραιότητα στα ραντεβού εμβολιασμού, είναι δύσκολο να φανταστούμε ότι δεν θα γίνουν σε ένα λογισμικό που θα ελέγχει τους αναδόχους συμβάσεων εκατοντάδων εκατομμυρίων ευρώ. Επιπλέον, όπως όλοι γνωρίζουμε, πάλι στην Ελλάδα, το αδιάβλητο και τεχνολογικά προηγμένο σύστημα των ραντεβού εμβολιασμού χρησιμοποιήθηκε για την παγίδευση πολιτών – στόχων στο σκάνδαλο με τις υποκλοπές, καθώς τα σχετικά μηνύματα αποστέλλονταν στοχευμένα, ακριβώς τη στιγμή που γινόταν ο προγραμματισμός του ραντεβού.
Επιτρέψτε μου να παραθέσω μερικούς πρακτικούς τρόπους εξαπάτησης, που ήδη εφαρμόζονται με επιτυχία. Συχνά, εμφανίζονται κανονικές προσφορές από διαφορετικές εταιρείες που συμφωνούν εκ των προτέρων για το ποιος θα αναλάβει τον διαγωνισμό, μοιράζοντας τα κέρδη ή ανταλλάσσοντας αναθέσεις σε διαδοχικούς διαγωνισμούς. Εφόσον οι προσφορές είναι τυπικά σωστές και δεν εμφανίζεται μονοπώλιο ή ασυνήθιστο μοτίβο, κανένα λογισμικό δεν εντοπίζει παρεκκλίσεις. Μία δεύτερη τακτική είναι ότι το έργο ανατίθεται σε μία εταιρεία, η οποία στη συνέχεια παραχωρεί σχεδόν το σύνολο της δουλειάς σε άλλους, με τη μορφή νόμιμης υπεργολαβίας. Τα επίσημα δεδομένα, ξανά, δεν αποδεικνύουν τίποτα προβληματικό για να τραβήξει την προσοχή της τεχνητής νοημοσύνης. Μία άλλη πολύ συνηθισμένη τακτική είναι ότι οι όροι συμμετοχής στον διαγωνισμό προσαρμόζονται ώστε να αποκλείουν ανεπιθύμητους παίκτες, χωρίς να φαίνεται στα δεδομένα ή σε συνήθη metadata (π.χ. πολύ εξειδικευμένες τεχνικές απαιτήσεις). Και αν όλα αυτά δε φτάνουν, τότε πάντα εφευρίσκονται παράθυρα εξαιρέσεων που επιτρέπουν καίρια κομμάτια πληροφόρησης, όπως αλλαγές όρων, απαντήσεις ερωτήσεων ή αποκλεισμοί συμμετεχόντων να καταγράφονται έγχαρτα, οπότε η τεχνητή νοημοσύνη δεν θα έχει εικόνα της διαδικασίας. Οι παραπάνω πρακτικές βασίζονται στη χρήση ανθρώπινης προσυνεννόησης, παρασκηνιακών επαφών και διοικητικών τεχνασμάτων που δεν αποτυπώνονται σε ψηφιακά δεδομένα. Τα λογισμικά τεχνητής νοημοσύνης ανιχνεύουν ότι μπορεί να μετρηθεί και να αναλυθεί αλγοριθμικά, αλλά όχι ότι δεν αφήνει τεχνικό ίχνος ή έχει φυσιολογικά χαρακτηριστικά στα σύνολα δεδομένων.
Οι θεσμικές προϋποθέσεις
Θα μπορούσε να χρησιμοποιηθεί η τεχνητή νοημοσύνη έστω ως αφετηρία για περισσότερη διαφάνεια και λιγότερη διαφθορά; Ναι, θα μπορούσε, αλλά αυτό θα ήταν αποτελεσματικό μόνο υπό συγκεκριμένες θεσμικές και τεχνολογικές προϋποθέσεις. Το πρώτο και κρισιμότερο βήμα είναι η καθιέρωση ανοικτών δεδομένων σε διεθνή πρότυπα, όπως το OCDS (Open Contracting Data Standard). Όλα τα στάδια της διαδικασίας – από την προκήρυξη μέχρι την τελική πληρωμή – πρέπει να καταγράφονται, να δημοσιεύονται και να είναι ελεύθερα προσβάσιμα, ώστε έλεγχοι και ανιχνεύσεις να είναι εφικτές από πολίτες, ερευνητές και ΜΚΟ.
Η λογοδοσία αποτελεί τον δεύτερο ακρογωνιαίο λίθο. Κάθε απόφαση, κάθε αξιολόγηση και κάθε αποκλεισμός ή αλλαγή συμβολαίου πρέπει να αφήνει ηλεκτρονικό αποτύπωμα, με χρονοσήμανση και πλήρη τεκμηρίωση. Αυτό όχι μόνο εμποδίζει τη συγκάλυψη ευθυνών, αλλά δημιουργεί ένα περιβάλλον όπου ακόμα και τα λάθη είναι ανιχνεύσιμα και διορθώσιμα, ενισχύοντας το κύρος του συστήματος.
Ο ανοιχτός πηγαίος κώδικας και οι διαφανείς κανόνες ανίχνευσης παρατυπιών είναι προϋπόθεση για τον κοινωνικό έλεγχο. Όταν οι αλγόριθμοι που χρησιμοποιούνται είναι δημόσια προσβάσιμοι, κάθε ενδιαφερόμενος μπορεί να ελέγχει για λάθη, να καταγγείλει τυχόν «τρύπες» και να προτείνει βελτιώσεις. Δημοκρατικά εποπτευόμενη τεχνητή νοημοσύνη σημαίνει ότι υπάρχουν μηχανισμοί διαφάνειας, διαρκής εξωτερικός έλεγχο και ακόμη «bug bounties»—βραβεία σε όσους εντοπίζουν αδυναμίες του συστήματος. Τέλος, θεμέλιο όλων είναι οι θεσμικές εγγυήσεις. Η τεχνητή νοημοσύνη οφείλει να λειτουργεί σε περιβάλλον όπου απαγορεύονται οι ασυμβίβαστες σχέσεις δημοσίων υπαλλήλων και προμηθευτών, ενώ πρέπει να υπάρχουν γρήγοροι τρόποι προσφυγής σε περιπτώσεις λανθασμένων ή ύποπτων αποφάσεων. Χωρίς θεσμικό πλαίσιο διαφάνειας και κοινωνικού ελέγχου, καμία τεχνητή νοημοσύνη δεν μπορεί να εγγυηθεί αδιάβλητες προμήθειες. Ανεξάρτητες αρχές, δικαστήρια, ελεγκτικοί μηχανισμοί, οργανώσεις πολιτών πρέπει να έχουν πρόσβαση και δικαιοδοσία να ελέγχουν τις αποφάσεις
Η τεχνολογία δεν είναι ποτέ ουδέτερη. Αν το πολιτικό περιβάλλον παραμένει βαθιά διαπλεκόμενο, αν οι επιχειρηματίες με τους πολιτικούς και τα κόμματα γίνονται ένα και το αυτό, αν η πολιτική καριέρα είναι τρόπος να βγουν πολλά λεφτά και η επιχειρηματική καριέρα στοχεύει στην πολιτική επιρροή, αν οι κοινοβουλευτικές ομάδες γνωστών επιχειρηματιών είναι μεγαλύτερες από πολλών μικρών κομμάτων, αν οι θεσμοί δεν έχουν ανεξαρτησία, τότε η τεχνητή νοημοσύνη αντί να δώσει λύσεις γίνεται η «βιτρίνα» ενός συστήματος που συνεχίζει να λειτουργεί με τους ίδιους κανόνες, γυαλισμένο όμως με την πατίνα της υψηλής τεχνολογίας και της «αξιοπιστίας» που αυτή φέρνει. Σε μία χώρα που η διαφθορά χτυπάει μπιέλα, καμία Ντιέλα δεν μπορεί να εγγυηθεί διαφάνεια και να μειώσει τη διαφθορά. Και τώρα που τελειώνω το άρθρο, συνειδητοποιώ ότι αν άλλαζα τη λέξη «Αλβανία» με τη λέξη «Ελλάδα» το άρθρο θα παρέμενε ολόιδιο και εξίσου επίκαιρο…
(Ο Αντώνης Μαυρόπουλος είναι σύμβουλος κυκλικής οικονομίας και συγγραφέας του βιβλίου «Τεχνητή Νοημοσύνη – Άνθρωπος, Φύση, Μηχανές», εκδόσεις Τόπος)
