Είναι πολλά χρόνια τώρα που βιώνουμε μία διαρκή υποβάθμιση της δημοκρατίας ως πολίτευμα, αλλά και των δημοκρατικών δικαιωμάτων των πολιτών, σχεδόν στο σύνολο των δυτικών δημοκρατιών. Δεκαετίες νεοφιλελευθερισμού περιθωριοποιούν συστηματικά μεγάλα λαϊκά και μεσαία στρώματα διαβρώνοντας ένα βασικό θεμέλιο του δημοκρατικού πολιτεύματος: την δυνατότητα να ζουν οι πολίτες χωρίς να κάνουν τρεις και τέσσερεις δουλειές. Ο τρομακτικός εναγκαλισμός ΜΜΕ και ολιγαρχών, η μετατόπιση μεγάλου μέρους των ουσιαστικών αποφάσεων σε τράπεζες και εξωθεσμικά κέντρα (θυμηθείτε το περίφημο Eurogroup), τα κόμματα που ψηφίζουν μνημόνια χωρίς καν να τα διαβάζουν, αλλά και πιο πρόσφατα οι υποκλοπές και ο ασφυκτικός κυβερνητικός έλεγχος της δικαιοσύνης είναι μερικά μόνο από τα παραδείγματα που αποδεικνύουν μία μεγάλη αλήθεια. Ο αλγόριθμος της δημοκρατίας μας είναι ήδη βαθιά προβληματικός και δυσλειτουργικός.
Αυτός ο ήδη προβληματικός αλγόριθμος, έρχεται πλέον αντιμέτωπος με την αναδυόμενη δημοκρατία των αλγορίθμων, δηλαδή την σοβαρή αναδιάρθρωση της δημοκρατίας που επιφέρει η πλημμυρίδα της τεχνητής νοημοσύνης.
Μία ματιά στην ιστορία
Κάθε μεγάλη τεχνολογική επανάσταση ανακάτευε την τράπουλα της εξουσίας και ξαναμοίραζε τα χαρτιά στους παίκτες. Πριν τον Γουτεμβέργιο, η γνώση ήταν μονοπώλιο της Εκκλησίας και των βασιλικών αυλών: τα χειρόγραφα κόστιζαν μια περιουσία, ήταν γραμμένα στα λατινικά και αντιγράφονταν από μοναχούς υπό αυστηρή εποπτεία. Η τυπογραφία έσπασε αυτό το μονοπώλιο με βίαιο τρόπο: οι 95 θέσεις του Λούθηρου (1517) διαδόθηκαν σε ολόκληρη την Ευρώπη μέσα σε εβδομάδες, μεταφρασμένες στις λαϊκές γλώσσες. Για πρώτη φορά, ο απλός πολίτης μπορούσε να διαβάσει, να αμφισβητήσει, να αντιλογήσει. Η τυπογραφία δεν ήταν απλώς μέσο επικοινωνίας, ήταν μία εφαρμοσμένη αποκέντρωση της γνώσης.
Σχεδόν τρεις αιώνες αργότερα, ο τηλέγραφος μείωσε τον χρόνο επικοινωνίας από εβδομάδες σε λεπτά. Αρχικά ενίσχυσε τις αποικιακές αυτοκρατορίες: η Βρετανία έστρωσε υποβρύχια καλώδια σε κάθε γωνιά της αυτοκρατορίας της. Ωστόσο σύντομα ο ίδιος ο τηλέγραφος έδωσε στα εθνικά και αποικιακά κινήματα τη δυνατότητα να οργανωθούν και να επικοινωνήσουν ταχύτερα από τους ίδιους τους αποικιοκράτες. Η οικονομική πληροφορία άρχισε να ταξιδεύει σε πραγματικό χρόνο, δημιουργώντας παγκόσμιες αγορές που ξέφευγαν από κάθε αυτοκρατορικό έλεγχο.
Το ραδιόφωνο, τις δεκαετίες του 1920 και 1930, υπήρξε η πρώτη τεχνολογία μαζικής, άμεσης και βαθιά συναισθηματικής επικοινωνίας. Ένας ρήτορας μπορούσε πλέον να μπει στα σαλόνια εκατομμυρίων ανθρώπων ταυτόχρονα, παρακάμπτοντας τη γραπτή επιχειρηματολογία και μιλώντας κατευθείαν στα ένστικτα. Δεν είναι τυχαίο ότι ο Χίτλερ, ο Μουσολίνι, αλλά και ο Ρούσβελτ ήταν όλοι εξαιρετικοί ραδιοφωνικοί ομιλητές: το μέσο ευνοούσε τη συναισθηματική, προσωπική γλώσσα έναντι της ψυχρής ορθολογικότητας.
Ερχόμενοι στις μέρες μας, τη δεκαετία του 1990, το διαδίκτυο χαιρετίστηκε ως η τεχνολογία που θα πραγματοποιούσε το αρχαίο ιδεώδες της άμεσης δημοκρατίας: κάθε πολίτης θα είχε φωνή, η πληροφορία θα ήταν ελεύθερη. Ωστόσο, πριν καν περάσουν δέκα χρόνια, το διαδίκτυο έχει μονοπωληθεί από 10-15 εταιρείες που ελέγχουν σχεδόν απόλυτα και αξιοποιούν προς όφελος τους ότι κυκλοφορεί σε αυτό. Παράλληλα, η διαρκής άνοδος του ρόλου των μεγάλων πλατφορμών και των κοινωνικών δικτύων μετέτρεψε γρήγορα το διαδίκτυο σε μηχανισμό παρακολούθησης και συστηματικής συλλογής δεδομένων, στρώνοντας το έδαφος για αυτό που σήμερα ονομάζουμε «αλγοριθμική διακυβέρνηση».
Σε όλες αυτές τις περιπτώσεις, όμως, η τεχνολογία ήταν ένα μέσο: μετέφερε πληροφορίες, επιτάχυνε επικοινωνία, διεύρυνε ή συμπίεζε τον δημόσιο χώρο. Η τεχνητή νοημοσύνη είναι κάτι θεμελιακά διαφορετικό: δεν μεταφέρει απλώς μηνύματα, τα παράγει, τα φιλτράρει και αποφασίζει ποια θα φτάσουν σε ποιον. Δεν επιταχύνει τη λήψη αποφάσεων, την υποκαθιστά. Αλγόριθμοι αξιολογούν καθηγητές και μαθητές, αποφασίζουν για τη βιωσιμότητα σχολείων, νοσοκομείων και ταχυδρομείων, απορρίπτουν και εγκρίνουν αιτήσεις δανείων, καθορίζουν ποινές σε δικαστήρια, επηρεάζουν εκλογικές προτιμήσεις. Και το κάνουν χωρίς ψηφοφορία, χωρίς διαβούλευση, χωρίς συνταγματικό έλεγχο. Οι προηγούμενες τεχνολογίες άλλαζαν το πεδίο της πολιτικής μάχης. Η τεχνητή νοημοσύνη συμμετέχει αυτή καθαυτή ενεργά στην πολιτική μάχη και οι εταιρείες που την ελέγχουν είναι μεγάλοι παίκτες με ισχυρό, διακριτό και καθοριστικό πλέον ρόλο στη διαμόρφωση γνώμης και τη λήψη αποφάσεων.
Η αλγοριθμική διάβρωση της δημοκρατίας
Το σκάνδαλο της Cambridge Analytica το 2016 έδειξε με τον πιο εύγλωττο τρόπο πώς η μαζική επεξεργασία δεδομένων χρηστών του Facebook μπορεί να μετατραπεί σε εργαλείο χειραγώγησης εκλογικής συμπεριφοράς, χωρίς καν οι ψηφοφόροι να το γνωρίζουν.
Εδώ αναδύεται μια από τις πιο εύστοχες ιδέες της σύγχρονης πολιτικής θεωρίας: το «αόρατο σύνταγμα του κώδικα». Οι κανόνες που ενσωματώνονται στους αλγορίθμους λειτουργούν ως άτυπο σύνταγμα: καθορίζουν τι επιτρέπεται, τι προβάλλεται, τι τιμωρείται. Με μια κρίσιμη διαφορά από κάθε επίσημο σύνταγμα: δεν ψηφίστηκαν από κανέναν, δεν υπόκεινται σε δημοκρατική διαβούλευση, δεν ελέγχονται από κανένα δικαστήριο. Έρευνες του MIT και του Wall Street Journal έχουν τεκμηριώσει ότι ο αλγόριθμος της Meta ευνοούσε συστηματικά το συναισθηματικά φορτισμένο, πολωτικό περιεχόμενο. Γιατί; Διότι παράγει περισσότερες αλληλεπιδράσεις και, άρα, περισσότερα έσοδα από διαφημίσεις. Περνώντας πολλές ώρες μέσα στα λεγόμενα κοινωνικά δίκτυα, ζούμε ήδη μέσα σε μια «αλγοριθμική διακυβέρνηση» που ελέγχεται από μια χούφτα τεχνολογικών κολοσσών αλλά και από κρατικούς μηχανισμούς που βλέπουν στην τεχνητή νοημοσύνη ένα εξαιρετικό εργαλείο κοινωνικού ελέγχου και χειραγώγησης.
Και όσο περισσότερα μαθαίνουμε και καταλαβαίνουμε για τα μεγάλα γλωσσικά μοντέλα, τόσο περισσότερο συνειδητοποιούμε ότι ο μύθος της «ουδέτερης» τεχνολογίας που τα αποτελέσματα της εξαρτώνται από το χρήστη είναι οριστικά νεκρός. Συστήματα προβλεπτικής αστυνόμευσης, όπως το COMPAS που χρησιμοποιείται σε αμερικανικά δικαστήρια για την εκτίμηση κινδύνου υποτροπής, παρουσιάζονται ως «αντικειμενικά». Ωστόσο η έρευνα του ProPublica έδειξε ότι το σύστημα χαρακτήριζε τους μαύρους κατηγορούμενους ως «υψηλού κινδύνου» σχεδόν διπλάσιες φορές σε σχέση με τους λευκούς. Ιστορικές προκαταλήψεις και πολιτικές επιλογές μεταμφιέζονται σε μαθηματικούς τύπους. Η τεχνητή νοημοσύνη δεν είναι λοιπόν απλώς τεχνολογικό, αλλά πρωτίστως συνταγματικό ζήτημα: κάθε γραμμή κώδικα που γράφεται χωρίς δημόσιο έλεγχο μπορεί να ξαναγράψει αθόρυβα τα κοινωνικά μας συμβόλαια και μαζί τους, να επανακαθορίσει αυτό που λέμε «δημοκρατία» και «δημοκρατικό πολίτευμα». Πόσο μάλλον, όταν οι μεγιστάνες της Silicon Valley δεν κρύβουν τις προθέσεις τους να εμπλέξουν τα προϊόντα τους σε όλο και περισσότερες κυβερνητικές δραστηριότητες ή και να αναλάβουν σοβαρό μέρος των εργασιών διακυβέρνησης.
Το πρόβλημα του μαύρου κουτιού
Για να είμαστε ακριβείς, βοηθήσαμε και οι ίδιοι στην αλγοριθμική διάβρωση, έστω και χωρίς να το πολυκαταλαβαίνουμε. Η αλγοριθμική διάβρωση της δημοκρατίας προχωρούσε σταδιακά, αθόρυβα, με τη συγκατάθεσή μας, με ήχωρίς συνδρομή. Κάθε φορά που αποδεχόμαστε τους όρους χρήσης χωρίς να τους διαβάσουμε, κάθε φορά που ο αλγόριθμος του Netflix αποφασίζει τι θα δούμε ή το Facebook τι θα μάθουμε για τον κόσμο, παραχωρούμε εθελοντικά την εξουσία λήψης αποφάσεων. Και το κάνουμε χωρίς αντάλλαγμα, χωρίς διαπραγμάτευση, χωρίς να γνωρίζουμε τι ακριβώς παραδίδουμε. Το θεμελιακό πρόβλημα είναι ότι με τον τρόπο αυτό παραχωρούμε πολλά και σημαντικά δικαιώματα, και κυρίως το δικαίωμα να μας παρακολουθούν, σε ιδιωτικούς μηχανισμούς που δεν υποχρεούνται να δικαιολογήσουν τίποτα, σε κανέναν.
Και δεν αναφέρομαι μόνο στις εταιρείες – πλατφόρμες, αλλά και σε κυβερνητικούς μηχανισμούς. Το παράδειγμα της Ολλανδίας είναι διδακτικό. Το σύστημα SyRI, που αξιολογούσε αλγοριθμικά τον κίνδυνο απάτης στις κοινωνικές παροχές, κρίθηκε παράνομο από ολλανδικό δικαστήριο το 2020 διότι έπληττε δυσανάλογα φτωχές οικογένειες και μετανάστες. Το σύστημα όμως λειτούργησε για χρόνια χωρίς κανείς να γνωρίζει πώς ακριβώς και με λεπτομέρεια πως έπαιρνε αποφάσεις. Η διαφάνεια ήρθε μόνο μέσα από δικαστική προσφυγή, όχι από πολιτική βούληση, όχι από κοινοβουλευτικό έλεγχο, όχι από δημόσια πίεση. Αυτό δεν είναι τεχνικό σφάλμα: είναι δομικό χαρακτηριστικό ενός συστήματος που σχεδιάστηκε για να μην λογοδοτεί.
Το «μαύρο κουτί» της αλγοριθμικής εξουσίας έχει τρεις αλληλένδετες διαστάσεις. Η πρώτη είναι η τεχνική αδιαφάνεια: ακόμα κι αν κάποιος δει τον κώδικα, τα μοντέλα μηχανικής μάθησης είναι τόσο πολύπλοκα που ούτε οι δημιουργοί τους μπορούν να εξηγήσουν πάντα γιατί έφτασαν σε μια συγκεκριμένη απόφαση. Η δεύτερη είναι το εμπορικό απόρρητο: οι εταιρείες επικαλούνται την προστασία πνευματικής ιδιοκτησίας για να αποκρύπτουν τη λειτουργία των συστημάτων τους, αποφεύγοντας μεθοδικά τη λογοδοσία μέσω νομικών εμποδίων. Η τρίτη, και πιο ανησυχητική, είναι η πολιτική αδιαφάνεια: κυβερνήσεις προμηθεύονται συστήματα τεχνητής νοημοσύνης χωρίς δημόσια διαβούλευση, χωρίς κοινοβουλευτικό έλεγχο, χωρίς αξιολόγηση των αναμενόμενων επιπτώσεων.
Όταν η αλήθεια γίνεται διακοσμητική
Η δημοκρατία έχει ένα αθόρυβο προαπαιτούμενο που σπάνια συζητάμε: πρέπει να συμφωνούμε στα γεγονότα για να μπορούμε να διαφωνούμε πολιτικά. Πρέπει να αποδεχόμαστε ότι βρέχει, για να συζητήσουμε αν χρειαζόμαστε ομπρέλα. Αν δεν υπάρχει αυτός ο κοινός τόπος, αν ο καθένας ζει στη δική του εκδοχή της πραγματικότητας, τότε δεν έχουμε πολιτική διαφωνία. Έχουμε χάος. Και αυτό ακριβώς απειλεί να προκαλέσει η τεχνητή νοημοσύνη: όχι να μας ξεγελάσει μεμονωμένα, αλλά να διαλύσει τον κοινό τόπο της πραγματικότητας πάνω στον οποίο στηρίζεται κάθε δημοκρατική διαδικασία.
Πάρτε το παράδειγμα των deepfakes, αυτά τα πολύ πειστικά ψεύτικα βίντεο που κατασκευάζουν ομιλίες και πράξεις που ποτέ δεν έγιναν. Το πρόβλημα, όμως, δεν είναι μόνο η συστηματική κατασκευή ψεμάτων, άλλωστε αυτό είναι κάτι στο οποίο διακρίνονται οι δυτικές δημοκρατίες: ακόμα ψάχνουμε να βρούμε τα πυρηνικά του Σαντάμ που ήταν η βασική δικαιολογία για την καταστροφή του Ιράκ από τις ΗΠΑ. Το θέμα είναι ότι σε έναν κόσμο γεμάτο deepfakes, κάθε αληθινό σκάνδαλο μπορεί να απορριφθεί ως πλαστό. Η ίδια η έννοια της αλήθειας που οφείλει να αποδεικνύεται κλονίζεται, και μαζί της, κάθε δυνατότητα λογοδοσίας.
Η πλημμυρίδα ψεύτικου και παραπλανητικού περιεχομένου δεν θέλει να μας πείσει για κάτι συγκεκριμένο. Θέλει να μας κάνει να σταματήσουμε να πιστεύουμε σε οτιδήποτε. Όταν δεν μπορείς να ξεχωρίσεις την αλήθεια από το ψέμα, αποσύρεσαι, γίνεσαι κυνικός, απαθής. Και τότε, όταν αποκαλυφθεί ένα πραγματικό ζήτημα, η απάντηση έτοιμη: «Μην πιστεύετε τα μάτια σας». Είναι το χαρτί που έπαιξε ο Τραμπ με τα βίντεο των εν ψυχρώ δολοφονιών στη Μινεσότα. Αλλά και το χαρτί που έπαιξε πρόσφατα ο υπουργός Υγείας με το περίφημο βίντεο που δεν έστειλε ποτέ, σε βάρος όλων των βίντεο και φωτογραφιών που διέψευδαν τους ισχυρισμούς του.
Η αναζήτηση της αλήθειας, ακόμα και από επαγγελματίες δημοσιογράφους, γίνεται μια βαθιά ασύμμετρη μάχη στην εποχή των διαδικτυακών τρολς και των Ομάδων Αλήθειας. Είναι σαν να προσπαθείς να γεμίσεις ένα ποτήρι με καθαρό νερό, ενώ δίπλα σου ένας αγωγός ρίχνει τόνους λάσπης το δευτερόλεπτο. Το BuzzFeed News, κάποτε πρωτοπόρο στη διαδικτυακή δημοσιογραφία, έκλεισε το 2023, εν μέρει επειδή δεν μπορούσε να σταθεί οικονομικά. Αντίθετα, ιστοσελίδες γεμάτες με φτηνό - δωρεάν «περιεχόμενο» τεχνητής νοημοσύνης αντλούν διαφημιστικά έσοδα χωρίς κανένα δημοσιογραφικό κόστος.
Και φυσικά, είναι σχεδόν αδύνατο να πετύχουμε οποιαδήποτε βελτίωση όσο επιτρέπουμε στις πλατφόρμες να κερδίζουν δισεκατομμύρια από διαφημίσεις δίπλα σε deepfakes και να αποποιούνται κάθε ευθύνη. Αν ο αλγόριθμός σου προωθεί το ψέμα επειδή φέρνει κλικ, πρέπει να πληρώνεις το κόστος της ζημιάς που προκαλείς, όπως ακριβώς οφείλει να πληρώνει ένα εργοστάσιο για τη ρύπανση που εκπέμπει. Ως κοινωνία, δεν λέμε ποτέ στους πολίτες «μάθετε να αναπνέετε λιγότερο τοξικό αέρα». Φτιάχνουμε νομοθεσία και βάζουμε φίλτρα στα εργοστάσια και πρόστιμα στους ρυπαίνοντες. Η λογική της ατομικής ευθύνης (μάθε να ξεχωρίζεις τα fake news) είναι εξίσου ανεπαρκής απέναντι στη βιομηχανική κλίμακα παραγωγής παραπληροφόρησης.
Η τεχνολογία θα μπορούσε, η αγορά όχι
Θα μπορούσα να γράψω πολλά ακόμα για τον τρόπο που η εκτεταμένη χρήση της τεχνητής νοημοσύνης αναδιαμορφώνει το δημοκρατικό πολίτευμα ή έστω ότι έχει απομείνει από αυτό. Ωστόσο δεν είναι οι αλγόριθμοι που δημιουργούν την κρίση της δημοκρατίας.
Η κρίση αυτή εξελίσσεται εδώ και πολλά χρόνια με θεμέλιο τις αυξανόμενες ανισότητες, την υπέρμετρη συγκέντρωση πλούτου, την αποδόμηση του δημόσιου τομέα, αλλά και τη δημιουργία υπερεθνικών ελίτ που αποφασίζουν χωρίς καμία δημοκρατική νομιμοποίηση.
Η δημοκρατία των αλγορίθμων έρχεται να ενισχύσει ακόμα περισσότερο όλες αυτές τις διαστάσεις. Επιταχύνει και ψηφιοποιεί την κρίση της δημοκρατίας, δημιουργεί ακόμα μεγαλύτερη αδιαφάνεια στις αποφάσεις και μετατρέπει την όποια συμμετοχή σε τυποποιημένο βιομηχανικό προϊόν με όρους προσφοράς και ζήτησης. Οι όποιες θετικές επιπτώσεις ισοπεδώνονται κυριολεκτικά από το γεγονός ότι δισεκατομμύρια άνθρωποι εντάσσονται ταχύτατα σε ένα τεχνολογικό οικοσύστημα απόλυτα ελεγχόμενο από μία δύο κυβερνήσεις, μία χούφτα εταιρείες και μερικές εκατοντάδες στελέχη.
Όσοι πιστεύουν ακόμη ότι η τεχνητή νοημοσύνη είναι ένα εργαλείο και τα αποτελέσματα που θα φέρει εξαρτώνται από τον χρήστη, πρέπει να το ξανασκεφτούν. Η υπαρκτή τεχνητή νοημοσύνη της εποχής μας είναι οργανικό στοιχείο ενός οικοσυστήματος μίας παγκόσμιας δομής με στόχο την κυριαρχία. Και η διαρκής και ανεξέλεγκτη επέκταση και γενίκευση της χρήσης της στη δημόσια διακυβέρνηση παραδίδει όλο και περισσότερα κλειδιά της ζωής μας σε άγνωστα χέρια. Μετά από μερικά χρόνια, φοβάμαι ότι η ήδη ρηχή και προβληματική λιμνοθάλασσα της δημοκρατίας μας θα χωράει ολόκληρη σε μία γυάλα από αυτές που φιλοξενούμε τα χρυσόψαρα.
Θεωρητικά, τα επιστημονικά επιτεύγματα της τεχνητής νοημοσύνης θα μπορούσαν να αξιοποιηθούν και διαφορετικά, ενισχύοντας τη δημοκρατία. Είναι όμως τραγική αυταπάτη να πιστεύει κανείς ότι αυτό μπορεί να γίνει εντός του σημερινού οικοσυστήματος και της αγοράς της υπαρκτής τεχνητής νοημοσύνης.
Χρειαζόμαστε δημόσιες ψηφιακές υποδομές και εργαλεία ανοιχτού κώδικα υπό δημοκρατικό έλεγχο. Χρειαζόμαστε πλατφόρμες που να λογοδοτούν στους πολίτες και όχι στους μετόχους. Πρέπει να σταματήσουμε να ζητάμε από τους ίδιους που αποδόμησαν τη δημοκρατία να μας την επιστρέψουν, έστω και αλγοριθμικά. Η δημοκρατία δεν είναι εφαρμογή που κατεβάζεις. Είναι κοινωνική κατάκτηση που χάνεται όταν σταματάς να την υπερασπίζεσαι. Και αυτό ακριβώς είναι το πρόβλημα της εποχής μας…
(Ο Αντώνης Μαυρόπουλος είναι σύμβουλος κυκλικής οικονομίας και συγγραφέας του βιβλίου «Τεχνητή Νοημοσύνη – Άνθρωπος, Φύση, Μηχανές», εκδόσεις Τόπος)
