Καθημερινά γινόμαστε αποδέκτες συζητήσεων που σχετίζονται με τη χρήση εργαλείων τεχνητής νοημοσύνης (ΤΝ). Είναι αλήθεια ότι το γνωστό πλέον Chat GPT και άλλα μοντέλα τεχνητής νοημοσύνης μας αφήνουν άφωνους με τις δυνατότητες τους. Με βάση τις μελέτες της Precedence Research το μέγεθος της παγκόσμιας αγοράς ΤΝ αποτιμήθηκε σε 454 δισεκατομμύρια δολάρια το 2022 και αναμένεται να φτάσει περίπου τα 2.575 δισεκατομμύρια δολάρια έως το 2032. Η ΤΝ βρίσκει πληθώρα εφαρμογών στον τομέα της υγείας, στις χρηματο-οικονομικές αγορές, στα αυτόνομα οχήματα, στα έξυπνα εργοστάσια, στις έξυπνες πόλεις και υποδομές, στην εκπαίδευση, στη γεωργία, στην εν γένει διαχείριση και στατιστική επεξεργασία μεγάλων δεδομένων. Λόγω της μεγάλης της επίδρασης, έχει προκαλέσει εκρηκτικές επενδύσεις κυρίως από τους τεχνολογικούς κολοσσούς (Microsoft, Google, Amazon, κ.α.).
Αναμφίβολα, πέρα από τις προφανείς θετικές επιδράσεις της ΤΝ, διαμορφώνεται παγκοσμίως σκεπτικισμός για τις απειλές και τους κινδύνους που τη συνοδεύουν. Οι φόβοι είναι δικαιολογημένοι, αν σκεφτεί κανείς ότι μοντέλα ΤΝ χρησιμοποιήθηκαν ευρέως στην Κίνα για τη μαζική παρακολούθηση πολιτών κατά την περίοδο του COVID-19, ενώ το Ισραήλ σήμερα αξιοποιεί νέα συστήματα ΤΝ στις επιχειρήσεις στη Γάζα για την «έξυπνη» αποκάλυψη στόχων. Η ΤΝ, με τους ρυθμούς ανάπτυξης που καταγράφει γίνεται καθημερινά όλο και πιο ισχυρή, άρα και πιο απειλητική για τις ζωές μας και μπορεί να οδηγήσει σε κατάργηση πολλών επαγγελμάτων λόγω μαζικής αυτοματοποίησης, σε μεροληψία και διακρίσεις, σε μαζική παρακολούθηση των πολιτών και σε χειραγώγηση της παγκόσμιας κοινής γνώμης με την παραγωγή ιδιαιτέρως πειστικών ψευδών ειδήσεων (deepfake) και τη στοχευμένη προπαγάνδα.
Στη διεθνή γεωπολιτική κούρσα επικράτησης στις τεχνολογίες ΤΝ, η Ευρώπη πρωταγωνιστεί στη θέσπιση ισχυρής νομοθεσίας για τις αναδυόμενες τεχνολογίες με τη νομική πράξη EU AI ACT. Στόχος του νέου νόμου είναι να προωθήσει αξιόπιστη TN στην Ευρώπη και πέραν αυτής, διασφαλίζοντας ότι τα συστήματα TN σέβονται τα θεμελιώδη δικαιώματα, την ασφάλεια και τις ηθικές αρχές.
Ο νόμος της ΕΕ για την TN υιοθετεί μια προσέγγιση βασισμένη στον κίνδυνο, καθιερώνοντας τέσσερις κατηγορίες κινδύνου για TN: απαράδεκτος κίνδυνος, υψηλός κίνδυνος, περιορισμένος κίνδυνος και ελάχιστος κίνδυνος. Με βάση την αρχική πρόταση του Ευρωπαϊκού Κοινοβουλίου για την EU AI ACT, στην κατηγορία του απαράδεκτου κινδύνου ανήκαν εφαρμογές που απειλούν τα δικαιώματα των πολιτών, συμπεριλαμβανομένων βιομετρικών συστημάτων κατηγοριοποίησης. Στις εφαρμογές υψηλού ρίσκου συγκαταλέγονται συστήματα ΤΝ που εφαρμόζονται σε υποδομές ζωτικής σημασίας, εκπαίδευση και επαγγελματική κατάρτιση, απασχόληση, βασικές ιδιωτικές και δημόσιες υπηρεσίες, μετανάστευση, διαχείριση συνόρων κ.α. Τέτοια συστήματα πρέπει να αξιολογούν και να μειώνουν τους κινδύνους, να διατηρούν αρχεία καταγραφής χρήσης, να είναι διαφανή και να διασφαλίζουν την ανθρώπινη εποπτεία.
Αν και η νομοθετική πράξη κρίνεται ως συνολικά θετική, θα πρέπει να επισημανθεί ότι η τελική έκδοση που ψηφίστηκε τον Μάρτιο του 2024 από το Ευρωπαϊκό Κοινοβούλιο είναι σαφώς λιγότερο φιλόδοξη σε σχέση με τις αρχικές επεξεργασίες. Για παράδειγμα, η αρχική καθαρή θέση του Ευρωπαϊκού Κοινοβουλίου για απαγόρευση της αναγνώρισης προσώπου σε πραγματικό χρόνο σε δημόσιους χώρους ουσιαστικά αλλοιώνεται από έναν μακρύ κατάλογο εξαιρέσεων. Συνεπώς, με πρόσχημα την ασφάλεια σε εποχές μεγάλης αβεβαιότητας, πολλά από τα αρχικώς θεωρούμενα απαράδεκτα συστήματα, τίθενται στις κατηγορίες υψηλού κινδύνου.
Η Αριστερά και τα κινήματα που ασχολούνται με τα δικαιώματα στον ψηφιακό χώρο δεν πρέπει να επαναπαυθούν. Δυστυχώς ο νέος κανονισμός δίνει χώρο στην ανάπτυξη πολλών εφαρμογών υψηλού ρίσκου για τα ανθρώπινα δικαιώματα, ωστόσο δίνει το δικαίωμα στους πολίτες να υποβάλλουν παράπονα για συστήματα ΤΝ και να ζητούν εξηγήσεις σχετικά με αποφάσεις που αυτά λαμβάνουν ενισχύοντας τη λογοδοσία. Συνεπώς η Αριστερά οφείλει να έρθει σε επαφή με κοινωνικά κινήματα που αντιλαμβάνονται ότι η ΤΝ μπορεί να γίνει ένα πανίσχυρο όπλο στα χέρια της κάθε μορφής εξουσίας, να ενημερώσει τους πολίτες για τον νέο κανονισμό και να οργανώσει το δικό της παρατηρητήριο για την ΤΝ, με σκοπό να δημιουργηθεί ένας κοινωνικός ελεγκτικός μηχανισμός κυρίως για συστήματα ΤΝ υψηλού κινδύνου.
(Ο Αντώνης Μπόγρης είναι καθηγητής Πανεπιστημίου Δυτικής Αττικής, Υποψήφιος Ευρωβουλευτής με τη Νέα Αριστερά)
