«Σήμερα διαγράφεται μία αλλαγή στα επιστημολογικά θεμέλια της γνώσης μας. Εκείνο που πρωτίστως έχει μεταβληθεί είναι το κριτήριο του τι συνιστά αλήθεια, γνώση, επιστήμη ή αντικειμενικότητα».
Πριν από μερικές ημέρες ήρθε στην επιφάνεια μία αλλαγή στο βιβλίο της Γ’ Γυμνασίου, όπου αφαιρέθηκε ένα κείμενο του δημοσιογράφου Πέτρου Παπακωνσταντίνου (γραμμένο το 2003), σχετικό με τα παιδιά στην Παλαιστίνη, και αντικαταστάθηκε από ένα κείμενο που έχει γραφτεί από Τεχνητή Νοημοσύνη, με θέμα την ανατροφή των παιδιών σε εμπόλεμες ζώνες γενικά.
Ασφαλώς –και δικαίως– υπήρξε έντονη κατακραυγή από διδάσκοντες, αλλά και από ακαδημαϊκούς. Το κείμενο του συναδέλφου καθηγητή στο Ιόνιο Πανεπιστήμιο, Κώστα Αγγελάκου, είναι εξαιρετικό για την κατανόηση των σχετικών προβληματισμών.
Ως προς το συγκεκριμένο ζήτημα, μπορούμε να εντοπίσουμε δύο προβληματικές ίσης σημασίας. Από τη μία, την προβληματική του περιεχομένου του κειμένου, του οποίου η αντικατάσταση δεν υπήρξε τυχαία, αλλά σχετίζεται με πολιτικούς παράγοντες. Γιατί επιλέχθηκε να αντικατασταθεί το συγκεκριμένο κείμενο; Γιατί η όλη διαδικασία πραγματοποιήθηκε άρον-άρον; Γιατί έγινε χωρίς να έχει προηγηθεί κάποια καταγγελία ή απόφαση από εκπαιδευτικούς ή επιστημονικούς φορείς; κ.ά. Εντούτοις, παρά τη σημασία της, δεν θα εστιάσουμε σε αυτήν την προβληματική στο παρόν κείμενο.
Η δεύτερη προβληματική, που με απασχολεί εξίσου –ιδίως λόγω της ιδιότητάς μου ως ερευνητή της Τεχνητής Νοημοσύνης με κριτική ματιά– είναι το γεγονός ότι το αρχικό κείμενο αντικαταστάθηκε από ένα άλλο, γραμμένο από σύστημα Τεχνητής Νοημοσύνης. Δεν θα μπω σε συζητήσεις του τύπου «και τι πρόβλημα έχει το κείμενο της ΤΝ;» από πλευράς περιεχομένου, αλλά θα προχωρήσω πολύ βαθύτερα, αναδεικνύοντας μία ανησυχητική μεταβολή: σήμερα διαγράφεται μία αλλαγή στα επιστημολογικά θεμέλια της γνώσης μας. Εκείνο που πρωτίστως έχει μεταβληθεί είναι το κριτήριο του τι συνιστά αλήθεια, γνώση, επιστήμη ή αντικειμενικότητα.
Η ΤΝ –τα συστήματα αυτά που εντελώς καταχρηστικά φέρουν την ονομασία μιας λειτουργίας έμβιων όντων, της νοημοσύνης δηλαδή, η οποία δεν έχει αποσαφηνιστεί τι ακριβώς είναι– θεωρείται ουδέτερη, αντικειμενική, καθώς είναι επιστημονική. Γι’ αυτόν τον λόγο ένα προϊόν της θεωρείται κατάλληλο να αντικαταστήσει ένα κείμενο σε σχολικό εγχειρίδιο.
Το ΙΕΠ δεν επέλεξε να αναθέσει τη συγγραφή ενός νέου κειμένου σε κάποιο φυσικό πρόσωπο, διότι τότε θα ανέκυπταν συζητήσεις του τύπου: «ποιος/ποια έγραψε το κείμενο;», «τι απόψεις υποστηρίζει;» κ.ο.κ. Η επιλογή χρήσης ΤΝ έγινε με δόλο. Η ΤΝ, ως νοημοσύνη εφάμιλλη ή και ανώτερη από την ανθρώπινη –καθώς μπορεί να εκτελεί περισσότερους και ταχύτερους υπολογισμούς, σαν να είναι αυτό και μόνο η νοημοσύνη– προβάλλεται ως πλήρως αντικειμενική και επιστημονική. Δεν παίρνει θέση, καθώς η επιστήμη είναι –υποτίθεται– αντικειμενική.
Πίσω, όμως, από αυτό το πέπλο ουδετερότητας και αντικειμενικότητας, ο στόχος είναι ξεκάθαρος: να μην προκύψουν αντιδράσεις, δεδομένου ότι το νέο κείμενο είναι –υποτίθεται– επιστημονικό, καθώς αποτελεί προϊόν ΤΝ. Έτσι, το ΙΕΠ καλύπτεται με τον μανδύα της καινοτομίας (εφόσον συνδυάζει νέες τεχνολογίες με την εκπαίδευση), και της αντικειμενικότητας (εφόσον αξιοποιεί ένα ξεκάθαρα αντικειμενικό μέσο).
Οι μόνες συζητήσεις που δύνανται να ανακύψουν, βάσει αυτής της λογικής –και που είναι και οι πιθανές απαντήσεις του ΙΕΠ ή οποιουδήποτε άλλου φορέα θα ενεργούσε κατά παρόμοιο τρόπο– αφορούν το κατά πόσο τα prompts που χρησιμοποιήθηκαν ήταν κατάλληλα ή κατά πόσο τα δεδομένα ήταν τα σωστά κ.ο.κ. Αυτό, όμως, αποτελεί μέρος του δόλου: η συζήτηση μετατοπίζεται σε τεχνικές λεπτομέρειες, όπως τα prompts, και έτσι διαφεύγει των κριτικών ραντάρ η ίδια η αξιοποίηση μιας τεχνολογίας που είναι αμφιλεγόμενη, συνήθως προκατειλημμένη, αλλά πάντοτε θεωρούμενη ως επιστημονική και αντικειμενική.
Μίλησα για «μεταβολή των επιστημολογικών θεμελίων της γνώσης» επειδή η αντικειμενικότητα που αποδίδεται στην επιστημονικότητα της ΤΝ, αυτή η υποτιθέμενη ουδετερότητα που προσδίδεται γενικά στην τεχνολογία και την επιστήμη, μεταβάλλει πλέον το τι θεωρούμε ως αληθές: «αφού το έγραψε η ΤΝ, πρέπει να είναι σωστό». Το σημείο εστίασης έχει μετατεθεί από την κρίση επί των θεμελίων, στον τρόπο λειτουργίας. Έχουμε αποδεχθεί ότι ό,τι εξέρχεται ως output από την ΤΝ είναι ορθό. Το μόνο που μένει, πλέον, είναι να κατανοήσουμε τι πρέπει να της ζητάμε και με ποιον τρόπο, ώστε να παραχθεί το «πιο σωστό» αποτέλεσμα. Ολόκληρα προγράμματα σπουδών αφιερώνονται όχι στην κατανόηση των θεμελιακών αλλαγών που επιφέρει η ΤΝ, αλλά στο πώς να την αξιοποιούμε αποδοτικά –όπου αποδοτικότητα σημαίνει παραγωγή «καλύτερων» αποτελεσμάτων. Η ποσοτικοποίηση, η δεδομενοποίηση και η «promptοποίηση» της ζωής θεωρείται δεδομένη· το ζήτημα είναι απλώς να τίθεται το input με σωστούς όρους, ώστε να παράγονται τα καλύτερα αποτελέσματα (output).
Τα παραπάνω δεν τα γράφω για να δείξω ότι η χρήση της ΤΝ είναι πανταχού παρούσα και συνεπώς να δικαιολογήσω την απόφαση του ΙΕΠ –σαν να λέμε «έτσι κι αλλιώς προς τα εκεί πάει η εποχή». Αντιθέτως, επιδιώκω να αναδείξω μία πρακτική που, εφεξής, θα εφαρμόζεται ολοένα και συχνότερα στο όνομα μιας δήθεν επιστημονικής ουδετερότητας και αντικειμενικότητας. Για οτιδήποτε δεν θα είναι επιθυμητός ο αναβρασμός ή ο αντίλογος, θα αξιοποιείται η ΤΝ, η οποία εκτός από «Ν» είναι και... ουδέτερη. Έτσι: ας δώσουμε ιατρικά δεδομένα σε ένα πρόγραμμα: θα τα επεξεργαστεί μόνο για επιστημονικούς σκοπούς· ας αντικαταστήσουμε κείμενα στα σχολικά βιβλία με κείμενα της ΤΝ: θα βοηθήσει στην εκπαίδευση, αφού η ΤΝ είναι ό,τι πιο επιστημονικό διαθέτουμε· ας τοποθετήσουμε ΤΝ στα όπλα μας, ώστε να πετυχαίνουν τον σωστό στόχο, χωρίς παράπλευρες απώλειες –αφού η ΤΝ είναι αντικειμενική· ας δημιουργήσουμε ολοένα και περισσότερα data centers στον κόσμο· η ΤΝ, ως επιστημονική και αντικειμενική, θα βρει τη λύση στην περιβαλλοντική καταστροφή.
Το παρόν κείμενο γράφτηκε με σκοπό να υποδείξει ένα δυνητικό μέλλον που ανοίγεται μπροστά μας: η μεταβολή των επιστημολογικών θεμελίων των κριτηρίων μας πραγματοποιείται στη βάση μιας τεχνολογίας που έχει ερμηνευθεί ως ουδέτερη και αντικειμενική. Πρόκειται για ένα πλανητικό και καθολικό φαινόμενο. Το ελληνικό ΙΕΠ είναι μονάχα ένας μικρός θεσμός που, πίσω από το πέπλο αυτής της ουδετερότητας, περνά αμφιλεγόμενες πολιτικές. Θα πρέπει να αναμένουμε παρόμοιες πρακτικές από θεσμούς πολύ μεγαλύτερης ισχύος και με αντικείμενα πολύ σοβαρότερα, όπως η επιλογή στόχων, η δημιουργία νόμων, η φτωχοποίηση χωρών ή η εκμετάλλευση ολόκληρων πληθυσμών.
Πέρα από τις πολιτικές που πρέπει να εφαρμοστούν για την αποφυγή αυτών των πρακτικών, είναι απαραίτητη και η αντίσταση σε ένα άλλο, φαινομενικά θεωρητικό –αλλά στην πραγματικότητα πολύ πρακτικό– επίπεδο: η κριτική στην ίδια την ΤΝ ως νοημοσύνη. Είναι αυτή η υπόθεση της «νοημοσύνης» που έχει δημιουργήσει το πέπλο της ουδετερότητας γύρω της. Σε αυτό φέρει ευθύνη και η επιστημονική κοινότητα: από τη μία αποδέχεται άκριτα τα μυθεύματα περί «Ν», εισερχόμενη σε συζητήσεις περί δικαιωμάτων, μελλοντολογικών προβλέψεων και περιγραφικών αναλύσεων· από την άλλη, ενσωματώνει άκριτα τις επιστημολογικές μεταμορφώσεις, σχεδιάζοντας προγράμματα σπουδών που προσανατολίζονται αποκλειστικά στην απόκτηση δεξιοτήτων λειτουργίας των συστημάτων, δίχως καμία κριτική στάση απέναντι στις συνθήκες ανάδυσης και στη φύση των ίδιων των συστημάτων.
Η εκπαίδευση σχετικά με το πώς να διατυπώνουμε σωστά prompts ή να κατασκευάζουμε λειτουργικές ψηφιακές βιβλιοθήκες είναι χρήσιμη· αλλά αν το ίδιο το σύστημα είναι σάπιο, τότε είναι σίγουρο ότι θα σαπίζουν και τα «σωστά» prompts, όπως και οι «καλές» ψηφιακές μας βιβλιοθήκες.
Αν δεν θέλουμε να δούμε ξανά πρακτικές όπως η πρόσφατη του ΙΕΠ, πρέπει να κοιτάξουμε κατάματα το πλαίσιο που έχει καταστήσει την ΤΝ «ουδέτερη». Και αυτό είναι ένα πλαίσιο βαθιά ριζωμένο στις νεωτερικές κοινωνίες και στην επιστήμη τους: ένα πλαίσιο που σχετίζεται με τα θεμέλια του ορθολογισμού, της σωματικότητας, της νοητικότητας και, τελικά, της νοημοσύνης. Με άλλα λόγια, πέραν των πολιτικών ρυθμίσεων και νομοθεσιών τύπου AI Act ή άλλων που αναπόφευκτα θα ακολουθήσουν το ευρωπαϊκό παράδειγμα, είναι σήμερα αναγκαία μια φιλοσοφική κριτική των ίδιων των όρων της ΤΝ και της ψηφιακότητας.
Η ανάγκη για μια κριτική, φιλοσοφική, ματιά στην τεχνολογία καθίσταται, σήμερα, πιο επιτακτική από ποτέ –μία ανάγκη που αποκαλύπτεται μέσω πολιτικών επιλογών όπως η φαινομενικά αθώα, φαινομενικά επιστημονική και φαινομενικά εκπαιδευτική πράξη της αντικατάστασης ενός κειμένου, όχι με εκείνο ενός ανθρώπου που έχει διαφορετικές απόψεις και θα προξενήσει αντίλογο, αλλά με το προϊόν ενός τεχνολογικού συστήματος που εκμηδενίζει τον αντίλογο μιας και ... «τα ξέρει όλα».
(Ο Γιάννης Περπερίδης είναι Διδάκτωρ Φιλοσοφίας της Τεχνολογίας (Τμ. Φιλοσοφίας, Παν.μιο Ιωαννίνων), Διδάσκων στο Τμήμα Ιστορίας και Ψηφιακών Ανθρωπιστικών Επιστημών, στο Ιόνιο Πανεπιστήμιο καθώς και Υπότροφος του Κέντρου Ελληνικών Σπουδών του Harvard για έρευνα πάνω στην Ηθική της Τεχνητής Νοημοσύνης)
