Η δημόσια συζήτηση γύρω από την τεχνητή νοημοσύνη (ΤΝ) εξακολουθεί να υπόκειται στη δικτατορία των, με το ζόρι, μεγάλων προσδοκιών. Η δημιουργία τέτοιων προσδοκιών είναι η βασική προϋπόθεση για τη συγκέντρωση τεράστιων κρατικών και ιδιωτικών χρηματοδοτήσεων αλλά και για την μαζική αποδοχή, εφαρμογή και εμπορευματοποίηση κάθε τεχνολογίας μεγάλης κλίμακας.
Το μάρκετινγκ της ΤΝ, και ιδίως των μεγάλων γλωσσικών μοντέλων, μας βομβαρδίζει με επιδείξεις νέων εργαλείων και μηνύματα του τύπου «το τάδε μοντέλο είναι έξυπνο όσο ένας διδάκτορας», «το δείνα μοντέλο φέρνει το θάνατο των συμβουλευτικών εταιρειών», «τα μεγάλα γλωσσικά μοντέλα έχουν δημιουργικότητα ισάξια με του ανθρώπου» κ.ο.κ. Στην περίπτωση αυτή, όμως, αξίζει να φέρουμε στο μυαλό μας την ωραιότατη διατύπωση του Ραούλ Ζιμπέκι: η κριτική σκέψη είναι το αντίθετο του μάρκετινγκ. Με δικά μου λόγια, το μάρκετινγκ είναι η προσπάθεια πρόληψης της κριτικής σκέψης. Πάμε λοιπόν να δούμε ορισμένες πλευρές που φωτίζουν τη σχέση των μεγάλων γλωσσικών μοντέλων με την κριτική σκέψη των ανθρώπων, πέρα από τον ορυμαγδό της διαφημιστικής προπαγάνδας.
Περί διδακτορικών
Ένας από τους πιο διαδεδομένους μύθους είναι ότι τα σύγχρονα μοντέλα ΤΝ είναι ικανά για σκέψη και συγκρότηση σε «επίπεδο διδακτορικού». Αφορμή για τον ισχυρισμό δόθηκε από το γεγονός ότι αρκετά εργαλεία ΤΝ μπορούν να αναζητήσουν πηγές, να συνοψίσουν δεδομένα και να σερβίρουν μια καλή σύνοψη σε εκπληκτικά μικρό χρόνο. Ωστόσο, ένα διδακτορικό δεν είναι απλή συλλογή και κωδικοποίηση υπαρκτών γνώσεων. Αν και η οργάνωση και συλλογή πληροφοριών από τη βιβλιογραφία είναι ο τρόπος με τον οποίο ξεκινάνε όλα τα διδακτορικά, ένα διδακτορικό είναι κάτι πολύ διαφορετικό ποιοτικά και ποσοτικά από αυτή την αρχική διαδικασία. Είναι συμβολή στην παραγωγή νέας γνώσης, περιλαμβάνει την ικανότητα να αξιολογήσεις δεδομένα, να διερευνήσεις προσεγγίσεις και εναλλακτικούς δρόμους, απαιτεί να εμπλουτίσεις την υπάρχουσα θεωρία ή και να δημιουργήσεις νέα, και, τέλος, να πάρεις αποφάσεις σχετικά τις κατευθύνσεις και τη διαχείριση των ανοικτών ερωτημάτων.
Σε μία πρόσφατη μελέτη από ερευνητές του Χάρβαρντ και του ΜΙΤ, ένα μοντέλο νευρωνικών δικτύων εκπαιδεύτηκε να προβλέπει τροχιές πλανητών. Οι προβλέψεις ήταν εξαιρετικά ακριβείς. Όταν, όμως, οι ερευνητές έλεγξαν αν το μοντέλο μπόρεσε να καταλήξει και σε κάποιο γενικό νόμο, όπως ο νόμος της βαρύτητας του Νεύτωνα, η απάντηση ήταν αρνητική. Το μοντέλο χρησιμοποιούσε ξεχωριστούς υπολογιστικούς μηχανισμούς για κάθε περίπτωση, χωρίς να μπορεί να διατυπώσει μια γενικευμένη εξήγηση σχετικά με την κίνηση των πλανητών. Με άλλα λόγια, το μοντέλο προέβλεπε το «τι», αλλά δεν κατανοούσε το «γιατί». Πρόκειται για τη διαφορά ανάμεσα στον Κέπλερ και τον Νεύτωνα. Ο πρώτος περιέγραψε επακριβώς (για τα δεδομένα της εποχής του) «τι» κάνουν οι πλανήτες· ο δεύτερος εξήγησε «γιατί» κι έφτιαξε ένα μοντέλο για χρήση. Παρά τα όσα διαφημιστικά λέγονται, η ΤΝ των μεγάλων γλωσσικών μοντέλων δεν συλλαμβάνει σχέσεις αιτίου – αιτιατού. Αντίθετα, μπορεί να κοροϊδεύει ότι αντιλαμβάνεται κάποια «αιτιότητα» αν αυτό αντιστοιχεί σε κάποια μοτίβα των δεδομένων στα οποία έχει εκπαιδευτεί.
Ένα άλλο χαρακτηριστικό παράδειγμα είναι το περίφημο τεστ «Η Αλίκη στη χώρα των θαυμάτων» (Alice in Wonderland). Το πρόβλημα τίθεται ως εξής: «Η Αλίκη έχει 5 αδερφούς και 4 αδερφές. Πόσες αδερφές έχει ένας αδερφός;». Η απάντηση είναι απλή: 5 (οι 4 συν την Αλίκη). Κι όμως, τα περισσότερα μεγάλα γλωσσικά μοντέλα αποτυγχάνουν να βρουν τη σωστή απάντηση, ειδικά σε φραστικές παραλλαγές (αλλάζοντας το όνομα «Αλίκη» σε «Μαρία» ή αντικαθιστώντας αριθμούς με μεταβλητές). Αρκεί μια φράση του τύπου «και η Αλίκη λατρεύει τα μακαρόνια» για να καταρρεύσει η δυνατότητα του μοντέλου να εντοπίσει παρεμφερή μοτίβα στα δεδομένα που έχει εκπαιδευτεί. Και αυτό γίνεται διότι τα μεγάλα γλωσσικά μοντέλα δεν καταλαβαίνουν την εννοιολογική δομή (ότι το όνομα ή οι προτιμήσεις φαγητού είναι άσχετες), αλλά προσπαθούν να συσχετίσουν τη σειρά των εισερχόμενων συμβόλων με μοτίβα από τα δεδομένα εκπαίδευσης τους. Πρόκειται για εντυπωσιακή απόδειξη ότι οι προχωρημένες αυταπάτες περί «γενικής νοημοσύνης» δεν στέκουν. Ένας δεκάχρονος λύνει το πρόβλημα με σταθερή επιτυχία, ένα γλωσσικό μοντέλο με δισεκατομμύρια παραμέτρους αδυνατεί.
Αλγόριθμοι και κριτική σκέψη
Το βασικό ερώτημα που πρέπει να τεθεί είναι εάν η κριτική σκέψη και η ανθρώπινη δημιουργικότητα είναι εφικτό να πάρουν τη μορφή μαθηματικών αλγορίθμων έτσι ώστε χρησιμοποιηθούν από τη ΤΝ. Η μέχρι σήμερα έρευνα δείχνει ότι παρότι τα μεγάλα γλωσσικά μοντέλα επιτυγχάνουν εντυπωσιακές επιδόσεις σε αρκετά προβλήματα, στην πραγματικότητα αποτυγχάνουν εκεί όπου απαιτείται γνήσια αφαίρεση, αυτόνομη διατύπωση νέων εννοιών και κριτική επανεξέταση υποθέσεων. Η ανθρώπινη δημιουργικότητα και η κριτική σκέψη δεν περιορίζονται στο να βρίσκουν απαντήσεις, θα έλεγα πως η κύρια πλευρά τους είναι η δυνατότητα να θέτουν νέες ερωτήσεις. Η κριτική σκέψη προϋποθέτει την ικανότητα να αναγνωρίζουμε αντιφάσεις, να αξιολογούμε πηγές με όρους αξιοπιστίας, καθώς και να επινοούμε εντελώς νέες οπτικές που συχνά συγκρούονται με τις μέχρι τότε παραδοχές. Ο Αϊνστάιν δεν έλυσε προβλήματα εντός γνωστών συστημάτων, μεγαλούργησε επειδή αμφισβήτησε τη φυσική του Νεύτωνα.
Κανένα γλωσσικό μοντέλο, σε όσα δεδομένα και αν εκπαιδευτεί, δεν μπορεί να εγγυηθεί τέτοια ρήξη με την υπάρχουσα γνώση, γιατί αυτή είναι στατιστικά ενσωματωμένη και βαθιά ριζωμένη στην εκπαίδευση του. Ο πυρήνας των γλωσσικών μοντέλων είναι η προβλεπτική συσχέτιση και όχι η αμφισβήτηση. Η δημιουργικότητα, με ανάλογο τρόπο, δεν περιορίζεται σε συνδυαστικούς κανόνες ή σε απλή επεξεργασία υπαρχόντων μοτίβων. Όταν ένα γλωσσικό μοντέλο παράγει κείμενο ή εικόνα, το κάνει μέσω παρεμβολής και παραλλαγής δεδομένων. Όταν ένας άνθρωπος δημιουργεί κείμενο ή εικόνα, μπορεί να ανατρέψει τους κανόνες, να γεννήσει καινούργια πεδία. Αυτή η διαφορά δεν γεφυρώνεται με περισσότερο δεδομένα εκπαίδευσης, ούτε με μεγαλύτερη υπολογιστική ισχύ, ούτε και με πιο έξυπνους αλγόριθμους.
Η ανθρώπινη δημιουργικότητα, στον πυρήνα της, αφορά τη γέννηση του ριζικά καινούργιου μέσα από το βίωμα, την εμπειρία, την ενσυναίσθηση και την πολιτισμική τοποθέτηση του ανθρώπου. Αυτά τα χαρακτηριστικά είναι μη αναγώγιμα σε αλγόριθμους, γιατί είναι εμπειρικά και ενσώματα: συνδέονται με το ότι οι άνθρωποι ζουν, αισθάνονται, θυμούνται και δημιουργούν νόημα για να αντέξουν τον κόσμο τους. Επομένως, όποτε ισχυριζόμαστε ότι η τεχνητή νοημοσύνη πρόκειται να υποκαταστήσει την ανθρώπινη δημιουργικότητα ή κριτική σκέψη, παραβλέπουμε ότι μιλάμε για δραστηριότητες θεμελιωμένες στη συνείδηση και στη βιωμένη εμπειρία, στοιχεία που δεν μεταφράζονται σε καμία γνωστή μορφή υπολογισμού.
Το αντίθετο του μάρκετινγκ
Στην πραγματική ζωή συμβαίνει το αντίθετο από αυτό που υποστηρίζει το εταιρικό μάρκετινγκ των πολυεθνικών της ΤΝ. Πρόσφατα, τεκμηριώθηκε επιστημονικά, ότι τα μεγάλα γλωσσικά μοντέλα, που χρησιμοποιούνται από αρκετές εκατοντάδες εκατομμύρια ανθρώπους επηρεάζουν ήδη την καθημερινή μας επικοινωνία και το ίδιο το λεξιλόγιό μας. Η αλληλεπίδραση με τα chatbots μεταμορφώνει τον τρόπο που γράφουμε, μιλάμε και εκφραζόμαστε, καθώς αρχίζουμε συχνά να υιοθετούμε επαναλαμβανόμενες φράσεις, μοτίβα και λεκτικές δομές που χρησιμοποιούνται από τις μηχανές αυτές. Σταδιακά βλέπουμε μια «προτυποποίηση» στην ανθρώπινη γλώσσα, με όλο και περισσότερους ανθρώπους να υιοθετούν τις λιγότερο εκφραστικές, πιο ουδέτερες εκδοχές του λόγου που χαρακτηρίζουν τα μεγάλα γλωσσικά μοντέλα. Το ενδιαφέρον είναι ότι αυτή η αλλαγή δεν περιορίζεται σε όσα γράφουμε στα chatbots, αλλά διαχέεται στην υπόλοιπη γραπτή και προφορική μας επικοινωνία, κυρίως στις εργασιακές συνομιλίες και τα email.
Καθώς τα ψηφιακά μονοπώλια και οι κυβερνήσεις προωθούν συστηματικά τη μαζική και γενικευμένη χρήση των μεγάλων γλωσσικών μοντέλων, σε όλους τους τομείς της ζωής μας (χωρίς σχεδιασμό και έλεγχο των αναγκών και της σκοπιμότητας), ο κίνδυνος μίας άνευ προηγουμένου ομογενοποίησης της γλώσσας είναι υπαρκτός. Οι πλατφόρμες ΤΝ προωθούν μια γλώσσα δομημένη γύρω από την αποτελεσματικότητα και την καθαρότητα, αλλά εξοβελίζουν την πολυπλοκότητα και το συναίσθημα. Σήμερα βλέπουμε το φαινόμενο του λεγόμενου «AI slop», στα ελληνικά θα το απέδιδα με την έννοια του χυλού. Τα μεγάλα γλωσσικά μοντέλα αρχικά πολτοποιούν κάθε διακριτό κομμάτι ανθρώπινης δημιουργικότητας που είναι ψηφιοποιημένο. Και στη συνέχεια, δημιουργούν έναν ατελείωτο γκρίζο χυλό από κείμενα και εικόνες που στερούνται συγκινησιακού βάθους, ένα περιεχόμενο που έχει κάποια μορφή αλλά καμία σπίθα. Σε μια εποχή που ο όγκος της διαθέσιμης πληροφορίας είναι ήδη τεράστιος, η προσθήκη του χυλού της ΤΝ δημιουργεί έναν επιπλέον κίνδυνο να χάσουμε τα ζωτικά νοήματα μέσα σε όγκους άνευρων αναπαραγωγών.
Το ουσιώδες, επομένως, είναι ότι οι μηχανές που σχεδιάστηκαν και εκπαιδεύτηκαν για να μιμούνται την ανθρώπινη σκέψη, μετατρέπονται, τελικά, σε εργαλεία που εκπαιδεύουν τους χρήστες να μιμούνται τον τρόπο έκφρασης των μηχανών. Η προϊούσα προσαρμογή της γλώσσας των ανθρώπων στα μοτίβα της μηχανής καταδεικνύει πως η ΤΝ δεν αλλάζει μόνο τους τρόπους που επικοινωνούμε με τις μηχανές, αλλά και μεταξύ μας. Η ιδιαιτερότητα, η προσωπικότητα και το ύφος του λόγου, που είναι διακριτό στοιχείο κάθε ανθρώπου, πρέπει να ξεφύγουν από τα γρανάζια των μεγάλων γλωσσικών μοντέλων. Και για να γίνει αυτό, είναι απαραίτητες πολιτικές που θα οριοθετούν και περιορίζουν τη χρήση των μεγάλων γλωσσικών μοντέλων εκεί – και μόνο εκεί - που θα συμφωνήσουμε ότι τα χρειαζόμαστε, πολιτικές προετοιμασίας και εκπαίδευσης των χρηστών αλλά και πολιτικές που θα διασφαλίζουν ανεξαρτησία των πολιτικών αποφάσεων από τις μεγάλες πολυεθνικές που παράγουν προϊόντα της ΤΝ. Σε κάθε άλλη περίπτωση, εκχωρούμε πολύ περισσότερα από όσα η διατήρηση της ανθρώπινης αυτονομίας μας επιβάλλει. Χρειαζόμαστε άμεσα κιβωτούς που θα περισώσουν κρίσιμους τομείς της ανθρώπινης υπόστασης από την πλημμυρίδα της τεχνητής νοημοσύνης.
Ο Αντώνης Μαυρόπουλος είναι σύμβουλος κυκλικής οικονομίας και συγγραφέας του βιβλίου «Τεχνητή Νοημοσύνη – Άνθρωπος, Φύση, Μηχανές» (εκδόσεις Τόπος)
