Ήρθε μάλλον η ώρα για μια όχι και τόσο δημοφιλή γνώμη (unpopular opinion) των ημερών. Τις τελευταίες εβδομάδες έχει δημιουργηθεί μεγάλος θόρυβος γύρω από ένα συγκεκριμένο θέμα. Δημοσιεύματα αναφέρονται στους φιλοσόφους που προσλαμβάνουν οι εταιρείες τεχνολογίας. Διαβάζουμε για το πόσο έχει αναβαθμιστεί η σημασία της φιλοσοφίας σήμερα και για το πώς, τελικά, ένα πτυχίο φιλοσοφίας δεν είναι τόσο «άχρηστο» όσο πολλοί πίστευαν. (Είναι, βέβαια, σχεδόν αστείο ότι χρειάστηκε να αρχίσει η Anthropic να προσλαμβάνει φιλοσόφους για να θεωρηθεί πως η φιλοσοφία απέκτησε επιτέλους αξία).
Μέχρι στιγμής, πάντως, δεν έχω διαβάσει κάποιο κείμενο που να αντιμετωπίζει με κριτική διάθεση αυτό το τόσο προβληματικό αφήγημα –και, κατά τη γνώμη μου, τόσο προβληματική εξέλιξη. Οπότε μάλλον πρέπει να κάνω εγώ την αρχή. Άλλωστε, τι άλλο είναι η φιλοσοφία, αν όχι η άσκηση κριτικής; (Σίγουρα, πάντως, όχι το χαρακτηριστικό που θα με έκανε να προσληφθώ σε κάποια από αυτές τις εταιρείες. Ποια εταιρεία θα ήθελε στις κρίσιμες συσκέψεις της κάποιον ή κάποια που να αμφισβητεί διαρκώς τα ίδια τα θεμέλια πάνω στα οποία οικοδομούνται οι αποφάσεις της; Φανταστείτε, για παράδειγμα, έναν ή μία φιλόσοφο στο τραπέζι της OpenAI το 2022 να λέει: «Γιατί το ονομάζετε “νοημοσύνη”; Δεν υπάρχει ο κίνδυνος οι χρήστες να ανθρωποποιήσουν αυτή την τεχνολογία που, άλλωστε δεν είναι κάτι άλλο παρά, πιθανολογική σύνδεση δεδομένων και να αρχίσουν να τη συγχέουν με συντρόφους, ψυχολόγους, δασκάλους ή γιατρούς; Μήπως θα έπρεπε πρώτα να ξανασκεφτούμε τι εννοούμε όταν μιλάμε για νοημοσύνη και ύστερα να λανσάρουμε το μοντέλο;»). Ομολογώ πως η εικόνα αυτή μου προκαλεί ταυτόχρονα γέλιο και μια κάποια μελαγχολία.
Τέλος πάντων... Υπάρχει ένα στοιχείο που με προβληματίζει κάθε φορά που διαβάζω αυτά τα δημοσιεύματα και, κατά τη γνώμη μου, από αυτό απορρέουν σχεδόν όλα τα υπόλοιπα προβλήματα. Όταν διαβάζουμε τίτλους όπως «οι εταιρείες τεχνολογίας προσλαμβάνουν φιλοσόφους» ή «η φιλοσοφία εισέρχεται στους τεχνολογικούς κολοσσούς», κάνουμε σχεδόν ασυναίσθητα ένα βασικό λάθος: αντιμετωπίζουμε τη φιλοσοφία σαν να είναι κάτι ενιαίο και ομοιογενές. Σαν να υπάρχει μία φιλοσοφία, ένας τύπος φιλοσόφου και μία ηθική. Όμως η εικόνα είναι πολύ πιο σύνθετη. Ποιος ακριβώς είναι ο φιλόσοφος που προσλαμβάνεται; Ποιες είναι οι θεωρητικές του αφετηρίες; Πώς αντιλαμβάνεται την ηθική; Πώς κατανοεί την τεχνολογία; Τι σημαίνει γι' αυτόν ή γι' αυτήν η ίδια η έννοια της προόδου; Δεν είναι καθόλου το ίδιο μια εταιρεία να προσλαμβάνει έναν συνεπειοκράτη φιλόσοφο, ο οποίος –για να το πω πολύ σχηματικά– θα μπορούσε να υποστηρίξει ότι, εφόσον μια τεχνολογική εξέλιξη ωφελεί εκατομμύρια ανθρώπους, ίσως να δικαιολογείται η κατασκευή πολλαπλών νέων κέντρων δεδομένων σε μια περιοχή π.χ. των Βαλκανίων διασαλεύοντας την υγεία των κατοίκων της περιοχής· από το να προσλαμβάνει έναν δεοντοκράτη φιλόσοφο, ο οποίος θα επέμενε ότι έχουμε καθήκον να προστατεύουμε την αυτονομία και την αξιοπρέπεια κάθε ανθρώπου, άρα δεν μπορούμε να θεωρήσουμε αποδεκτή μια τεχνολογική επιλογή που επιβαρύνει σοβαρά την υγεία των κατοίκων μιας περιοχής, ακόμη κι αν το συνολικό όφελος είναι μεγάλο. Η διαφορά δεν είναι δευτερεύουσα, αλλά θεμελιώδης. Κι όμως, τα περισσότερα δημοσιεύματα μιλούν απλώς για «φιλοσόφους», σαν η ίδια η λέξη να αρκεί για να εγγυηθεί μια ηθικότερη τεχνολογία. Ακριβώς εκεί, όμως, αρχίζει –κατά τη γνώμη μου– το πραγματικό πρόβλημα. Και ίσως εκεί να ξεκινά αυτό που θα ονόμαζα Ethicswashing (ηθικό ξέπλυμα).
ΔΙΑΒΑΣΤΕ ΕΠΙΣΗΣ
Ethicswashing
Ας το δούμε, όμως, ακόμη πιο συγκεκριμένα σε σχέση με την τεχνολογία. Ας υποθέσουμε ότι μια εταιρεία προσλαμβάνει έναν φιλόσοφο που αποδέχεται τον τεχνολογικό ντετερμινισμό· την άποψη, δηλαδή, ότι η τεχνολογία εξελίσσεται με έναν λίγο-πολύ αυτόνομο και αναπόφευκτο τρόπο και πως, αργά ή γρήγορα, ό,τι είναι τεχνικά δυνατό θα πραγματοποιηθεί. Ένας άνθρωπος που εκκινεί από αυτή την παραδοχή είναι πολύ πιθανό να αντιμετωπίζει κάθε νέα τεχνολογία ως κάτι που «θα ερχόταν έτσι κι αλλιώς». Η συζήτηση, λοιπόν, μετατοπίζεται ανεπαίσθητα: δεν αφορά πλέον το αν πρέπει να υπάρξει μια τεχνολογία, αλλά το πώς θα διαχειριστούμε τις συνέπειές της. (Η θέση αυτή, ωστόσο, γεννά μια ενδιαφέρουσα αντίφαση. Αν μία συγκεκριμένη τεχνολογική εξέλιξη είναι πράγματι αναπόφευκτη, καθώς καθορίζεται αιτιοκρατικά από ό,τι προηγείται, τότε ποιος είναι ο λόγος ύπαρξης όλων εκείνων των επιτροπών και των συμβουλίων όπου λαμβάνονται αποφάσεις; Αν όλα είναι προδιαγεγραμμένα, τότε γιατί χρειάζεται ένας φιλόσοφος για να αξιολογήσει μια επιλογή που, υποτίθεται, δεν θα μπορούσε να είναι διαφορετική; Η ίδια η ύπαρξη αυτής της θέσης εργασίας προϋποθέτει ότι υπάρχουν πραγματικές επιλογές. Κι αν υπάρχουν πραγματικές επιλογές, τότε η επίκληση του τεχνολογικού ντετερμινισμού δεν είναι πλέον τόσο αυτονόητη όσο παρουσιάζεται).
Κάτι αντίστοιχο συμβαίνει και με μια άλλη θέση που συναντάται ολοένα και συχνότερα στις συζητήσεις γύρω από την τεχνητή νοημοσύνη: την τεχνολογική μοναδικότητα (Singularity). Με τον όρο αυτό εννοείται, πολύ συνοπτικά, η ιδέα ότι η τεχνητή νοημοσύνη θα ξεπεράσει κάποια στιγμή τις ανθρώπινες γνωστικές δυνατότητες, εγκαινιάζοντας μια νέα εποχή για την ανθρωπότητα. Από αυτή τη θεώρηση απορρέουν και μια σειρά από ακόμη πιο ριζοσπαστικές ιδέες, όπως η υβριδοποίηση ανθρώπου και μηχανής, η μεταφόρτωση του νου σε ψηφιακά μέσα ή ακόμη και η υπέρβαση του βιολογικού θανάτου. Σήμερα όλα αυτά μπορεί να ακούγονται σαν επιστημονική φαντασία, όμως αποτελούν πραγματικές θεωρητικές αναφορές για αρκετούς ανθρώπους που βρίσκονται στις ηγεσίες των μεγαλύτερων τεχνολογικών εταιρειών. Ας αναρωτηθούμε, λοιπόν, τι σημαίνει να προσλαμβάνεται ως «ηθικός σύμβουλος» ένας φιλόσοφος που ήδη αποδέχεται αυτή την αφήγηση. Το πιθανότερο είναι ότι η παρέμβασή του δεν θα αφορά το αν πρέπει να κινηθούμε προς αυτή την κατεύθυνση· αυτό έχει ήδη απαντηθεί. Η συζήτηση θα περιοριστεί σε ερωτήματα όπως ποιος θα έχει πρόσβαση στις τεχνολογίες αυτές, ποια δικαιώματα πρέπει να κατοχυρωθούν, ποιο κανονιστικό πλαίσιο απαιτείται ή πώς θα μειωθούν οι κίνδυνοι.
Όλα αυτά είναι, ασφαλώς, σημαντικά ερωτήματα. Δεν είναι, όμως, το πιο θεμελιώδες. Το πιο θεμελιώδες είναι αν η ίδια η κατεύθυνση της τεχνολογικής ανάπτυξης πρέπει εξαρχής να αμφισβητηθεί. Αν, δηλαδή, η φιλοσοφία θα αρκεστεί στο να συζητά τον τρόπο με τον οποίο θα υλοποιηθεί μια ήδη ειλημμένη απόφαση ή αν θα διατηρήσει το δικαίωμα να αμφισβητεί την ίδια την απόφαση (ό,τι βλέπουμε να συζητιέται σήμερα, λίγο-έως-πολύ).
Εδώ, νομίζω, βρίσκεται και η ουσιαστική διαφορά ανάμεσα σε δύο πολύ διαφορετικές εκδοχές της φιλοσοφίας. Η μία λειτουργεί ως δύναμη κριτικής εναντίωσης, αναδιαμόρφωσης, ανανοηματοδότησης και εντέλει (στο πλαίσιο που συζητάμε), ικανή ακόμη και να καταλήξει στο συμπέρασμα ότι μια συγκεκριμένη τεχνολογία δεν πρέπει να αναπτυχθεί. Η άλλη λειτουργεί ως δύναμη διαχείρισης: ξεκινά από την παραδοχή ότι η τεχνολογία θα αναπτυχθεί οπωσδήποτε και περιορίζεται να συζητά τους όρους υπό τους οποίους αυτό θα συμβεί.
Γι' αυτό δυσκολεύομαι να δω τις προσλήψεις φιλοσόφων από τις μεγάλες εταιρείες τεχνολογίας ως μια μεγάλη επιστροφή της φιλοσοφίας στον δημόσιο χώρο. Το πρόβλημα δεν είναι ότι οι εταιρείες προσλαμβάνουν φιλοσόφους. Κάθε άλλο. Το πρόβλημα είναι ότι οι όροι αυτής της πρόσληψης καθορίζουν, ήδη από την αρχή, ποια «φιλοσοφία» μπορεί να υπάρξει μέσα σε αυτές.
Εταιρικές φιλοσοφίες
Δεν είναι όλες οι φιλοσοφικές θέσεις εξίσου συμβατές με τη λειτουργία μιας ιδιωτικής εταιρείας που χαράζει τη στρατηγική της. Κάποιες μπορούν να ενσωματωθούν σχετικά εύκολα, επειδή συμβάλλουν στη βελτίωση, τη νομιμοποίηση ή τη διαχείριση μιας τεχνολογικής πορείας που έχει ήδη αποφασιστεί. Άλλες, όμως, υπάρχουν ακριβώς για να αμφισβητούν αν αυτή η πορεία θα έπρεπε να έχει ξεκινήσει εξαρχής. Και αυτή η δεύτερη εκδοχή της φιλοσοφίας δύσκολα μπορεί να βρει θέση σε έναν οργανισμό που δεν την καλεί για να αμφισβητήσει τα θεμέλιά του, αλλά για να ενισχύσει την αξιοπιστία των επιλογών του. Με αυτή την έννοια, δεν προσλαμβάνεται «η φιλοσοφία» ούτε «οι φιλόσοφοι». Προσλαμβάνεται μια συγκεκριμένη εκδοχή της φιλοσοφίας: εκείνη που μπορεί να λειτουργήσει εντός των ορίων που θέτει η ίδια η εταιρεία, ώστε να αναδείξει την τελευταία ως ευαίσθητη σε ζητήματα ηθικής. Ethicswashing στα καλύτερά του!
Και κάπως έτσι επιστρέφω στο σημείο απ’ όπου ξεκίνησα για να κλείσω.
Η ξαφνική «ανακάλυψη» της φιλοσοφίας από τις εταιρείες τεχνολογίας δεν με πείθει ότι η κοινωνία άρχισε ξαφνικά να εκτιμά τη φιλοσοφική σκέψη. Άλλωστε δεν θεωρώ ότι η φιλοσοφία έπαψε κάποια στιγμή να είναι ουσιώδης για την κατανόηση του κόσμου. Αντιθέτως, θεωρώ ότι η εποχή μας, για μια σειρά από ιστορικούς, κοινωνικούς και πολιτικούς λόγους, τείνει να υποβαθμίζει τη σημασία του φιλοσοφικού στοχασμού. Το γεγονός, λοιπόν, ότι σήμερα η αξία της αναγνωρίζεται μέσα από τις προσλήψεις των μεγάλων εταιρειών τεχνολογίας δεν μου φαίνεται ούτε τυχαίο ούτε αθώο. Αρκεί να σκεφτούμε το εξής: Όταν οι εταιρείες θέλησαν να προβάλλουν ένα πιο «πράσινο» προφίλ, γέμισαν με ειδικούς για το περιβάλλον, τη βιωσιμότητα και την κλιματική αλλαγή. Σήμερα που το κεντρικό ζήτημα είναι η λεγόμενη «ηθική της τεχνητής νοημοσύνης» και η περίφημη ευθυγράμμιση (alignment) με τις ανθρώπινες αξίες, η φιλοσοφία αποκτά μια νέα χρησιμότητα (με την κακή έννοια): μετατρέπεται σε νέα βιτρίνα των εταιρειών· σε ένα ακόμη στοιχείο που πιστοποιεί πως η τεχνολογία παράγεται πλέον «υπεύθυνα».
Με άλλα λόγια, η κοινωνική αξία της φιλοσοφίας σήμερα φαίνεται να αυξάνεται ακριβώς επειδή αναγνωρίζεται με έναν συγκεκριμένο τρόπο – και μάλιστα ως κάτι άλλο από αυτό που είναι στην πραγματικότητα – από τους ίδιους τους οργανισμούς που αποτελούν αντικείμενο της κριτικής της. Αυτό είναι το επίκεντρο του προβληματισμού μου: όχι στη φίμωση –η φίμωση μπορεί να ασκηθεί από πολλά διαφορετικά θεσμικά περιβάλλοντα– αλλά στον μετασχηματισμό της ίδιας της φιλοσοφίας σε κάτι πιο ήπιο, πιο διαχειρίσιμο και τελικά πιο χρήσιμο εργαλειακά.
Ας το πούμε και αλλιώς: Οι προσωκρατικοί δεν άλλαξαν απλώς ορισμένες απόψεις για τη φύση. Συνέβαλαν στη μετάβαση από τον μύθο στον λόγο, σε έναν εντελώς διαφορετικό τρόπο κατανόησης του κόσμου. Αργότερα, οι στοχαστές της πρώιμης νεωτερικότητας –ο Καρτέσιος, ο Λοκ, ο Σπινόζα, ο Χιουμ και τόσοι άλλοι– δεν πρόσθεσαν απλώς νέες θεωρίες· συνέβαλαν στη διαμόρφωση ενός νέου ορίζοντα σκέψης και ύπαρξης· έθεσαν νέα θεμέλια πάνω στα οποία βασίζεται όλη μας η ζωή μέχρι ακόμη και σήμερα. Και τι ακολουθεί (ας ελπίσουμε όχι): 2028. Οι φιλόσοφοι της Anthropic ενέκριναν, από ηθικής άποψης, την κυκλοφορία του νέου μοντέλου τεχνητής νοημοσύνης, καθώς πέρασε επιτυχώς τα σχετικά τεστ μεροληψίας και ευθυγράμμισης». Αν δεν μας προκαλεί αμηχανία η το χάος μεταξύ των δύο αυτών εικόνων της φιλοσοφίας, είναι το σύμπτωμα της εποχής μας, το οποίο πρέπει να καταπολεμήσουμε.
Γι’ αυτό ο όρος ethicswashing μου φαίνεται πολύ εύστοχος. Όπως ακριβώς οι ενδείξεις «οικολογικό», «φυσικό», «πράσινο» ή «ανακυκλώσιμο» χρησιμοποιήθηκαν πολλές φορές για να αποκρύψουν ή να εξωραΐσουν πρακτικές που ελάχιστη σχέση είχαν με την προστασία του περιβάλλοντος, έτσι θεωρώ ότι δεν θα αργήσει η ημέρα που τα συστήματα τεχνητής νοημοσύνης θα συνοδεύονται από μια αντίστοιχη σφραγίδα: «ηθικά ελεγμένο». Και τότε θα θεωρείται ότι το έργο των εταιρικών φιλοσόφων ολοκληρώθηκε επιτυχώς.
Κλείνω με μια εικόνα που, κατά τη γνώμη μου, αποδίδει καλύτερα από οποιονδήποτε ορισμό το διακύβευμα. Όταν μιλάμε για φιλοσοφία, ο νους μας πηγαίνει συχνά στους αρχαίους Έλληνες φιλοσόφους και τις σοφίες τους. Συνήθως, όταν αναφερόμαστε στον Σωκράτη θυμόμαστε τη γνωστή ρήση «εν οίδα ότι ουδέν οίδα». Υπάρχει, όμως, μια άλλη σωκρατική σοφία που μου φαίνεται σήμερα ακόμη πιο επίκαιρη. Ο ίδιος παρομοίαζε τον φιλόσοφο με την αλογόμυγα που ενοχλεί διαρκώς το άλογο, που το αναγκάζει να μην επαναπαύεται και να παραμένει σε εγρήγορση μέσα από δύσκολες και επίμονες ερωτήσεις. Δεν είναι τυχαίο ότι ο Σωκράτης καταδικάστηκε ακριβώς λόγω αυτού του είδους της ενόχλησης – βαθιά οντολογικής και πολιτικής ενόχλησης.
Στον κόσμο των μεγάλων τεχνολογικών εταιρειών, οι ενοχλητικές αλογόμυγες διώχνονται από το παράθυρο των αιθουσών συσκέψεων. Κι αν προσκληθούν, κατά πάσα πιθανότητα έχουν πάψει να είναι αλογόμυγες (ήδη πριν καν προκύψει η πρόσκληση). Εκεί ακριβώς βρίσκεται, κατά τη γνώμη μου, το πραγματικό ερώτημα: όχι αν η φιλοσοφία θα μπει στα γραφεία των εταιρειών, αλλά ως τι θα μπει. Ως δύναμη που εξακολουθεί να ενοχλεί, διατηρώντας τη δυνατότητα ανανοηματοδότησης της ίδιας της θέσης του ατόμου/φορέα που την διενεργεί ή ως ακόμη ένα εργαλείο που καθιστά τις ήδη προσχεδιασμένες αποφάσεις λίγο πιο εύκολες στην υλοποίηση και αποδοχή τους.
(Ο Γιάννης Περπερίδης είναι διδάκτωρ φιλοσοφίας της τεχνολογίας και ερευνητής. Το πρόσφατο βιβλίο του «Η Τεχνητή Νοημοσύνη ενώπιον του εαυτού της» κυκλοφορεί από τις εκδόσεις Τόπος)
