Κάτι περίεργο συμβαίνει στο θαυμαστό κόσμο της Silicon Valley. Οι ίδιες εταιρείες που επιταχύνουν την κούρσα ανάπτυξης της τεχνητής νοημοσύνης (ΤΝ) μας προειδοποιούν ότι αυτή μπορεί να αποδειχθεί καταστροφική: ζητούν «φρένο», ανεξάρτητους ελέγχους και νέους κανόνες ασφαλείας, ενώ συνεχίζουν να επενδύουν εκατοντάδες δισεκατομμύρια για να κερδίσουν την κούρσα προς τη Γενική Τεχνητή Νοημοσύνη (ΓΤΝ). Τι ακριβώς συμβαίνει και τι, τελικά, πρέπει να φοβόμαστε περισσότερο; Μια υποθετική μελλοντική υπερνοημοσύνη ή την ήδη υπαρκτή συγκέντρωση πλούτου, δεδομένων και εξουσίας στα χέρια λίγων εταιρειών;
Πριν προχωρήσουμε παρακάτω, ας ξεκαθαρίσουμε τους όρους. Η γενετική ΤΝ είναι η τεχνολογία που ήδη παράγει κείμενα, εικόνες, κώδικα και βίντεο. Οι πράκτορες ΤΝ είναι συστήματα που δεν απαντούν απλώς σε μια ερώτηση, αλλά εκτελούν διαδοχικές ενέργειες και χρησιμοποιούν πολλαπλά εργαλεία. Η ΓΤΝ είναι η υποθετική δυνατότητα ενός συστήματος να επιτυγχάνει τουλάχιστον ανθρώπινες επιδόσεις σε ένα πολύ ευρύ φάσμα νοητικών εργασιών. Και η «υπερνοημοσύνη» είναι το ακόμη πιο αβέβαιο σενάριο μιας μηχανής που υπερβαίνει τον άνθρωπο σχεδόν σε κάθε γνωστικό πεδίο.
Η δημόσια συζήτηση συχνά συγχέει αυτές τις κατηγορίες. Μία γραμμική βελτίωση ενός μοντέλου παρουσιάζεται συχνά ως απόδειξη γενικής νοημοσύνης. Στη συνέχεια ακολουθεί η συνήθης (και καθόλου αυταπόδεικτη) επωδός ότι η γενική νοημοσύνη θα κυριαρχήσει στην οικονομία και στις κοινωνικές σχέσεις και, επομένως, βρισκόμαστε μπροστά σε μία σοβαρή πιθανότητα απώλειας του ανθρώπινου ελέγχου στον κόσμο: μία δικτατορία των μηχανών είναι πλέον ορατή. Ενώ κάθε ένα από αυτά τα επιχειρήματα χρειάζεται ξεχωριστή απόδειξη (η οποία δεν συζητιέται καν), στον κόσμο των social media αλλά και στα Μέσα Μαζικής Ενημέρωσης τα συμπεράσματα είναι συνήθως προκατασκευασμένα και συνεισφέρουν στο εταιρικό marketing των εταιρειών τεχνητής νοημοσύνης.
ΔΙΑΒΑΣΤΕ ΕΠΙΣΗΣ
Ο συναγερμός είναι οικονομικός
Η κούρσα της ΤΝ δεν είναι άυλη. Είναι ίσως η μεγαλύτερη βιομηχανική επένδυση της εποχής μας: εξειδικευμένα τσιπ, γη, ηλεκτρική ενέργεια, ψύξη, δίκτυα οπτικών ινών, γιγαντιαία data centers είναι οι βασικές υλικές προϋποθέσεις για την επέκταση και εμπορευματοποίηση της ΤΝ.
Σύμφωνα με δημοσιεύματα και αναλύσεις της αγοράς που επικαλούνται στοιχεία για τον κλάδο, η Nvidia, ο βασικός προμηθευτής επεξεργαστών, αποκομίζει εξαιρετικά υψηλά έσοδα και δουλεύει με μεγάλα περιθώρια κέρδους. Ωστόσο οι εταιρείες που αγοράζουν την υπολογιστική ισχύ για να παράγουν μαζικά προϊόντα ΤΝ λειτουργούν με τεράστιες κεφαλαιακές ανάγκες και εξαιρετικά αβέβαιη κερδοφορία. Για την OpenAI προβλέπονται ζημίες 14 έως 27 δισ. δολαρίων το 2026, ενώ, γενικότερα, για τον κλάδο λογισμικού ΤΝ στις ΗΠΑ εκτιμώνται περίπου 60 δισ. δολάρια έσοδα με δαπάνες υποδομών που φθάνουν τα 400 δισ. δολάρια.
Πίσω από αυτά τα ποσά υπάρχουν πολυετείς δεσμεύσεις για αγορές μικροτσίπ, μισθώσεις data centers και προμήθεια ενέργειας. Δημοσιεύματα κάνουν λόγο για 3,1 τρις δολάρια πολυετών δεσμεύσεων, εκ των οποίων 1,9 τρις σε συμβάσεις αγοράς και 1,2 τρις σε μισθώσεις που δεν έχουν ακόμη αρχίσει. Σε αρκετές περιπτώσεις πρόκειται για συμφωνίες τύπου όπου η υποχρέωση πληρωμής παραμένει ακόμη και αν τα έσοδα δεν επιβεβαιώσουν τις αρχικά υπεραισιόδοξες προβλέψεις.
Και εδώ ακριβώς είναι το μεγάλο πρόβλημα: αν η υπόσχεση της ΓΤΝ δεν μετατραπεί γρήγορα σε μαζικό και επικερδές προϊόν ( κάτι που δε φαίνεται ούτε με τηλεσκόπιο προς το παρόν), το πρόβλημα δεν θα είναι μόνο μια διόρθωση τιμής των υπερτιμημένων μετοχών. Εταιρείες δεσμευμένες σε τεράστιες δαπάνες, επενδυτές που έχουν προεξοφλήσει μελλοντικά κέρδη και προμηθευτές που έχουν επεκτείνει την παραγωγή τους θεωρώντας δεδομένη την αδιάκοπη αύξηση της ζήτησης θα βρεθούν αντιμέτωποι με ένα τσουνάμι επιπτώσεων παγκόσμιας κλίμακας.
Μέσα σε αυτό το πλαίσιο, η προτεινόμενη «επιβράδυνση για λόγους ασφάλειας» αποκτά οικονομικό νόημα. Μία ελεγχόμενη επιβράδυνση θα δώσει στις εμπλεκόμενες εταιρείες χρόνο να μειώσουν τα κόστη εκπαίδευσης, να εμπορευματοποιήσουν τα υπάρχοντα μοντέλα, να σταθεροποιήσουν τις ταμειακές ροές τους και να δικαιολογήσουν καθυστερήσεις επενδύσεων χωρίς να ομολογήσουν ότι το επιχειρηματικό μοντέλο τους ενέχει τεράστιες αβεβαιότητες. Δεν είναι καθόλου τυχαίο ότι η Anthropic αναζητούσε χρηματοδότηση χρέους 15 δισ. δολαρίων λίγο πριν ανακοινώσει δημόσια την πρόταση για την επιβράδυνση.
Αν οι εταιρείες που βρίσκονται στην αιχμή της ανάπτυξης μοντέλων ΤΝ θεωρούν τα δικά τους, μη δημοσιευμένα μοντέλα τόσο επικίνδυνα ώστε να απαιτείται φρένο, θα μπορούσαν από μόνες τους να φρενάρουν. Δεν χρειάζονται την άδεια της κοινωνίας για να μην αναπτύξουν το επόμενο, πιο ισχυρό και πιο επικίνδυνο σύστημα, όπως δεν τη χρειάστηκαν για να αναπτύξουν τα σημερινά συστήματα. Στην πραγματική ζωή ωστόσο, οι ίδιες οι εταιρείες που πρωτοστατούν στις εκκλήσεις για «αυτοσυγκράτηση» και «επιβράδυνση» έχουν εξαπολύσει στοχευμένες εταιρικές καμπάνιες και λόμπι δεκάδων εκατομμυρίων δολαρίων με αιτήματα για ειδικές εξαιρέσεις, ακριβές άδειες, διευκόλυνση της δημιουργίας καρτέλ και ελεγκτικούς μηχανισμούς που μόνο οι γίγαντες της πληροφορικής μπορούν να αντέξουν. Με τον τρόπο αυτό, επιδιώκεται η «επιβράδυνση» να μετατραπεί σε πολιτική αιχμαλωσία της κοινωνίας, με κανόνες που αποκλείουν μικρότερες εταιρείες, με ρυθμίσεις που εμποδίζουν την ανάπτυξη ΤΝ από πανεπιστήμια και κοινότητες ανοικτού κώδικα, και θεσμική θωράκιση των ήδη κυρίαρχων.
Και, φυσικά, οι καμπάνιες αυτές δεν αφορούν τόσο ή μόνο το εσωτερικό των ΗΠΑ και της Δύσης, αλλά στοχεύουν ευθέως, ρητά και κατηγορηματικά την Κίνα. Ενδεικτικό του ψυχροπολεμικού κλίματος που διαμορφώνεται είναι ότι ό ίδιος ο Ντάριο Αμοντέι που έκανε την πρόσφατη δημόσια έκκληση για «επιβράδυνση», συμπλήρωσε αμέσως ότι οι ΗΠΑ θα μπορούσαν να επιβραδύνουν τόσο όσο είναι αναγκαίο για να παραμείνουν σαφώς μπροστά από την Κίνα.
Ενόψει των εκλογών του Νοεμβρίου στις Ηνωμένες Πολιτείες, η συζήτηση για την ΤΝ έχει και προεκλογική σημασία. Εταιρείες όπως η Open AI και η Anthropic φοβούνται ότι η κοινωνική πίεση και το κίνημα κατά των data centers μπορεί να καταστήσει πιο δημοφιλείς προτάσεις αυστηρής παρέμβασης (όπως αυτή του Μπέρνι Σάντερς): υποχρεωτικούς ελέγχους, κανόνες ευθύνης, περιορισμούς στην ανεξέλεγκτη επέκταση υποδομών ή ακόμη και φρένα σε ορισμένες εφαρμογές. Σε αυτό το κλίμα, η γλώσσα της εταιρικής «αυτορρύθμισης» επιτρέπει στις μεγάλες εταιρείες να εμφανίζονται ως οι «αναγκαίοι εταίροι» του κράτους, πριν η δημόσια δυσαρέσκεια μετατραπεί σε επιθετικό αίτημα δημοκρατικής εποπτείας. Με τον τρόπο αυτό, οι εν λόγω εταιρείες επιβεβαιώνουν αυτό που τόσο καιρό αρνούνται: οι κανόνες είναι απαραίτητοι και τα όρια αναγκαία. Το πρόβλημα είναι ποιος σχεδιάζει, ποιος ελέγχει την εφαρμογή τους και ποιος πληρώνει το κόστος τους. Καμία δημοκρατία δεν μπορεί να εκχωρεί στις εταιρείες που έχουν το μεγαλύτερο οικονομικό συμφέρον από την ΤΝ το δικαίωμα να ορίζουν μονομερώς γιατί, πότε και με ποιους όρους εφαρμόζεται και ποιες πολιτικές πρέπει να ακολουθηθούν.
Τι πραγματικά πρέπει να φοβόμαστε;
Η ίδια η Anthropic, που πρωτοστατεί στις προειδοποιήσεις για τις ακραίες συνέπειες της ΤΝ, δημοσίευσε ένα οικονομικό μοντέλο για την αμερικανική οικονομία έως το 2030. Το πιο σημαντικό του εύρημα αφορά τη μεταφορά εισοδήματος και εξουσίας από την εργασία προς τους ιδιοκτήτες των εταιρειών ΤΝ. Στο ακραίο σενάριο του μοντέλου, το ΑΕΠ ανεβαίνει κατά 32% λόγω μαζικής εφαρμογής της ΤΝ, η ανεργία προσεγγίζει το 12-15% και η απασχόληση σε επαγγέλματα γνώσης μειώνεται πάνω από 20%. Το μερίδιο της εργασίας στο εθνικό εισόδημα υποχωρεί από 60% σε 45%. Με άλλα λόγια, η οικονομία θα παράγει πολύ περισσότερα και οι εργαζόμενοι θα παίρνουν πολύ λιγότερα. Να λοιπόν ένας κίνδυνος, πολύ λιγότερο θεαματικός από μία εξέγερση των μηχανών, αλλά πολύ πιο υπαρκτός και άμεσος: η ΤΝ ήδη αναδιοργανώνει την κοινωνία σε βάρος της εργασίας, της μεσαίας τάξης και της κοινωνικής κινητικότητας. Τα (σχετικά μικρά αλλά μετρήσιμα) οφέλη της παραγωγικότητας γίνονται ήδη μία μηχανή διεύρυνσης των ανισοτήτων.
Και βέβαια, δεν χρειάζεται καμία «υπερνοημοσύνη» για να παραβιάσει την ιδιωτικότητα μας ή να επεκτείνει την επιτήρηση δισεκατομμυρίων ανθρώπων. Πρόσφατη ερευνητική εργασία απέδειξε ότι ορισμένες έξυπνες τηλεοράσεις μπορούσαν να σαρώνουν το τοπικό δίκτυο Wi-Fi, να καταγράφουν συσκευές του νοικοκυριού, να αξιοποιούν τεχνολογίες αναγνώρισης του περιεχομένου που παρακολουθεί ο χρήστης και να συλλέγουν ηχητικά δεδομένα μέσω μικροφώνων. Με τον τρόπο αυτό, οι οικιακές συσκευές μετατρέπονται σε αισθητήρες επιτήρησης και η ιδιωτική μας ζωή σε πρώτη ύλη για το εμπόριο διαφήμισης και τη δημιουργία προφίλ συμπεριφοράς για διαφημιστές. Και αυτό γίνεται με την σιωπηλή πλημμύρα εφαρμογών ΤΝ και αισθητήρων σε κάθε οικιακή εφαρμογή, ακόμα και σε τοστιέρες!
Μία άλλη έρευνα εντόπισε μεγάλο αριθμό λογαριασμών στο Facebook που αναρτούσαν μαζικά βίντεο βίαιης κακοποίησης παιδιών, φτιαγμένα από ΤΝ. Πολλοί χρήστες δεν καταλάβαιναν πως το υλικό ήταν συνθετικό, ενώ μετά από καταγγελίες η Meta αφαίρεσε μόνο δύο από οκτώ λογαριασμούς που είχαν αναφερθεί. Στην περίπτωση αυτή, έχουμε ένα φρικαλέο περιεχόμενο που παράγεται, παραλλάσσεται και διανέμεται σε τεράστια βιομηχανική κλίμακα με στόχο να εκμεταλλευτεί το σοκ, τον φόβο και την ανθρώπινη περιέργεια για να αγοράσει προσοχή. Η βιομηχανοποίηση της φρίκης δεν μπορεί να διαχωριστεί από την εμπορευματοποίηση της ΤΝ και αυτό δημιουργεί τεράστιες επιπτώσεις εδώ και τώρα (όπως και η συστηματική παραπληροφόρηση), για τις οποίες οι εταιρείες – πάροχοι των μοντέλων δεν φαίνεται να ανησυχούν καθόλου.
Υπάρχει, τέλος, ένας ακόμα υποθετικός αλλά μάλλον σοβαρός κίνδυνος που αξίζει να σκεφτούμε. Η παραδοσιακή κατανόηση της «υπερνοημοσύνης» αναμένει μία υπερμηχανή, το μοντέλο των μοντέλων, που μία ωραία ημέρα θα κατακτήσει τον κόσμο και θα υποτάξει τους ανθρώπους. Ωστόσο, σταδιακά, έχει αρχίσει μία συζήτηση για τους κινδύνους που ελλοχεύουν όχι από μία υπερμηχανή αλλά από την πιθανή απρόβλεπτη συμπεριφορά μεγάλων δικτύων εκατοντάδων εκατομμυρίων αυτόνομων πρακτόρων ΤΝ. Πρόκειται για συστήματα με συγκεκριμένο σκοπό εργασίας, που μπορούν να ενεργοποιούν το ένα το άλλο, να κατανέμουν καθήκοντα και πόρους, να ανταλλάσσουν δεδομένα και να χρησιμοποιούν εργαλεία σε δίκτυα, επιχειρήσεις και κρίσιμες υποδομές. Με μία τέτοια συνεργασία μεγάλης κλίμακας ενδέχεται να οδηγηθούμε σε αποτελέσματα που κανένα επιμέρους μοντέλο η πράκτορας ΤΝ δεν σχεδίασε ή δεν κατανοεί πλήρως. Αν αυτός ο κίνδυνος είναι σημαντικός, η απειλή ίσως δεν έχει πρόσωπο, όνομα ούτε καν έναν κεντρικό διακόπτη απενεργοποίησης. Θα μοιάζει περισσότερο με απρόβλεπτο καιρικό φαινόμενο: ένα αναδυόμενο σύστημα που ξεφεύγει από τη συνολική επίβλεψη επειδή κανείς δεν το ελέγχει ως σύνολο. Αλλά αυτά είναι μικρές λεπτομέρειες μπροστά στην ταχέως αναπτυσσόμενη αγορά αυτόνομων πρακτόρων ΤΝ…
Οι προφητείες πάνε … κουβά
Τα αφεντικά της ΤΝ ασχολούνται πολύ με τις προφητείες και το εταιρικό τους μάρκετινγκ διασφαλίζει ότι αυτές θα φτάσουν σε κάθε άκρη του κόσμου. Αυτό με το οποίο ελάχιστοι ασχολούνται είναι η αξιοπιστία αυτών των προβλέψεων. Πρόσφατα, μία ερευνητική ομάδα ασχολήθηκε με τις δημόσια καταγεγραμμένες προβλέψεις για την ΤΝ, την υπερνοημοσύνη και την απώλεια του ανθρώπινου ελέγχου, εξετάζοντας 24 προβλέψεις, από το 1950 έως το 2026. Το αποτέλεσμα είναι αποκαλυπτικό: οι 19 από τις 24 δεν μπορούν καν να κριθούν ως λάθος προβλέψεις. Και αυτό γιατί δεν ορίζουν επαρκώς το αντικείμενο της πρόβλεψης, δεν προσδιορίζουν πώς θα μετρηθεί και δεν επιτρέπουν σε έναν ανεξάρτητο φορέα να κρίνει αν επαληθεύτηκε. Μόνο δύο προβλέψεις ήταν αρκετά συγκεκριμένες ώστε να ελεγχθούν αφού πέρασε η προθεσμία τους, και οι δύο αποδείχθηκαν λανθασμένες. Τρεις προβλέψεις παραμένουν ακόμα χρονικά ανοιχτές.
Η εργασία δείχνει κάτι πολύ κρίσιμο: οι περισσότερες προβλέψεις είναι διατυπωμένες για να επιβιώνουν σε κάθε πιθανή εξέλιξη. Το συμπέρασμα είναι ότι δεν πρέπει να τις αντιμετωπίζουμε ως στοιχεία γνώσης, ούτε βέβαια και ως βάσεις για χάραξη πολιτικής. Και αυτό έχει τεράστια σημασία επειδή οι δραματικές προειδοποιήσεις διαμορφώνουν επενδύσεις, θεσμικές ρυθμίσεις και ερευνητικές προτεραιότητες. Η καλή πίστη δεν αρκεί όταν η δημόσια συζήτηση επηρεάζει θεμελιώδεις αποφάσεις. Όποιος προβλέπει «υπερνοημοσύνη» οφείλει να μας πει καθαρά: τι ακριβώς προβλέπει, με ποιον τρόπο θα μετρηθεί, έως πότε, με ποια πιθανότητα, βάσει ποιου μηχανισμού και ποιος φορέας θα κρίνει το αποτέλεσμα. Σε κάθε άλλη περίπτωση, οι προβλέψεις δεν έχουν καμία παραπάνω αξία από τις προβλέψεις των μέντιουμ που προφητεύουν το μέλλον έναντι αδρής αμοιβής. Και ίσως αυτό να σημαίνει κάτι για την ίδια την υπαρκτή τεχνητή νοημοσύνη…
(Ο Αντώνης Μαυρόπουλος είναι σύμβουλος κυκλικής οικονομίας και συγγραφέας. Τα βιβλία του «Waste Side Stories Απόβλητοι – Απόβλητα και Μεταβολικά Ρήγματα» και «Τεχνητή Νοημοσύνη – Άνθρωπος, Φύση, Μηχανές» κυκλοφορούν από τις εκδόσεις Τόπος)
