Η Anthropic καλεί τα κορυφαία εργαστήρια τεχνητής νοημοσύνης να εξετάσουν το ενδεχόμενο επιβράδυνσης του ρυθμού ανάπτυξης, υποστηρίζοντας ότι τα συστήματα AI εξελίσσονται τόσο γρήγορα που σύντομα ενδέχεται να είναι σε θέση να βελτιώνονται μόνα τους χωρίς ανθρώπινη παρέμβαση, με τρόπους που θα μπορούσαν να εγκυμονούν σημαντικούς κοινωνικούς κινδύνους.
Η ικανότητα επιβράδυνσης της παγκόσμιας ανάπτυξης της AI θα ήταν «πιθανότατα κάτι καλό», ανέφερε η εταιρεία την Πέμπτη σε μια ανάρτηση στο ιστολόγιό της, στην οποία αποκάλυψε εσωτερικά δεδομένα που τεκμηριώνουν πόσο γρήγορα βελτιώνονται τα πιο προηγμένα μοντέλα της.
Η ανάρτηση, η οποία συντάχθηκε από την επικεφαλής του ερευνητικού της ινστιτούτου και έναν συνιδρυτή της εταιρείας, σημείωσε ότι η πρόοδος των μοντέλων φαίνεται να βρίσκεται σε τροχιά προς την «αναδρομική αυτοβελτίωση» (recursive self-improvement) - όταν δηλαδή τα συστήματα AI θα μπορούν να βελτιώνονται μόνα τους χωρίς ανθρώπινη παρέμβαση.
Ορισμένοι γνώστες του κλάδου της AI θεωρούν αυτό το όριο ως ένα πιθανό ορόσημο κινδύνου και τεράστιας κοινωνικής αναταραχής.
«Πιστεύουμε ότι θα ήταν καλό για τον κόσμο να έχει την επιλογή να επιβραδύνει ή να παγώσει προσωρινά την ανάπτυξη της AI αιχμής, ώστε να επιτραπεί στις κοινωνικές δομές και στην έρευνα ευθυγράμμισης να συμβαδίσουν με την πρόοδο της τεχνολογίας», αναφέρει η ανάρτηση που συνέγραψαν οι Marina Favaro και Jack Clark. Προτείνει μια παγκόσμια συμφωνία για τον τρόπο πιθανής επιβράδυνσης της ανάπτυξης και έναν μηχανισμό επαλήθευσης ότι οι ανταγωνιστές την σέβονται.
Η ανάρτηση προειδοποιεί ότι η αναδρομική αυτοβελτίωση δεν έχει συμβεί ακόμη και δεν είναι αναπόφευκτη, «αλλά θα μπορούσε να έρθει νωρίτερα από ό,τι είναι προετοιμασμένα τα περισσότερα θεσμικά όργανα».
Διαφημιστικό τρικ, χειραγώγηση της προόδου ή πραγματική ευσυνειδησία;
Σημειώνεται πως η Anthropic ολοκλήρωσε πρόσφατα έναν γύρο χρηματοδότησης που αποτίμησε την εταιρεία σε σχεδόν 1 τρισεκατομμύριο δολάρια, ενώ κατέθεσε εμπιστευτικά έγγραφα για να ξεκινήσει τη διαδικασία δημόσιας εγγραφής των μετοχών της (IPO). Η εταιρεία αναδείχθηκε πρόσφατα ως πρωτοπόρος στον άγριο ανταγωνισμό με τη δημιουργό του ChatGPT, OpenAI, η οποία αναμένεται επίσης να καταθέσει σύντομα έγγραφα για αρχική δημόσια προσφορά.
Η εταιρεία αντιμετωπίζει εδώ και καιρό επικρίσεις ότι με τις πολιτικές της επιχειρεί να επιβραδύνει την πρόοδο των ανταγωνιστών της. Ο David Sacks, επενδυτής επιχειρηματικών κεφαλαίων και άτυπος σύμβουλος του προέδρου Τραμπ, κατηγόρησε τους ηγέτες της Anthropic ότι εφαρμόζουν μια «ατζέντα ρυθμιστικής αιχμαλωσίας».
Σε ένα πρόσφατο podcast, ο Sacks δήλωσε ότι η «ατζέντα ρυθμιστικής αιχμαλωσίας» στην Ουάσινγκτον θα μπορούσε να οδηγήσει σε μια προσπάθεια απαγόρευσης των λεγόμενων μοντέλων ανοιχτού κώδικα, ουσιαστικά εκδόσεων συστημάτων AI που είναι πολύ φθηνότερες για να τις χρησιμοποιούν και να τις αναπτύσσουν εσωτερικά οι οργανισμοί.
Άλλοι έχουν υποστηρίξει ότι οι προειδοποιήσεις της Anthropic για τις επικίνδυνες δυνατότητες των δικών της εργαλείων θα μπορούσαν επίσης να θεωρηθούν ως διαφημιστικό κόλπο. Αυτοί οι σκεπτικιστές επισημαίνουν την απόφαση της Anthropic να περιορίσει την κυκλοφορία ενός ισχυρού μοντέλου κυβερνοασφάλειας με το όνομα «Mythos», ικανού να εντοπίζει σφάλματα και προβλήματα, ως έναν βολικό τρόπο για να διαφημίσει τις δυνατότητες των προϊόντων της.
Οι ηγέτες της Anthropic έχουν δηλώσει ότι λαμβάνουν σοβαρά υπόψη την ασφάλεια και εργάζονται προκειμένου να προωθήσουν τον διάλογο γύρω από τους κινδύνους.
Ο Ethan Mollick, καθηγητής στο Wharton School του Πανεπιστημίου της Πενσυλβάνια και σημαίνων μελετητής του μετασχηματισμού της AI, εκτιμά πως πολλοί μέσα στην εταιρεία είναι «πραγματικοί ιδεαλιστές».
«Τα εργαστήρια AI φιλοξενούν ένα μείγμα ανθρώπων», εξηγεί ο Mollick: «Πρόκειται για μια εταιρεία ενός τρισεκατομμυρίου δολαρίων με όλα τα συνηθισμένα χαρακτηριστικά, όπως ομάδες μάρκετινγκ και δικηγόρους. Μετά υπάρχει ένας πυρήνας ερευνητών που απλώς κατασκευάζουν τα επόμενα μοντέλα. Και μετά υπάρχει μια ομάδα ανθρώπων που είναι σαν "γκουρού", οι οποίοι ανησυχούν για το μέλλον και το τι έπεται, και όλοι αυτοί βρίσκονται μερικές φορές σε σύγκρουση μεταξύ τους».
Ο κλάδος της AI είναι διχασμένος εδώ και καιρό για το πόσο κοντά βρίσκονται τα τρέχοντα μοντέλα στην επίτευξη οροσήμων όπως η «τεχνητή γενική νοημοσύνη» ή AGI (ένα επίπεδο νοημοσύνης συγκρίσιμο με το ανθρώπινο) ή η αναδρομική αυτοβελτίωση.
Ορισμένοι μελετητές, όπως ο Yann LeCun, πρώην επικεφαλής επιστήμονας AI στη Meta Platforms και πρωτοπόρος της τεχνητής νοημοσύνης, έχουν υποστηρίξει ότι τα συστήματα αιχμής που βασίζονται σε μεγάλα γλωσσικά μοντέλα δεν θα γίνουν ποτέ ικανά να κάνουν το άλμα για να ανταγωνιστούν την ανθρώπινη νοημοσύνη. Αν και αναγνωρίζει τα μοντέλα AI ως ισχυρά εργαλεία, ο LeCun τα έχει συγκρίνει με τη νοημοσύνη μιας γάτας.
Με πληροφορίες από την Wall Street Journal
