Πριν ακόμη κατακάτσει η σκόνη από τον «τυφώνα» που προκάλεσε το «τεχνολογικό θαύμα» της κινεζικής DeepSeek, ο ερευνητής για θέματα ασφαλείας Στίβεν Άντλερ ανακοίνωσε την παραίτησή του από την OpenAI, δηλώνοντας «τρομοκρατημένος» από τον ρυθμό ανάπτυξης της τεχνητής νοημοσύνης.
Προειδοποιώντας για το «πολύ επικίνδυνο τζογάρισμα» της τεχνολογικής βιομηχανίας, ο Άντλερ εξέφρασε ανησυχίες σχετικά με τις εταιρείες που επιδιώκουν την ταχεία ανάπτυξη της γενικής τεχνητής νοημοσύνης (AGI), ή αλλιώς συστήματων που ξεπερνούν τον άνθρωπο σε οποιαδήποτε πνευματική εργασία.
Ο Άντλερ - ο οποίος αποχώρησε από την OpenAI τον Νοέμβριο - δήλωσε σε μια σειρά αναρτήσεων στο X ότι είχε μια «άγρια διαδρομή» στην αμερικανική εταιρεία και θα του λείψουν «πολλά».
ΔΙΑΒΑΣΤΕ ΕΠΙΣΗΣ
Ωστόσο, τόνισε πως η τεχνολογία αναπτύσσεται τόσο γρήγορα που εγείρει αμφιβολίες για το μέλλον της ανθρωπότητας.
{https://x.com/sjgadler/status/1883928200029602236}
«Είμαι αρκετά τρομοκρατημένος από τον ρυθμό ανάπτυξης της τεχνητής νοημοσύνης τελευταία. Όταν σκέφτομαι πού θα μεγαλώσω την μελλοντική οικογένειά μου ή πόσα χρήματα να αποταμιεύσω για τη σύνταξη, δεν μπορώ παρά να αναρωτηθώ: θα τα καταφέρει η ανθρωπότητα να φτάσει μέχρι εκεί;»
«Κατά τη γνώμη μου ο αγώνας δρόμου για την AGI είναι ένα πολύ επικίνδυνο στοίχημα με σοβαρά μειονεκτήματα. Κανένα εργαστήριο δεν έχει λύση για τη συγκράτηση της ΤΝ σήμερα. Και όσο γρηγορότερα τρέχουμε, τόσο λιγότερο πιθανό είναι να βρεθεί εγκαίρως μία.
»Είμαστε κολλημένοι σε μια επικίνδυνη ισορροπία. Ακόμα και αν ένα κάποιο εργαστήριο θέλει πραγματικά να αναπτύξει υπεύθυνα την AGI, οι υπόλοιποι ενδέχεται να παρακάμψουν ορισμένες διαδικασίες για να "προλάβουν", πιθανά με καταστροφικές συνέπειες. Και αυτό κάνει τους πάντες να "τρέχουν". Ελπίζω τα εργαστήρια να είναι ειλικρινή σχετικά με τις απαραίτητες ρυθμίσεις ασφαλείας.»
Από την ΑΙ στην AGI: Ξεπερνώντας την ανθρώπινη λογική
Πρόσφατα η OpenAI ανακοίνωσε ότι τα βελτιωμένα μοντέλα της o3 έσπασαν ένα κρίσιμο τεστ για την ικανότητα συλλογισμού των συστημάτων AI (ARC-AGI benchmark). Αυτή η εξέλιξη σημαίνει πρακτικά ότι η AGI είναι εφικτή και μάλιστα πως τα οφέλη της θα μπορούσαν να είναι ορατά πολύ νωρίτερα από ό,τι νομίζαμε.
Παρότι οι ειδικοί έχουν διαφορετικές απόψεις για το πώς θα μοιάζει πραγματικά η AGI, όλοι συμφωνούν πως μιλάμε ξεκάθαρα για μια νέα μορφή νοημοσύνης.
Ο Ian Hogarth - πρόεδρος του Taskforce Model AI Foundation - έχει ορίσει την AGI ως έναν «υπερ-έξυπνο υπολογιστή» που «μαθαίνει και αναπτύσσεται αυτόνομα». Θα μπορούσε «να είναι μια δύναμη πέρα από τον έλεγχο ή την κατανόησή μας», έχει πει χαρακτηριστικά.
Για την OpenAI, πάλι, η τεχνητή γενική νοημοσύνη αφορά «υψηλά αυτόνομα συστήματα που ξεπερνούν τους ανθρώπους στην προσφορά φθηνής εργασίας» ή αλλιώς «συστήματα τεχνητής νοημοσύνης που μπορούν να αποφέρουν κέρδη τουλάχιστον 100 δισεκατομμυρίων δολαρίων».
{https://www.youtube.com/watch?v=vd9GxG5Qn-k&ab_channel=Greylock}
Η τεχνητή γενική νοημοσύνη (AGI) αναφέρεται στην υποθετική - για την ώρα - νοημοσύνη μιας μηχανής που έχει την ικανότητα να κατανοεί ή να εκπαιδεύεται σε οποιαδήποτε ανθρώπινη διανοητική εργασία. Πρόκειται για ένα είδος τεχνητής νοημοσύνης (AI) που στοχεύει στη μίμηση των γνωστικών ικανοτήτων του ανθρώπινου εγκεφάλου.
Τα συστήματα AGI διαθέτουν ορισμένα βασικά χαρακτηριστικά που τα διαφοροποιούν από άλλους τύπους ΤΝ: Mπορεί να μεταφέρει τις γνώσεις και τις δεξιότητες που διαθέτει από τον ένα τομέα στον άλλο, κάτι που της επιτρέπει να προσαρμόζεται αποτελεσματικά σε νέες και άγνωστες καταστάσεις, ενώ παράλληλα διαθέτει ένα τεράστιο αποθετήριο δεδομένων για τον κόσμο - συμπεριλαμβανομένων γεγονότων, σχέσεων και κοινωνικών κανόνων.
Για την ανάπτυξη της AGI συνεργάζονται επί τους παρόντος η επιστήμη των υπολογιστών, η νευροεπιστήμη και η γνωστική ψυχολογία, ενώ βασικό «όφελος» της νέας τεχνολογίας θα είναι η ικανότητά της να επιλύει πολύπλοκα προβλήματα που σήμερα ξεπερνούν τις ανθρώπινες δυνατότητες.
Ορισμένοι ειδικοί, όπως ο βραβευμένος με Νόμπελ Τζέφρι Χίντον, φοβούνται ότι τα ισχυρά συστήματα τεχνητής νοημοσύνης θα μπορούσαν να διαφύγουν του ανθρώπινου ελέγχου με δυνητικά καταστροφικές συνέπειες, ενώ άλλοι, όπως ο επικεφαλής της Meta στις έρευνες ΤΝ, Yann LeCun, υποβαθμίζουν τις δηλώσεις περί υπαρξιακής απειλής, υποστηρίζοντας πως η ΤΝ «θα μπορούσε στην πραγματικότητα να σώσει την ανθρωπότητα από την εξαφάνιση».
Ο Τζέφρι Εβερεστ Χίντον είναι αυτός που ανέπτυξε το deep learning (βαθιά μάθηση), ενώ επί τουλάχιστον μια δεκαετία ανέπτυσσε εφαρμογές τεχνητής νοημοσύνης για την Google. Tάραξε τα παγκόσμια νερά με την απόφασή του να παραιτηθεί από την εταιρεία και να μιλήσει ανοιχτά για τους κινδύνους που εγκυμονεί το δημιούργημά του.
{https://x.com/geoffreyhinton/status/1652993570721210372}
«Παρηγορώ τον εαυτό μου με τη συνηθισμένη δικαιολογία: αν δεν το είχα κάνει εγώ, θα το έκανε κάποιος άλλος», έχει πει στο παρελθόν παραδεχόμενος ότι ένα κομμάτι του έχει μετανιώσει για το έργο που πρόσφερε.
Για τον Χίντον τα πράγματα έγιναν πολύ πιο περίπλοκα με την εμφάνιση της νέας γενιάς γλωσσικών μοντέλων, ειδικά του GPT-4 που κυκλοφόρησε η OpenAI τον Μάρτιο του 2023.
Τότε ήταν που συνειδητοποίησε ότι οι μηχανές βρίσκονται σε καλό δρόμο να καταστούν πολύ πιο έξυπνες απ’ ό,τι πίστευε αρχικά και μάλιστα χωρίς να έχει φροντίσει κάποιος για το ρυθμιστικό πλαίσιο που θα προστάτευε την ανθρωπότητα από τη δόλια χρήση μιας τέτοιας τεχνολογίας.
