Η τεχνητή νοημοσύνη (TN) δεν είναι ένα φουτουριστικό κόνσεπτ, είναι μια απτή πραγματικότητα που αναπτύσσεται με ραγδαίο ρυθμό εδώ και τώρα. Και ενώ η τεχνολογία της έχει την ικανότητα να μεταμορφώνει την κοινωνία μας προς το καλύτερο, συχνά προκαλεί ανησυχία με τις “παρενέργειές” της, που επηρεάζουν ακόμη και ίδιους τους δημιουργούς της!
Σε ένα άρθρο γνώμης με τίτλο: “Choose Your Weapon: Survival Strategies for Depressed AI Academics” οι διακεκριμένοι στο πεδίο καθηγητές Julian Togelius και Georgios N. Yannakakis, αποτυπώνουν το άγχος των ερευνητών όταν διαπιστώνουν ότι ο ρυθμός προόδου στη ΤΝ τους…ξεπερνά!
Οι καθηγητές Julian Togelius και Γεώργιος Γιαννακάκης
Ένας αυξανόμενος αριθμός ακαδημαϊκών δεν μπορούν πλέον να εξασφαλίσουν τα μέσα και τους πόρους για να παραμείνουν ανταγωνιστικοί σε παγκόσμια κλίμακα, όταν έχουν απέναντί τους εταιρείες-κολοσσούς που επενδύουν τεράστιους πόρους στην έρευνα αιχμής στην TN.
«Κάποιος που διενεργεί έρευνα στη ΤΝ σε ένα πανεπιστήμιο, αναπτύσσει μια περίπλοκη σχέση με εταιρείες όπως οι DeepMind, Open AI, Google Brain και Meta AI. Όποτε πέφτει στα χέρια του μια δημοσίευση για κάποιο γιγάντιο νευρωνικό δίκτυο που εκπαιδεύτηκε να κάνει κάτι για το οποίο μέχρι εκείνη τη στιγμή δεν ήταν σίγουρος ότι ένα μοντέλο ΤΝ μπορούσε να κάνει, κατακλύζεται από ανάμικτα συναισθήματα. Ενθουσιάζεται μεν που η εταιρεία κατάφερε να σπρώξει την ΤΝ ένα ακόμη βήμα πιο μπροστά, αλλά προβληματίζεται για το πώς θα μπορούσε εκείνος ως ακαδημαϊκός, επικεφαλής ενός εργαστηρίου με μερικούς διδακτορικούς φοιτητές και (αν είναι αρκετά τυχερός) με μερικούς μεταδιδακτορικούς, να συμβαδίσει, συνειδητοποιώντας ότι τέτοιου είδους έρευνα απλά δεν είναι δυνατόν να γίνει μέσα σε ένα πανεπιστήμιο», εξηγεί ο ένας εκ των δυο συγγραφέων του άρθρου Καθηγητής Γιώργος Γιαννακάκης ο οποίος ηγείται του Ινστιτούτου Ψηφιακών Παιχνιδιών στο Πανεπιστήμιο της Μάλτας-του μοναδικού στη Ευρώπη κέντρου έρευνας και εκπαίδευσης στον σχεδιασμό, την ανάλυση και την τεχνολογία παιχνιδιών-το έργο του οποίου βρίσκεται στην πρώτη γραμμή της έρευνας καινοτόμων παιχνιδιών και περιλαμβάνεται στη λίστα με τα κορυφαία επιστημονικά ιδρύματα στον κόσμο, σύμφωνα με την Princeton Review.
Δεν ήταν πάντα έτσι…
Μόλις πριν από δέκα χρόνια, αν κάποιος είχε έναν αξιοπρεπή υπολογιστή και πρόσβαση στο διαδίκτυο είχε όλα όσα χρειαζόταν για να ανταγωνιστεί τους καλύτερους ερευνητές. «Αν μάθαμε κάτι από την χρήση της βαθιάς μάθησης (deep learning) με τα ChatGPT και GPT-4 είναι ότι μετράει η κλίμακα (το μέγεθος των μοντέλων και ο χρόνος εκπαίδευσής τους). Προφανώς έχουν βελτιωθεί οι ίδιοι οι αλγόριθμοι αλλά αυτές οι βελτιώσεις είναι πραγματικά χρήσιμες όταν συνδυάζονται με πειράματα μεγάλης κλίμακας, τα οποία σήμερα δεν μπορούν να υποστηριχθούν από μεμονωμένους ακαδημαϊκούς ή ακόμα και από ομάδες ερευνητών του πεδίου. Διαπιστώνουμε πως το χάσμα μεταξύ της υπολογιστικής δύναμης που είναι διαθέσιμη και της υπολογιστικής δύναμης που χρειάζονται οι ερευνητές για να παραμείνουν ανταγωνιστικοί, αυξάνεται κάθε χρόνο» συμπεραίνει ο αναπληρωτής καθηγητής στο Τμήμα Επιστήμης και Μηχανικών Υπολογιστών του Πανεπιστημίου της Νέας Υόρκης, Julian Togelius.
Αυτό εξηγεί σε μεγάλο βαθμό και τη δυσαρέσκεια πολλών ερευνητών ΤΝ στον ακαδημαϊκό χώρο εξαιτίας των εταιρειών-κολοσσών. Άλλος είναι ο υγιής ανταγωνισμός από συνάδελφους και άλλος από κάποιον που έχει τόσους πόρους για να κάνει εύκολα πράγματα που ένας άλλος δεν θα μπορούσε να κάνει ποτέ, όσο καλές ιδέες και να έχει. « Όταν εργάζεσαι ερευνητικά πάνω σε κάποιο θέμα και αποφασίσει η DeepMind ή η OpenAI να δουλέψει πάνω στο ίδιο, πιθανότατα νιώθεις όπως νιώθει ένας μικρός καταστηματάρχης σε μια μικρή πόλη που βλέπει δίπλα του να «ξεφυτρώνει» ένα τεράστιο εμπορικό κέντρο. Το οποίο είναι λυπηρό, γιατί θέλουμε να πιστεύουμε ότι η έρευνα είναι μια ανοιχτή και συλλογική προσπάθεια όπου αναγνωρίζεται η συμβολή όλων, Ή μήπως όχι;», διερωτάται ο Έλληνας επιστήμονας.
Ένας καθηγητής με μια μικρή ερευνητική ομάδα και με περιορισμένους υπολογιστικούς πόρους, πώς μπορεί να αντέξει στην «επίθεση» και στον αθέμιτο ανταγωνισμό εταιρειών που διοχετεύουν πολύ χρήμα στην έρευνα; Αυτό είναι ένα ερώτημα που απασχολεί διαχρονικά ακαδημαϊκούς του πεδίου, όμως οι πρόσφατες εξελίξεις με μοντέλα όπως το GPT-4 με εντυπωσιακές δυνατότητες που είναι ταυτόχρονα σοκαριστικά κλειστά, χωρίς δημοσιευμένες λεπτομέρειες, καθιστούν την ερώτηση ακόμη πιο επίκαιρη.
Αξίζει τελικά μια ακαδημαϊκή καριέρα στην τεχνητή νοημοσύνη;
Τελικά τι από όλα είναι το καλύτερο; Να προσπαθήσει κάποιος να ενταχθεί στον ακαδημαϊκό χώρο, να μπει σε μια μεγάλη τεχνολογική εταιρεία, να ξεκινήσει μια startup ή να εγκαταλείψει το πεδίο; Αξίζει να γίνει κάποιος ένα ακόμη γρανάζι μιας μηχανής ή να παραμείνει επαναστάτης;
Σύμφωνα με τους συγγραφείς του άρθρου, είναι πιο εύκολο να παραμείνει κάποιος επαναστάτης όταν δεν έχει τίποτα να χάσει, πράγμα που συμβαίνει συνήθως είτε στην αρχή της καριέρας του, είτε όταν έχει διασφαλίσει την σταθερότητα της ακαδημαϊκής θέσης. Όσο ικανός και να είναι κάποιος, αυτή η ένδοξη μάχη που δίνει για να παραμείνει ανταγωνιστικός, δείχνει να είναι χαμένη από χέρι.
Ο καθηγητής Γεώργιος Γιαννακάκης (Πανεπιστήμιο Μάλτας)
Μέσα στο άρθρο γνώμης οι δυο επιστήμονες προτείνουν σε ακαδημαϊκούς τεχνητής νοημοσύνης πιθανές επιλογές που θα τους βγάλουν από το αδιέξοδο και την απελπισία που βιώνουν εξαιτίας των επιλογών τους, με πρώτη λύση την παραίτηση: «Δεν εγκαταλείπεις την έρευνα, εγκαταλείπεις εκείνα που μπορεί να είναι πραγματικά εντυπωσιακά και προκαλούν μια σημαντική αλλαγή στο ερευνητικό πεδίο της ΤΝ», λέει ο καθηγητής Γιαννακάκης, εφιστώντας την προσοχή στην κλίμακα: «Δοκιμάστε να μεγαλώσετε την κλίμακα των πειραμάτων σας. Εφόσον η αύξηση των υπολογιστικών πόρων λειτουργεί, ας δοκιμάσουμε να τρέξουμε παρόμοια πειράματα στα πανεπιστημιακά μας εργαστήρια! Δυστυχώς οι δομές που απαιτούνται για επιτυχημένα περάματα και έργα ΤΝ μεγάλης κλίμακας απλά, δεν είναι συμβατές με τις δομές του ακαδημαϊκού χώρου. Από την άλλη, μειώστε την κλίμακα. Ένας δημοφιλής τρόπος για να παρακάμψετε το ζήτημα είναι να εστιάσετε σε απλά αλλά αντιπροσωπευτικά προβλήματα που θα αποδείξουν θεωρητικά τα οφέλη μιας νέας προσέγγισης ή θα παρουσιάσουν τα συγκριτικά πλεονεκτήματα μιας νέας μεθόδου».
Μια μάλλον αποτελεσματική στρατηγική, σύμφωνα με το άρθρο, είναι να επιλέξει κάποιος μια εξειδικευμένη αλλά κάπως καθιερωμένη περιοχή έρευνας και να προσπαθήσει να καινοτομήσει εντός και μέσω αυτής, αν και συχνά τα αποτελέσματα δεν θα έχουν μεγάλο αντίκτυπο πέρα από αυτήν.
Μια άλλη ιδέα είναι να λύσει κάποιος προβλήματα που ενδιαφέρουν λίγους (προς το παρόν!). Βασικά, να επικεντρωθεί σε ένα πρόβλημα που σχεδόν κανείς δεν βλέπει τη σημασία του ή σε μια μέθοδο που κανείς δεν τη βρίσκει πολλά υποσχόμενη. Μια προσέγγιση είναι να αναζητήσει εφαρμογές όπου η ΤΝ δεν έχει βρει χρήση (ακόμα) ή να ψάξει σε έναν τομέα που δεν είναι ούτε επίκαιρος ούτε «σέξι».
Τέλος να δοκιμάσει πράγματα που φαίνεται ότι δεν θα πετύχουν. Οι ερευνητές στα εργαστήρια της βιομηχανίας κατά κύριο λόγο, στρέφονται σε αυτά που πιθανώς θα λειτουργήσουν, γιατί αλλιώς η εταιρία ενδεχομένως θα χάσει χρήματα. Στον ακαδημαϊκό χώρο, η αποτυχία μπορεί να είναι τόσο διδακτική και πολύτιμη όσο και η επιτυχία, ενώ το συνολικό κόστος της αποτυχίας είναι πολύ χαμηλότερο.
Με ανοικτούς κώδικες και μοντέλα
Ένας από τους βασικούς λόγους για τους οποίους η ΤΝ αναπτύχθηκε ραγδαία την τελευταία δεκαετία είναι ότι οι ο κώδικας και τα μοντέλα καθίστανται διαθέσιμα στην επιστημονική κοινότητα. Έχοντας πρόσβαση σε μεγάλα μοντέλα όπως το ImageNet ή σε παραλλαγές του GPT κάποιος εξοικονομεί χρόνο και πόρους. Οι συγγραφείς του άρθρου προτείνουν στους ερευνητές να υιοθετούν όσο μπορούν μεγάλα μέρη αυτών των μοντέλων και να προσπαθούν να προσαρμόσουν και να εκπαιδεύσουν μικρότερα κομμάτια τους στο δικό τους συγκεκριμένο πρόβλημα.
«Κάποιος θα μπορούσε επίσης, να μειώσει τις απαιτήσεις του σε σχέση με τα δεδομένα και να προσεγγίσει προβλήματα ΤΝ μέσα από το φακό της ενισχυτικής μάθησης (Reinforcement Learning - RL). Επιλέγοντας την χρήση RL μπορεί κάποιος να παρακάμψει όλα τα ζητήματα που σχετίζονται με τη διαθεσιμότητα των δεδομένων, την ανάλυση, την αποθήκευση και τον χειρισμό τους. Παρ’ όλα αυτά αν θέλετε να απαλλαγείτε από μεγάλα δεδομένα, ενδέχεται να συνεχίζετε να αντιμετωπίζετε θέματα μεγάλου υπολογιστικού φόρτου, εκτός εάν εργάζεστε σε πολύ απλά προβλήματα ή σε εξειδικευμένους τομείς», προσθέτει ο καθηγητής Julian Togelius.
Οι δυο συγγραφείς προτείνουν και τον συμβιβασμό σε μικρές κλίμακες μοντέλων ΤΝ για εξοικονόμηση υπολογιστικών πόρων (π.χ. μικρότερα δυνατά μοντέλα που είναι ικανά να λύσουν ένα πρόβλημα ή να ολοκληρώσουν μια εργασία). Αυτό είναι ιδιαίτερα σημαντικό και σχετικό για λειτουργικές εφαρμογές ΤΝ στον πραγματικό κόσμο (π.χ. κινητά, αυτόνομα αυτοκίνητα, smart homes).
Start it Up!
Ενδεχομένως η πιο δημοφιλής λύση για τους ερευνητές της ΤΝ είναι να ιδρύσουν μια εταιρεία που θα μεταφέρει σταδιακά την έρευνα από το πανεπιστημιακό εργαστήριο σε ένα σύνολο υπηρεσιών ή προϊόντων εμπορικών προδιαγραφών. Το να είναι κάποιος μέρος του κόσμου της εφαρμοσμένης ΤΝ είναι επωφελές. Καταρχάς, έχει πρόσβαση σε πλούσια δεδομένα από εφαρμογές πραγματικού κόσμου που διαφορετικά δεν θα μπορούσε. Επιπλέον, οι αλγόριθμοι του δοκιμάζονται σε δύσκολες εφαρμογές εμπορικών προτύπων και πρέπει να είναι λειτουργικοί στον πραγματικό κόσμο. Τέλος, συνήθως αποκτά πρόσβαση σε περισσότερους υπολογιστικούς και ανθρώπινους πόρους.
«Ωστόσο, δεν είναι όλες οι ερευνητικές ιδέες άμεσα εφαρμόσιμες σε ένα επιχειρηματικό περιβάλλον. Επιπλέον, πολλά εξαιρετικά αποτελέσματα που λαμβάνονται σήμερα στο εργαστήριο μπορεί να χρειαστεί να περάσουν από πολλαπλά επίπεδα δοκιμών μέχρι να μετατραπούν σε κάποιου είδους υπηρεσία η προϊόν, ενώ, ακόμα κι αν κάνει κάποιος κάποια επένδυση, αυτό δεν σημαίνει ότι έχει απεριόριστο υπολογιστικό προϋπολογισμό. Τέλος, δεν απολαμβάνει κάθε ακαδημαϊκός αυτού του είδους την πορεία. Η ασφάλεια ενός ακαδημαϊκού περιβάλλοντος σημαίνει για κάποιους πολλά περισσότερα από οποιονδήποτε δυνητικά υψηλότερο μισθό ή άλλα εταιρικά οφέλη», εκτιμά ο κ. Γιαννακάκης.
Η τελευταία επιλογή κάποιου είναι να συνεργαστεί με αυτούς που διαθέτουν και τα δύο: και υπολογιστικούς πόρους και δεδομένα. Τα πανεπιστήμια που μοιράζονται το ίδιο τοπικό κοινωνικό δίκτυο με κορυφαίες εταιρείες ΤΝ έχουν συγκριτικό πλεονέκτημα και οι προσωπικές συναντήσεις διευκολύνουν τη συνεργασία. Ερευνητές από απομακρυσμένα πανεπιστήμια μπορούν επίσης να αναπτύξουν συνεργασίες μέσω επισκέψεων και πρακτικής άσκησης στο πλαίσιο ενός κοινού ερευνητικού έργου. Τέλος, κάποιοι καθιερωμένοι στον χώρο της ΤΝ καθηγητές έχουν την επιλογή να αφιερώσουν μερικό (αν όχι όλο) από τον χρόνο της έρευνάς τους σε έναν βιομηχανικό εταίρο ή ακόμα και να μεταφέρουν ολόκληρο το εργαστήριό τους στην έδρα του.
