Η τεχνητή νοημοσύνη μπαίνει όλο και βαθύτερα στα εργαστήρια. Μπορεί να διαβάζει επιστημονικές εργασίες, να γράφει κώδικα, να αναλύει δεδομένα και να βοηθά ερευνητές να σχεδιάζουν πειράματα.
Τι συμβαίνει, όμως, όταν η ίδια τεχνολογία χρησιμοποιείται για έρευνα πάνω σε ιούς, τοξίνες και παθογόνους μικροοργανισμούς;
Η Anthropic έδωσε πριν λίγες μέρες μια πρώτη, ανησυχητική απάντηση ανακοινώνοντας ότι εντόπισε πέντε περιπτώσεις χρήσης του Claude σε έρευνα σχετική με παθογόνα, όπου υπήρχε πιθανότητα η τεχνολογία να χρησιμοποιηθεί με επιβλαβή τρόπο.
ΔΙΑΒΑΣΤΕ ΕΠΙΣΗΣ
Η εταιρεία δεν υποστηρίζει ότι οι συγκεκριμένοι επιστήμονες σκόπευαν να κατασκευάσουν βιολογικά όπλα, αλλά ότι σε όλες τις περιπτώσεις επιχείρησαν να παρακάμψουν περιορισμούς πρόσβασης ή ασφάλειας που είχε θέσει το σύστημα.
Και αυτό είναι που έκανε την ανακοίνωση να ξεχωρίσει.
Πέντε περιπτώσεις, πολλά ερωτήματα
Οι πέντε περιπτώσεις που περιγράφει η Anthropic δεν είναι ίδιες. Τρεις αφορούν πειράματα πάνω σε ιούς.
Σε μία περίπτωση, ερευνητές χρησιμοποίησαν το Claude για να συντάξουν αίτηση χρηματοδότησης για ένα πρόγραμμα που μελετούσε τον ιό chikungunya, που μπορεί να προκαλέσει πυρετό και έντονους πόνους στις αρθρώσεις, με στόχο να εντοπιστούν μεταλλάξεις που τον βοηθούν να μεταδίδεται αποτελεσματικότερα ή να αποφεύγει την άμυνα του ανοσοποιητικού συστήματος.
Σε άλλη περίπτωση, ερευνητές χρησιμοποίησαν το Claude για τον σχεδιασμό πειραμάτων σχετικά με έναν ιδιαίτερα παθογόνο τύπο γρίπης των πτηνών, αναζητώντας μεταλλάξεις που θα μπορούσαν να διευκολύνουν την προσαρμογή του σε θηλαστικά και τη μετάδοσή του.
Η τρίτη περίπτωση αφορούσε έναν ιό της οικογένειας των orthopoxviruses, που περιλαμβάνει μεταξύ άλλων τον ιό mpox και τον ιό της ευλογιάς, με στόχο να εντοπιστούν μεταλλάξεις που θα μείωναν τη λοιμογόνο δράση του σε ποντίκια.
Με μια πρώτη ματιά, τα παραπάνω ακούγονται σαν ακριβώς το είδος έρευνας που θα μπορούσε να οδηγήσει σε έναν επικίνδυνο ιό.
Αλλά εδώ αρχίζει η διαφωνία.
Είναι επικίνδυνη έρευνα ή απλώς βασική βιολογία;
Ορισμένοι ερευνητές θεωρούν ότι η Anthropic παρουσίασε τα περιστατικά με υπερβολικά δραματικό τρόπο.
Ο Kristian Andersen, ιολόγος και εξελικτικός βιολόγος στο Scripps Research, υποστήριξε στο Science ότι πολλά —αν όχι όλα— από τα πειράματα που περιγράφονται είναι στην ουσία βασική βιολογική έρευνα.
Οι ερευνητές συχνά μελετούν μεταλλάξεις που έχουν ήδη παρατηρηθεί στη φύση, τις οποίες μπορούν να εισαγάγουν σε ένα κατάλληλο ιικό «υπόβαθρο» ή σε ψευδοϊό, ώστε να εξετάσουν πώς επηρεάζουν τη συμπεριφορά του.
Αυτό δεν σημαίνει αυτομάτως ότι σχεδιάζουν έναν νέο, πιο επικίνδυνο παθογόνο οργανισμό. Αντίθετα, τέτοιες μελέτες μπορούν να βοηθήσουν τους επιστήμονες να καταλάβουν πώς ένας ιός προκαλεί ασθένεια, πώς μεταδίδεται ή πώς μπορεί να αντιμετωπιστεί.
Ακριβώς εδώ βρίσκεται ένα από τα βασικά προβλήματα της συζήτησης γύρω από την AI και τη βιοασφάλεια: Η ίδια επιστημονική γνώση μπορεί να χρησιμοποιηθεί τόσο για την προστασία από έναν παθογόνο οργανισμό όσο και —υπό διαφορετικές συνθήκες— για την αύξηση των δυνατοτήτων του.
Αυτό είναι το λεγόμενο dual-use problem.
Όταν η ίδια γνώση έχει δύο χρήσεις
Η τέταρτη περίπτωση που εντόπισε η Anthropic αφορούσε τη δημιουργία ενός «άτλαντα» τοξινών, στο πλαίσιο προγράμματος ανάπτυξης φαρμάκων.
Η πέμπτη ήταν ακόμη πιο ενδιαφέρουσα: ερευνητές χρησιμοποίησαν το Claude για υπολογιστικό επανασχεδιασμό μιας σειράς τοξινών, μεταξύ των οποίων περιλαμβάνονταν βακτηριακές και ιικές τοξίνες που θεωρούνται σημαντικές απειλές για τη δημόσια υγεία.
Και εδώ, όμως, υπάρχει μια κρίσιμη λεπτομέρεια. Η έρευνα πάνω σε τέτοιες ουσίες δεν είναι από μόνη της ύποπτη. Οι επιστήμονες μελετούν τοξίνες ακριβώς επειδή μπορούν να οδηγήσουν σε νέες θεραπείες, φάρμακα ή διαγνωστικά εργαλεία.
Το ίδιο μόριο μπορεί, θεωρητικά, να έχει θεραπευτική ή επιβλαβή χρήση.
Το πρόβλημα λοιπόν δεν είναι απλώς τι μελετάς. Είναι τι προσπαθείς να πετύχεις, πόσο εύκολα μπορεί κάποιος να μετατρέψει τη γνώση σε πρακτική εφαρμογή και ποιο επίπεδο τεχνογνωσίας απαιτείται.
Ωστόσο, υπάρχει ένα στοιχείο που η εταιρεία θεωρεί ιδιαίτερα σημαντικό. Και στις πέντε περιπτώσεις, σύμφωνα με την αναφορά της, οι χρήστες προσπάθησαν να παρακάμψουν περιορισμούς.
Χρησιμοποίησαν ενδιάμεσους servers, VPNs ή λογαριασμούς που έκρυβαν την πραγματική τους τοποθεσία, ώστε να φαίνεται ότι χρησιμοποιούν το Claude από χώρες όπου η πρόσβαση επιτρέπεται.
Η Anthropic απέκλεισε λογαριασμούς και προσπάθησε να διακόψει την πρόσβαση.
Σε τουλάχιστον μία περίπτωση, όμως, οι χρήστες συνέχισαν να βρίσκουν τρόπους για να χρησιμοποιούν το μοντέλο. Σε μία άλλη περίπτωση, σύμφωνα με την εταιρεία, οι ερευνητές χρησιμοποίησαν σκόπιμα ασαφείς όρους για τις τοξίνες όταν ζητούσαν από το Claude να συντάξει αναφορές προόδου.
Η Anthropic σημειώνει επίσης ότι μία από τις έρευνες για τον chikungunya πραγματοποιήθηκε σε ίδρυμα που συνδεόταν με στρατιωτικό εργαστήριο, ενώ η έρευνα για τον orthopoxvirus έγινε σε εργαστήριο που περιγράφεται ως «συνδεδεμένο με το κράτος».
Αυτό είναι αρκετό για να δημιουργήσει ερωτήματα. Δεν είναι, όμως, από μόνο του απόδειξη ότι κάποιος προσπαθούσε να δημιουργήσει βιολογικό όπλο. Το VPN δεν είναι απόδειξη βιολογικού πολέμου
Ο Gregory Koblentz, ειδικός στη βιοασφάλεια στο George Mason University, επισημαίνει ακριβώς αυτό. Αν ένας ερευνητής βρίσκεται σε χώρα όπου η Anthropic δεν επιτρέπει την πρόσβαση στο Claude, δεν είναι απαραίτητα παράξενο να χρησιμοποιήσει VPN ή άλλες τεχνικές για να αποκτήσει πρόσβαση.
Η AI έχει γίνει ήδη σημαντικό εργαλείο για πολλούς επιστήμονες. Το ίδιο ισχύει και για την εργασία σε κρατικά ή στρατιωτικά ερευνητικά ιδρύματα. Κρατικοί και στρατιωτικοί φορείς σε πολλές χώρες χρηματοδοτούν έρευνα για μολυσματικές ασθένειες, μεταξύ άλλων επειδή αυτές μπορούν να αποτελέσουν απειλή για το προσωπικό και τον πληθυσμό.
Η παρουσία ενός στρατιωτικού φορέα, επομένως, δεν αποδεικνύει από μόνη της κακόβουλη πρόθεση.
Ο πραγματικός φόβος ίσως βρίσκεται αλλού
Οι ειδικοί στη βιοασφάλεια ανησυχούν περισσότερο για ένα διαφορετικό σενάριο. Όχι για έναν κορυφαίο ιολόγο που χρησιμοποιεί AI για να επιταχύνει τη δουλειά του, αλλά για έναν άνθρωπο με περιορισμένη εμπειρία στη βιολογία που θα μπορούσε να χρησιμοποιήσει ένα ισχυρό AI model για να αποκτήσει γρήγορα γνώσεις και τεχνογνωσία που διαφορετικά θα απαιτούσαν χρόνια εκπαίδευσης.
Αυτό ονομάζεται uplift.
Η AI δεν χρειάζεται να εφεύρει μια νέα βιολογική τεχνική. Αρκεί να μειώσει δραματικά το γνωστικό εμπόδιο για κάποιον που θέλει να πραγματοποιήσει μια επικίνδυνη δραστηριότητα. Αυτό είναι ένα από τα βασικά ερωτήματα που αντιμετωπίζουν σήμερα οι εταιρείες AI: Πόση βιολογική γνώση είναι ασφαλές να παρέχει ένα μοντέλο;
Και πότε μια απάντηση που είναι απολύτως φυσιολογική για έναν ερευνητή μετατρέπεται σε χρήσιμη πληροφορία για κάποιον με κακόβουλες προθέσεις;
Υπάρχει, όμως, και ο αντίστροφος κίνδυνος. Αν οι AI εταιρείες αρχίσουν να μπλοκάρουν οτιδήποτε σχετίζεται με επικίνδυνους ιούς ή τοξίνες, μπορεί να καταλήξουν να εμποδίζουν και την απολύτως νόμιμη επιστημονική έρευνα.
Ο Andersen έχει ήδη αντιμετωπίσει τέτοια προβλήματα. Αναφέρει στο Science ότι ακόμη και ένα ερώτημα που αφορά τη σύγκριση των γονιδιωμάτων δύο στελεχών του Ebola μπορεί να μπλοκαριστεί από το Claude.
Για έναν ιολόγο, αυτό μπορεί να είναι απολύτως φυσιολογική ερευνητική δραστηριότητα. Για ένα σύστημα ασφαλείας, όμως, οι ίδιες λέξεις «Ebola», «γονιδίωμα», «μετάλλαξη» μπορεί να ενεργοποιήσουν έναν συναγερμό.
Ο David Gillum του Arizona State University θέτει έτσι ένα ευρύτερο ερώτημα: πόση εξουσία θα πρέπει να έχουν ιδιωτικές εταιρείες τεχνολογίας ώστε να αποφασίζουν ποια επιστημονική έρευνα επιτρέπεται να υποστηρίζει η AI;
Το πρόβλημα γίνεται ακόμη μεγαλύτερο όσο τα μοντέλα αποκτούν περισσότερες δυνατότητες.
Χρειάζονται νέοι κανόνες;
Εδώ οι ειδικοί δεν συμφωνούν.
Η Filippa Lentzos του King’s College London και ο Koblentz θεωρούν ότι χρειάζεται κάποια μορφή κυβερνητικής ρύθμισης σχετικά με το ποιος μπορεί να έχει πρόσβαση σε ισχυρά AI models για βιολογική έρευνα.
Άλλοι προτείνουν περισσότερη διαφάνεια αντί για αυστηρότερους περιορισμούς.
Η Gigi Gronvall του Johns Hopkins University, η οποία έχει συμβουλεύσει την Anthropic αλλά δεν συμμετείχε στη συγκεκριμένη αναφορά, υποστηρίζει ότι οι εταιρείες θα πρέπει να συνεχίσουν να δημοσιοποιούν πραγματικά περιστατικά και να βελτιώνουν τα συστήματα ασφαλείας τους. Παράλληλα, προειδοποιεί ότι οι δυνατότητες των σημερινών μοντέλων για κακόβουλη χρήση στη βιολογική έρευνα μπορεί να υπερεκτιμώνται.
Αυτή είναι ίσως η πιο χρήσιμη εικόνα της σημερινής κατάστασης.
Δεν υπάρχει ακόμη σαφής απόδειξη ότι τα περιστατικά που περιγράφει η Anthropic αποτελούν προσπάθειες ανάπτυξης βιολογικών όπλων. Υπάρχει όμως κάτι καινούργιο: πραγματικές ενδείξεις ότι προηγμένα AI models χρησιμοποιούνται ήδη μέσα σε ‘ευαίσθητες’ περιοχές της βιολογικής έρευνας.
Η συζήτηση για την AI και τα βιολογικά όπλα θα ήταν πολύ πιο εύκολη αν υπήρχε μια καθαρή γραμμή, από τη μία πλευρά, η νόμιμη επιστημονική έρευνα και από την άλλη, η κακόβουλη ανάπτυξη ενός βιολογικού όπλου. Στην πραγματικότητα, όμως, υπάρχει μια τεράστια γκρίζα ζώνη ανάμεσα στα δύο.
Ένα πείραμα μπορεί να έχει απολύτως νόμιμο σκοπό και ταυτόχρονα να παράγει γνώση που μπορεί να χρησιμοποιηθεί διαφορετικά. Ένας επιστήμονας μπορεί να χρησιμοποιεί ένα VPN επειδή η υπηρεσία δεν είναι διαθέσιμη στη χώρα του, όχι επειδή προσπαθεί να κρύψει ένα πρόγραμμα όπλων. Και ένα AI model μπορεί να αρνηθεί μια ερώτηση που είναι απολύτως νόμιμη για έναν επιστήμονα, επειδή δεν μπορεί να καταλάβει με βεβαιότητα την πρόθεση του χρήστη.
Αυτό είναι το πραγματικό πρόβλημα που αναδεικνύει η υπόθεση Anthropic.
Δεν χρειάζεται η AI να γίνει μηχανή κατασκευής βιολογικών όπλων για να δημιουργήσει ένα νέο πρόβλημα ασφάλειας. Αρκεί να γίνει αρκετά καλή ώστε να επιταχύνει δραματικά την πρόσβαση στη βιολογική γνώση.
Το επόμενο βήμα, επομένως, δεν είναι μόνο να γίνουν τα AI models πιο ισχυρά, αλλά να γίνει πολύ πιο ξεκάθαρο πότε η ισχύς τους βοηθά την επιστήμη και πότε μπορεί να δημιουργεί έναν κίνδυνο που οι υπάρχοντες κανόνες δεν είναι σχεδιασμένοι να αντιμετωπίσουν.
