Η OpenAI αποφάσισε να μην κυκλοφορήσει το νέο μοντέλο τεχνητής νοημοσύνης GPT-6.1 Astra, επικαλούμενη ανησυχίες για την ασφάλεια. Η εταιρεία που δημιούργησε το ChatGPT επιβεβαίωσε την απόφαση σήμερα Τρίτη, σε μια σπάνια περίπτωση κατά την οποία μεγάλος παίκτης της αγοράς αναστέλλει την κυκλοφορία νέου μοντέλου επειδή δεν πληροί τα απαιτούμενα πρότυπα ασφαλείας.
Το GPT-6.1 Astra είναι ένα μοντέλο τεχνητής νοημοσύνης που μπορεί να εκτελεί αυτόνομα σύνθετες εργασίες, όπως η περιήγηση στο διαδίκτυο και η χρήση εφαρμογών.
Η Saachi Jain, επικεφαλής των συστημάτων ασφάλειας της OpenAI, δήλωσε στο BBC ότι το μοντέλο «δεν έφτασε ακριβώς στο επίπεδο που απαιτούμε».
ΔΙΑΒΑΣΤΕ ΕΠΙΣΗΣ
Σύμφωνα με την ίδια, το Astra παρουσίασε αδυναμίες κυρίως ως προς την τήρηση των ορίων και των εξουσιοδοτήσεων που του έχουν δοθεί, αλλά και ως προς τον τρόπο με τον οποίο ενημερώνει τον χρήστη για τις εργασίες που έχει πραγματοποιήσει.
«Θέλουμε να διασφαλίσουμε ότι η ανάπτυξη των μοντέλων μας είναι ασφαλής», ανέφερε η Jain. Πρόσθεσε ότι, όταν ένα μοντέλο κυκλοφορεί στο κοινό, η OpenAI εφαρμόζει ιδιαίτερα υψηλά κριτήρια όσον αφορά την ασφάλεια και την ευθυγράμμισή του με τις ανθρώπινες οδηγίες.
Οι ανησυχίες μετά τα περιστατικά στην Αυστραλία
Η απόφαση έρχεται λίγες ημέρες μετά την αποκάλυψη περιστατικών κατά τα οποία μοντέλα της OpenAI απέκτησαν χωρίς εξουσιοδότηση πρόσβαση σε αυστραλιανούς κυβερνητικούς ιστότοπους και συστήματα. Τα περιστατικά σημειώθηκαν τον Ιούνιο, αλλά έγιναν γνωστά μόλις την προηγούμενη εβδομάδα.
Η OpenAI ανακοίνωσε την Τρίτη ότι επηρεάστηκαν, μεταξύ άλλων, οι Services Australia, το NSW Bureau of Crime Statistics and Research, το υπουργείο Υγείας της Βικτώριας και το Australian Institute of Health and Welfare.
Η εταιρεία δήλωσε ότι ξεκίνησε έρευνα μόλις ενημερώθηκε για τα περιστατικά, στα μέσα Αυγούστου, και ενημέρωσε τους οργανισμούς που επηρεάστηκαν μεταξύ 10 και 24 Σεπτεμβρίου. Παράλληλα, παραδέχθηκε ότι θα έπρεπε να είχε επικοινωνήσει νωρίτερα τα προκαταρκτικά ευρήματα και να είχε κρατήσει τις αυστραλιανές αρχές καλύτερα ενημερωμένες.
Η OpenAI ζήτησε συγγνώμη για τον τρόπο με τον οποίο διαχειρίστηκε την υπόθεση και ανακοίνωσε ότι θα χρηματοδοτήσει μέτρα κυβερνοασφάλειας, θα προσφέρει ειδική υποστήριξη στους οργανισμούς που επηρεάστηκαν και θα δημιουργήσει ειδική ομάδα για τη διαχείριση των κινδύνων από προηγμένους AI agents.
Τα περιστατικά αυτά έχουν εντείνει τη συζήτηση για τους κινδύνους που προκύπτουν όταν τα μοντέλα τεχνητής νοημοσύνης αποκτούν τη δυνατότητα να ενεργούν αυτόνομα
Οι ανησυχίες έχουν οδηγήσει ακόμη και κορυφαία στελέχη του κλάδου, μεταξύ άλλων τον διευθύνοντα σύμβουλο της OpenAI, Σαμ Άλτμαν, και τον επικεφαλής της Anthropic, Ντάριο Αμοντέι, να ζητήσουν επιβράδυνση του ρυθμού ανάπτυξης της τεχνολογίας.
Την ίδια ώρα, η Nvidia παρουσίασε το Open Agent Safety Platform, μια πλατφόρμα λογισμικού που επιτρέπει στους προγραμματιστές AI να ορίζουν διασφαλίσεις για τα agents και να τα εμποδίζουν να ξεφεύγουν από τα όρια συγκράτησής τους.
Με πληροφορίες από BBC
