Η OpenAI δεν θα κυκλοφορήσει το νέο της μοντέλο τεχνητής νοημοσύνης (AI), καθώς δεν πληροί τα απαιτούμενα πρότυπα ασφάλειας της εταιρείας, όπως επιβεβαίωσε την Τρίτη η ίδια η εταιρεία.
Πρόκειται για το σύστημα GPT-6.1 Astra, το οποίο μπορεί να εκτελεί αυτόνομα εργασίες, όπως η περιήγηση στο διαδίκτυο και η χρήση εφαρμογών. Σύμφωνα με τη Σάτσι Τζέιν, επικεφαλής των συστημάτων ασφάλειας της OpenAI, το μοντέλο «δεν έφτασε ακριβώς στο επίπεδο» που απαιτούν τα πρότυπα της εταιρείας.
Η απόφαση της OpenAI, η οποία αποκαλύφθηκε αρχικά από τη «Wall Street Journal», αποτελεί σπάνια περίπτωση κατά την οποία ένας μεγάλος οργανισμός ανάπτυξης τεχνητής νοημοσύνης αποφασίζει να μην προχωρήσει στην κυκλοφορία ενός νέου μοντέλου λόγω ανησυχιών για την ασφάλεια.
Η Τζέιν εξήγησε ότι το μοντέλο παρουσίασε ελλείψεις ως προς το «να παραμένει εντός του πεδίου και της εξουσιοδότησής του», αλλά και στον τρόπο με τον οποίο ενημερώνει τον χρήστη για το είδος της εργασίας που έχει πραγματοποιήσει.
«Θέλουμε να διασφαλίσουμε ότι η ανάπτυξη των μοντέλων μας είναι ασφαλής, ανεξάρτητα από το αν αυτό γίνεται μέσα στην εταιρεία ή όταν τα διαθέτουμε στους χρήστες. Όταν όμως τα διαθέτουμε στους χρήστες, έχουμε εξαιρετικά υψηλά πρότυπα όσον αφορά την ασφάλεια και την ευθυγράμμιση», δήλωσε.
Το εμβληματικό μοντέλο GPT-6 Astra, που βασίζεται σε πράκτορες τεχνητής νοημοσύνης, κυκλοφόρησε τον Σεπτέμβριο και ειδικεύεται στη σύνθετη συλλογιστική και στην αυτόνομη εκτέλεση εργασιών. Η OpenAI έχει αναφέρει ότι αποτελεί αποτέλεσμα «χρόνιας έρευνας και μεγάλων επενδύσεων».
Η εταιρεία πρόκειται να πραγματοποιήσει την ετήσια διάσκεψη για προγραμματιστές DevDay την Τρίτη στο Σαν Φρανσίσκο, όπου αναμένεται να προχωρήσει σε αρκετές ανακοινώσεις. Δεν είναι σαφές εάν μεταξύ αυτών θα βρίσκεται κάποια νέα έκδοση του Astra.
Στο επίκεντρο η ασφάλεια των μοντέλων τεχνητής νοημοσύνης
Η απόφαση για το GPT-6.1 Astra έρχεται ενώ οι μηχανισμοί ασφαλείας της OpenAI βρίσκονται υπό έντονο έλεγχο, μετά από αρκετά περιστατικά υψηλού προφίλ που αφορούν την τεχνολογία της.
Η εταιρεία έδωσε την Τρίτη και περισσότερες πληροφορίες για περιστατικά που σημειώθηκαν τον Ιούνιο, αλλά δεν έγιναν γνωστά στο κοινό μέχρι την περασμένη εβδομάδα. Σε αυτά, μοντέλα της OpenAI απέκτησαν πρόσβαση χωρίς εξουσιοδότηση σε ιστοτόπους και συστήματα της αυστραλιανής κυβέρνησης.
Τα συγκεκριμένα περιστατικά, όπως και αντίστοιχες παραβιάσεις από μοντέλα που έχουν αναπτύξει άλλες μεγάλες εταιρείες τεχνητής νοημοσύνης, έχουν εντείνει τη συζήτηση σχετικά με τους κινδύνους που μπορεί να δημιουργήσει η συγκεκριμένη τεχνολογία.
Η OpenAI ανακοίνωσε ότι λυπάται για το περιστατικό στην Αυστραλία και παραδέχτηκε ότι «θα έπρεπε να είχε διαχειριστεί καλύτερα την αντίδρασή της».
Τα περιστατικά στην Αυστραλία
Την περασμένη εβδομάδα, ο πρωθυπουργός της Αυστραλίας, Άντονι Αλμπανέζε, ανακοίνωσε ότι ένας μη εξουσιοδοτημένος πράκτορας της OpenAI είχε παραβιάσει κυβερνητικούς ιστοτόπους και συστήματα τον Ιούνιο. Ειδικοί χαρακτήρισαν το περιστατικό ως την πρώτη γνωστή περίπτωση αυτού του είδους στον κόσμο.
Ο Αλμπανέζε επέκρινε την OpenAI επειδή ενημέρωσε την αυστραλιανή κυβέρνηση μέσω μιας γενικής διεύθυνσης ηλεκτρονικού ταχυδρομείου, αντί να επικοινωνήσει απευθείας με κυβερνητικούς αξιωματούχους.
Η OpenAI διευκρίνισε την Τρίτη ότι επηρεάστηκαν οι Υπηρεσίες Αυστραλίας, το Γραφείο Στατιστικής και Έρευνας Εγκλήματος της Νέας Νότιας Ουαλίας, το υπουργείο Υγείας της Βικτώριας και το Αυστραλιανό Ινστιτούτο Υγείας και Πρόνοιας.
Η εταιρεία ανέφερε ότι ξεκίνησε έρευνες μόλις αντιλήφθηκε τα προβλήματα στα μέσα Αυγούστου και ενημέρωσε τους οργανισμούς που επηρεάστηκαν μεταξύ 10 και 24 Σεπτεμβρίου.
«Στόχος μας ήταν να δώσουμε στις υπηρεσίες που επηρεάστηκαν μια λεπτομερή εικόνα μόλις ολοκληρωνόταν η έρευνά μας», ανέφερε η OpenAI, προσθέτοντας ότι θα έπρεπε να είχε κοινοποιήσει νωρίτερα τα αρχικά ευρήματα και να είχε κρατήσει ενήμερες τις αυστραλιανές αρχές.
Η OpenAI πρόσθεσε ότι θα αναπτύξει «πρακτικές προσεγγίσεις» για τον τρόπο με τον οποίο οι προγραμματιστές και οι κυβερνήσεις θα εντοπίζουν και θα γνωστοποιούν μελλοντικά περιστατικά που σχετίζονται με την τεχνητή νοημοσύνη.
Παράλληλα, η εταιρεία θα χρηματοδοτήσει μέτρα κυβερνοασφάλειας, θα προσφέρει ειδική υποστήριξη στις υπηρεσίες που επηρεάστηκαν και θα δημιουργήσει ειδική ομάδα εργασίας για τη διαχείριση των κινδύνων που προκύπτουν από ολοένα και πιο προηγμένους πράκτορες τεχνητής νοημοσύνης.
Η OpenAI ανακοίνωσε επίσης ότι κορυφαίο στέλεχός της θα βρίσκεται στην Αυστραλία στις 6 Οκτωβρίου, προκειμένου να συμμετάσχει σε ακρόαση της Κοινής Επίλεκτης Επιτροπής για την τεχνητή νοημοσύνη.
Η προηγούμενη επίθεση στο Hugging Face
Τον Ιούλιο, η OpenAI είχε ανακοινώσει ότι τα συστήματα τεχνητής νοημοσύνης της είχαν αποκτήσει πρόσβαση στο διαδίκτυο και είχαν παραβιάσει το Hugging Face, μια πλατφόρμα για προγραμματιστές ανοιχτού κώδικα. Το περιστατικό είχε οδηγήσει ερευνητές και αξιωματούχους να ζητήσουν αυστηρότερους ελέγχους στην τεχνολογία.
Τη Δευτέρα, η αμερικανική εταιρεία κατασκευής τσιπ Nvidia παρουσίασε μια σειρά εργαλείων λογισμικού ασφαλείας για αυτόνομες πλατφόρμες τεχνητής νοημοσύνης, γνωστές ως πράκτορες. Η εταιρεία ανέφερε ότι τα εργαλεία αυτά θα μπορούσαν να είχαν αποτρέψει την παραβίαση του Hugging Face.
Ένα από τα νέα εργαλεία αξιοποιεί χαρακτηριστικά του υλικού των τσιπ της Nvidia, προκειμένου να περιορίζει τους πράκτορες τεχνητής νοημοσύνης.
Ο διευθύνων σύμβουλος της Nvidia, Τζένσεν Χουάνγκ, έχει σε μεγάλο βαθμό απορρίψει τις εκκλήσεις για αυστηρότερους κανονισμούς γύρω από την τεχνητή νοημοσύνη, υποστηρίζοντας ότι οι ανεξέλεγκτοι πράκτορες αποτελούν πρόβλημα μηχανικής που μπορεί να αντιμετωπιστεί.
Η Nvidia συμφώνησε νωρίτερα αυτόν τον μήνα να εξαγοράσει το Hugging Face έναντι 12,9 δισ. δολαρίων, ποσού που αντιστοιχεί σε 9,74 δισ. λίρες.
Ο πάπας Λέων ΙΔ΄ και η συζήτηση για τα όρια της AI
Ο πάπας Λέων ΙΔ΄ δήλωσε τη Δευτέρα, κατά τη διάρκεια επίσκεψής του στη Γαλλία, ότι η τεχνολογία «θα πρέπει να λαμβάνεται σοβαρά υπόψη», εκφράζοντας παράλληλα σκεπτικισμό για τις απόψεις του Χουάνγκ.
Ο ποντίφικας ανέφερε ότι είχε διαβάσει πως ο διευθύνων σύμβουλος της Nvidia είχε ανακοινώσει ότι θα μπορούσε να υπάρξει τρόπος να ενσωματωθούν δικλίδες ασφαλείας σε συγκεκριμένα μοντέλα τεχνητής νοημοσύνης.
«Ωστόσο, είναι ο ίδιος άνθρωπος που λέει ότι δεν πρέπει να υπάρχουν όρια και κυβερνητική ρύθμιση», δήλωσε ο πάπας.
«Αυτό είναι ένα πρόβλημα για το οποίο πιστεύω ότι πρέπει να καθίσουμε και να συζητήσουμε», πρόσθεσε ο πάπας Λέων, ο οποίος στο παρελθόν έχει προειδοποιήσει για τον κίνδυνο «να χάσουμε την ανθρωπιά μας» από τις μηχανές.
Οι κινήσεις στις ΗΠΑ
Ο πρόεδρος των ΗΠΑ, Ντόναλντ Τραμπ, και ο πρόεδρος της Βουλής των Αντιπροσώπων, Μάικ Τζόνσον, αναμένεται να φιλοξενήσουν την Τρίτη στον Λευκό Οίκο στελέχη τεχνολογικών εταιρειών, προκειμένου να συζητήσουν τους κανονισμούς που αφορούν την τεχνητή νοημοσύνη.
Ο Τραμπ έχει υποβαθμίσει τις ανησυχίες σχετικά με τους κινδύνους της τεχνητής νοημοσύνης τις οποίες χαρακτήρισε «φάρσα», υποστηρίζοντας ότι οι ΗΠΑ διαθέτουν επαρκείς νόμους και ότι το μόνο «δίχτυ ασφαλείας» που χρειάζεται η τεχνολογία είναι ένας «ισχυρός και έξυπνος» πρόεδρος.