Ένας αυτόνομος πράκτορας της OpenAI, ο οποίος λειτουργούσε με βάση τα προηγμένα μοντέλα τεχνητής νοημοσύνης της εταιρείας, ξέφυγε από τον έλεγχο κατά τη διάρκεια μιας δοκιμής ασφαλείας και ροκάλεσε μια εισβολή που έθεσε σε κίνδυνο την υποδομή της νεοφυούς εταιρείας τεχνητής νοημοσύνης Hugging Face την περασμένη εβδομάδα.
Οι αυξανόμενες δυνατότητες της τεχνητής νοημοσύνης (AI) ήδη τροφοδοτούν την απειλή για την ασφάλεια που οι ειδικοί φοβούνταν εδώ και καιρό
Η εταιρεία που δημιούργησε το ChatGPT δοκίμαζε τις δυνατότητες ορισμένων από τα πιο προηγμένα μοντέλα της σε ελεγχόμενο περιβάλλον, αλλά ο πράκτορας ξέφυγε από τον περιορισμό, απέκτησε πρόσβαση στο διαδίκτυο και εισέβαλε στην Hugging Face για να επιτύχει τον στόχο της δοκιμής.
Το περιστατικό υποδηλώνει ότι οι αυξανόμενες δυνατότητες της τεχνητής νοημοσύνης (AI) ήδη τροφοδοτούν την απειλή για την ασφάλεια που οι ειδικοί φοβούνταν εδώ και καιρό, και ότι ακόμη και κορυφαίοι προγραμματιστές μπορούν να αιφνιδιαστούν από κενά ασφαλείας που μπορούν να εκμεταλλευτούν τα μοντέλα τους.
Η παραβίαση ήταν «ένα άνευ προηγουμένου κυβερνοεπιχείρημα, που εμπλέκει κυβερνοδυνατότητες τελευταίας τεχνολογίας» και η OpenAI ενισχύει τα μέτρα ασφαλείας της, ανέφερε η εταιρεία σε ανάρτηση στο blog της.
Επίσης, το περιστατικό προσέλκυσε την προσοχή, καθώς η εταιρεία Hugging Face με έδρα τη Νέα Υόρκη δήλωσε ότι είχε χρησιμοποιήσει ένα κινεζικό μοντέλο ανοιχτού κώδικα για να περιορίσει την επίθεση, επειδή τα κορυφαία αμερικανικά μοντέλα, αδυνατώντας να διακρίνουν έναν αμυνόμενο από έναν εισβολέα, αρνήθηκαν να επεξεργαστούν τα δεδομένα που απαιτούνταν για την ανάλυση.
Η εταιρεία ανέφερε σε μια ανάρτηση στο blog της την περασμένη εβδομάδα ότι χρησιμοποίησε το GLM-5.2 της Zhipu AI για την ανάλυση, κάτι που της επέτρεψε επίσης να διατηρήσει τα δεδομένα των εισβολέων και τυχόν διαπιστευτήρια εντός των συστημάτων της.
Το GLM-5.2 και το Kimi K3 της Moonshot, με έδρα το Πεκίνο, έχουν προκαλέσει αναταραχή πρόσφατα στη Σίλικον Βάλεϊ, χάρη στις δυνατότητές τους που πλησιάζουν αυτές των κορυφαίων αμερικανικών μοντέλων, με χαμηλότερο κόστος και χωρίς τους περιορισμούς που εμποδίζουν τους αμερικανούς ανταγωνιστές τους να τα χρησιμοποιούν σε εργασίες όπως η κυβερνοασφάλεια.
«Όταν ένα μοντέλο αιχμής σας επιτίθεται και κινείται πλευρικά μέσα στην υποδομή σας, οι υπερασπιστές χρειάζονται ευρεία πρόσβαση σε εργαλεία που πλησιάζουν τα όρια της τεχνολογίας μέσα σε λίγες ώρες ή ακόμα και λεπτά, αντί να κατευθύνονται προς ένα κλειστό, ελεγμένο πρόγραμμα εφαρμογών για πρόσβαση στο μοντέλο», δήλωσε ο συνιδρυτής της Hugging Face, Thomas Wolf, στο X.
Προάγγελος μελλοντικών παραβιάσεων
Η παραβίαση ασφάλειας στη Hugging Face, η οποία φιλοξενεί μοντέλα γλώσσας ανοιχτού κώδικα μεγάλης κλίμακας και σύνολα δεδομένων, προκάλεσε αναταραχή στην κοινότητα της κυβερνοασφάλειας, αφού η εταιρεία δήλωσε την περασμένη εβδομάδα ότι η παραβίαση «ήταν διαφορετική από οτιδήποτε είχαμε αντιμετωπίσει στο παρελθόν» και «υλοποιήθηκε, από την αρχή έως το τέλος, από ένα αυτόνομο σύστημα πράκτορα τεχνητής νοημοσύνης».
Η αποκάλυψη της OpenAI ότι τα προηγμένα μοντέλα της ήταν υπεύθυνα για την παραβίαση, παρά το γεγονός ότι τα είχε τοποθετήσει σε αυτό που περιέγραψε ως «ένα εξαιρετικά απομονωμένο περιβάλλον», πιθανότατα θα εντείνει την ανησυχία σχετικά με τη δύναμη και τον κίνδυνο των πρωτοποριακών μοντέλων.
Ο βουλευτής Γκρεγκ Κασάρ, Δημοκρατικός από το Τέξας, δήλωσε ότι το περιστατικό ήταν ανησυχητικό.
«Η τεχνητή νοημοσύνη εξελίσσεται εξαιρετικά γρήγορα χωρίς ουσιαστικούς κανονισμούς που να διασφαλίζουν την ασφάλειά μας», ανέφερε σε δήλωσή του, ζητώντας υποχρεωτικές ανεξάρτητες δοκιμές ασφάλειας, υποχρεωτική γνωστοποίηση περιστατικών ασφαλείας και διεθνή συνεργασία «για να προστατευθούν οι άνθρωποι από μια απόλυτη καταστροφή».
Το Γραφείο του Εθνικού Διευθυντή Κυβερνοασφάλειας, η αμερικανική υπηρεσία κυβερνοάμυνας CISA και η Εθνική Υπηρεσία Ασφαλείας των ΗΠΑ δεν απάντησαν αμέσως στα μηνύματα με τα οποία ζητήθηκε το σχόλιό τους.
Η Κέιτ Μουσούρις, διευθύνουσα σύμβουλος της Luta Security, δήλωσε ότι το περιστατικό αποτελεί προάγγελο μελλοντικών παραβιάσεων, αναφέροντας ότι τα σημερινά μοντέλα είναι «σαν τους πιο έξυπνους ακροβάτες στον κόσμο, με απεριόριστα πλοκάμια και ικανότητα να περνάνε από οπουδήποτε».
Είπε ότι «τα εργαστήρια και οι κυβερνητικοί αξιολογητές πρέπει να εργαστούν για την ανάπτυξη της ικανότητας να περιορίζουν, να παρακολουθούν και να ενημερώνουν τα εμπλεκόμενα μέρη όταν μια τεχνητή νοημοσύνη κάνει πάλι το κόλπο του Χουντίνι, ιδανικά πριν προκαλέσει ζημιά σε τρίτους. Σήμερα δεν υπάρχει τίποτα τέτοιο».
Ο Ματ Σουίτσε, μηχανικός στην εταιρεία Tolmo που ειδικεύεται στην κυβερνοασφάλεια της «ατζεντικής» τεχνητής νοημοσύνης, δήλωσε ότι το περιστατικό έδειξε ότι τα πρωτοποριακά μοντέλα «μειώνουν τη διαφορά σε σχέση με τους πιο εξελιγμένους επιτιθέμενους». Ωστόσο, πρόσθεσε ότι οι παραβιάσεις που περιγράφονται στην ανάρτηση του ιστολογίου της OpenAI ήταν εφικτές με τεχνολογία που ήταν διαθέσιμη πολύ πέρα από τα όρια των ερευνητικών εργαστηρίων αιχμής.
«Αυτό είναι κάτι που έχουμε ήδη παρατηρήσει εσωτερικά· με τους πράκτορές μας έχουμε ήδη αποτελέσματα όπως αυτά», είπε ο Σουίτσε. «Δεν χρειάζεται καν να χρησιμοποιήσουμε τα πιο πρόσφατα μοντέλα».