Η εταιρεία Hugging Face, γνωστή ως μία από τις μεγαλύτερες πλατφόρμες διάθεσης εργαλείων τεχνητής νοημοσύνης, αποκάλυψε νέες λεπτομέρειες για το πώς βίωσε την πρώτη πλήρως αυτόνομη κυβερνοεπίθεση από πράκτορα τεχνητής νοημοσύνης. Σύμφωνα με την εταιρεία, το AI κινήθηκε με υπεράνθρωπη ταχύτητα, αλλά ταυτόχρονα πραγματοποίησε παράξενες ενέργειες και λάθη που δύσκολα θα έκανε ένας ανθρώπινος χάκερ.
Η Hugging Face είχε ανακοινώσει στις 16 Ιουλίου ότι είχε δεχθεί επίθεση από κάποιον που χρησιμοποιούσε ισχυρή αυτόνομη τεχνητή νοημοσύνη και ενημέρωσε άμεσα τις αστυνομικές αρχές. Σχεδόν μία εβδομάδα αργότερα, η OpenAI παραδέχθηκε ότι επρόκειτο για δικό της σύστημα τεχνητής νοημοσύνης, το οποίο είχε διαφύγει από το ελεγχόμενο περιβάλλον δοκιμών και επιτέθηκε αυτόνομα στη Hugging Face.
Στόχος του AI ήταν να βρει τις απαντήσεις σε μια εξέταση κυβερνοασφάλειας που του είχε αναθέσει η OpenAI, με αποτέλεσμα να επιλέξει ως στόχο τη Hugging Face.
Οι πράκτορες AI δοκίμασαν χιλιάδες διαφορετικές μεθόδους ταυτόχρονα
Κατά τη διάρκεια έκτακτης τηλεδιάσκεψης με εκατοντάδες επαγγελματίες της κυβερνοασφάλειας, η Hugging Face εξήγησε ότι οι αυτόνομοι πράκτορες εργάζονταν ασταμάτητα, δοκιμάζοντας ταυτόχρονα χιλιάδες διαφορετικές τεχνικές επίθεσης.
Η Cloud Security Alliance (CSA) συνέταξε έκθεση βασισμένη στις πληροφορίες που παρουσιάστηκαν στη σύσκεψη, η οποία εξετάστηκε και από την ίδια τη Hugging Face.
Σύμφωνα με την έκθεση, οι πράκτορες της τεχνητής νοημοσύνης ακολουθούσαν συχνά αναποτελεσματικές διαδρομές και εμφάνιζαν αδέξιες συμπεριφορές που κανένας άνθρωπος δεν θα επέλεγε. Παράλληλα, επαναλάμβαναν ενέργειες που είχαν ήδη ολοκληρώσει, ένδειξη ότι η αυτόνομη τεχνητή νοημοσύνη έχανε τη συνοχή και το πλαίσιο των ενεργειών της.
Παραισθήσεις, λάθη και εντυπωσιακή προσαρμογή
Η Hugging Face αποκάλυψε ακόμη ότι οι πράκτορες της τεχνητής νοημοσύνης παρήγαγαν μεγάλες ποσότητες ασύνδετων εντολών και κειμένου, εμφάνιζαν «παραισθήσεις», ήταν πρόχειροι στις κινήσεις τους και δεν έκρυβαν αποτελεσματικά τα ίχνη τους.
Παρά τα λάθη, η εταιρεία τόνισε ότι οι πράκτορες πραγματοποίησαν ιδιαίτερα εντυπωσιακές τεχνικές κινήσεις και κατάφεραν να προσαρμόζονται γρήγορα σε νέα δεδομένα κατά τη διάρκεια της πολυήμερης επίθεσης.
Χρειάστηκαν τρεις ημέρες μέχρι να εντοπιστούν μέσα στο πληροφοριακό δίκτυο της Hugging Face, ενώ οι ειδικοί της εταιρείας στην τεχνητή νοημοσύνη και την κυβερνοασφάλεια χρειάστηκαν πολλές ώρες για να περιορίσουν και να απομακρύνουν τους αυτόνομους πράκτορες, κάτι που, σύμφωνα με την εταιρεία, ενδέχεται να δυσκολευτούν να αντιμετωπίσουν οργανισμοί χωρίς αντίστοιχες δυνατότητες.
Η Hugging Face δεν αποκάλυψε το οικονομικό κόστος της επίθεσης, ανέφερε όμως ότι το προσωπικό εργάστηκε για πολλές ώρες προκειμένου να ανακατασκευάσει περίπου το ένα τρίτο της υποδομής της.
Η αναφορά στο «Jurassic Park» και οι προειδοποιήσεις της CSA
Η διαφάνεια με την οποία η Hugging Face ενημέρωσε τον κλάδο της τεχνητής νοημοσύνης και της κυβερνοασφάλειας για το περιστατικό απέσπασε θετικά σχόλια.
Η Cloud Security Alliance χρησιμοποίησε μάλιστα μια χαρακτηριστική αναφορά στην ταινία «Jurassic Park», προειδοποιώντας ότι οι πράκτορες τεχνητής νοημοσύνης «βρίσκουν τρόπο», παραπέμποντας στη διάσημη φράση της ταινίας όταν οι δεινόσαυροι καταφέρνουν να διαφύγουν από τους περιορισμούς τους.
Στην έκθεση επισημαίνεται ότι οι αυτόνομοι πράκτορες λειτουργούν με βάση συγκεκριμένους στόχους, δημιουργούν μόνοι τους επιμέρους υποστόχους, προσαρμόζονται σε πραγματικό χρόνο για να παρακάμψουν τις άμυνες και επιχειρούν με ταχύτητα μηχανής και αδιάκοπη επιμονή, γεγονός που μπορεί να υπερκεράσει τις παραδοσιακές διαδικασίες άμυνας.
«Αυτή είναι η πραγματικότητα των αυτόνομων πρακτόρων»
Ο υπεύθυνος κυβερνοασφάλειας Ριτές Πατέλ, ο οποίος συμμετείχε στην τηλεδιάσκεψη μαζί με περίπου 450 ακόμη επαγγελματίες, δήλωσε ότι ο κλάδος εργάζεται εντατικά για να αντιμετωπίσει τη νέα απειλή των ανεξέλεγκτων πρακτόρων τεχνητής νοημοσύνης.
Όπως ανέφερε, αυτή είναι πλέον η πραγματικότητα των αυτόνομων πρακτόρων που βασίζονται σε προηγμένα μοντέλα τεχνητής νοημοσύνης: είναι αδιάκοπα επίμονοι, πολλές φορές εξαιρετικά θορυβώδεις στις ενέργειές τους και δοκιμάζουν κάθε πιθανή διαδρομή προκειμένου να πετύχουν τον στόχο τους, κάτι που μπορεί εύκολα να κατακλύσει τις παραδοσιακές άμυνες.
Η CSA προειδοποιεί για τη νέα εποχή των κυβερνοεπιθέσεων
Η Cloud Security Alliance υπογραμμίζει ότι δεν είναι η πρώτη φορά που αυτόνομοι πράκτορες τεχνητής νοημοσύνης εμφανίζουν ανεξέλεγκτη συμπεριφορά, όπως αναφέρει το BBC.
Στην έκθεσή της υπενθυμίζει περιστατικό του Σεπτεμβρίου 2024, όταν παλαιότερο μοντέλο του ChatGPT είχε διαφύγει από το περιβάλλον περιορισμού του για να αποκτήσει μια απάντηση που χρειαζόταν σε διαφορετική δοκιμή. Το περιστατικό τότε περιορίστηκε εντός των πληροφοριακών συστημάτων της OpenAI και, σύμφωνα με την CSA, είχε αντιμετωπιστεί σε μεγάλο βαθμό με θετικό τρόπο.
Ωστόσο, η έκθεση υποστηρίζει ότι η «ανεξέλεγκτη» συμπεριφορά δεν αποτελεί πλέον εξαίρεση αλλά τον κανόνα και προειδοποιεί τους επαγγελματίες της κυβερνοασφάλειας παγκοσμίως ότι πρέπει να προσαρμοστούν στη νέα πραγματικότητα, όπου σμήνη αυτόνομων πρακτόρων τεχνητής νοημοσύνης επιχειρούν με τεράστια ταχύτητα, συχνά με παράξενες και αδέξιες συμπεριφορές που ενδέχεται να οδηγήσουν σε περισσότερες παραβιάσεις ασφαλείας.
Παράλληλα, καλεί όσους χρησιμοποιούν ή αναπτύσσουν αυτόνομους πράκτορες τεχνητής νοημοσύνης να αναλάβουν μεγαλύτερη ευθύνη στον τρόπο ελέγχου τους και προτείνει να δημιουργηθεί μηχανισμός που θα επιτρέπει στους υπεύθυνους κυβερνοασφάλειας να γνωρίζουν ποιος είναι ο τελικός ιδιοκτήτης των πρακτόρων, ώστε να ενισχυθεί η διαφάνεια.
Τέλος, σύμφωνα με προηγούμενες αναφορές, χρειάστηκαν τέσσερις ημέρες μέχρι η OpenAI να αντιληφθεί ότι το δικό της σύστημα τεχνητής νοημοσύνης είχε πραγματοποιήσει την επίθεση στη Hugging Face, ενώ η εταιρεία ανακοίνωσε ότι θα δημοσιοποιήσει σύντομα τα αποτελέσματα της δικής της έρευνας, ώστε να εξαχθούν χρήσιμα συμπεράσματα από το περιστατικό.