Η αμερικανική εταιρεία τεχνολογίας Anthropic ανακοίνωσε ότι τα μοντέλα τεχνητής νοημοσύνης Claude κατάφεραν να παραβιάσουν τα συστήματα τριών οργανισμών στο πλαίσιο ιδιωτικού πειράματος κυβερνοασφάλειας. Σύμφωνα με την εταιρεία, τα μοντέλα εντόπισαν αδυναμία σε περιβάλλον δοκιμών που θεωρητικά ήταν απομονωμένο και χωρίς πρόσβαση στο διαδίκτυο, καταφέρνοντας τελικά να συνδεθούν στο ίντερνετ.
Η εξέλιξη έρχεται λίγες ημέρες μετά την αποκάλυψη της OpenAI ότι δικά της μοντέλα είχαν παραβιάσει συστήματα άλλων εταιρειών, μεταξύ των οποίων και η πλατφόρμα εργαλείων τεχνητής νοημοσύνης Hugging Face.
Πώς αποκαλύφθηκαν οι παραβιάσεις
Η ανακοίνωση της OpenAI οδήγησε την Anthropic να ελέγξει αν είχαν σημειωθεί αντίστοιχα περιστατικά και στα δικά της συστήματα. Όπως ανέφερε, η έρευνα αποκάλυψε τρεις περιπτώσεις παραβίασης, οι οποίες έχουν ήδη γνωστοποιηθεί στους οργανισμούς που επηρεάστηκαν.
Η Anthropic δεν αποκάλυψε την ταυτότητα των οργανισμών, ωστόσο κάλεσε και άλλα εργαστήρια τεχνητής νοημοσύνης να πραγματοποιήσουν αντίστοιχους ελέγχους, ώστε να κατανοήσουν καλύτερα τους κινδύνους που ενδέχεται να προκύψουν από τις δυνατότητες των μοντέλων τους.
Σύμφωνα με ανακοίνωση της εταιρείας, εξετάστηκαν περισσότερες από 140.000 δοκιμές προκειμένου να διαπιστωθεί αν η οικογένεια μοντέλων Claude είχε αποκτήσει πρόσβαση στο διαδίκτυο, παρά το γεγονός ότι λειτουργούσε σε απομονωμένο περιβάλλον δοκιμών.
Το λάθος στη ρύθμιση που έδωσε πρόσβαση στο διαδίκτυο
Όπως αναφέρει το BBC οι δοκιμές περιλάμβαναν ασκήσεις στις οποίες το Claude έπρεπε να αποκτήσει «μυστικές» πληροφορίες που βρίσκονταν αποθηκευμένες σε διαφορετικό υπολογιστή μέσα στο κλειστό δίκτυο. Στη συνέχεια λάμβανε εντολή να παραβιάσει το συγκεκριμένο μηχάνημα και να εντοπίσει τις πληροφορίες, μια συνηθισμένη διαδικασία αξιολόγησης των δυνατοτήτων ενός μοντέλου στον τομέα του hacking.
Ωστόσο, μια λανθασμένη διαμόρφωση στα συστήματα που χρησιμοποιούσαν η Anthropic και ο συνεργάτης της στις δοκιμές άφησε τα μοντέλα με πραγματική πρόσβαση στο διαδίκτυο.
Αντιμετωπίζοντας την κατάσταση σαν να αποτελούσε συνέχεια της ίδιας άσκησης, το Claude συνδέθηκε στο ίντερνετ και παραβίασε τα συστήματα τριών πραγματικών οργανισμών αντί για δοκιμαστικά συστήματα, όπως ανέφερε η εταιρεία με έδρα το Σαν Φρανσίσκο.
Η Anthropic διευκρίνισε ότι τα πρώτα περιστατικά χρονολογούνται από τον Απρίλιο και υπογράμμισε ότι «αντιμετωπίζουμε τα προβλήματα σαν να ήταν αποκλειστικά δική μας ευθύνη».
Οι οργανισμοί δεν είχαν αντιληφθεί τις παραβιάσεις
Ούτε η Anthropic ούτε οι οργανισμοί που επηρεάστηκαν είχαν αντιληφθεί τις παραβιάσεις τη στιγμή που συνέβησαν.
Η εταιρεία ανέφερε ακόμη ότι θα μπορούσε να είχε εξετάσει πιο διεξοδικά τα αρχεία της, προσθέτοντας πως τα ευρήματα της προκαλούν «συγκρατημένη αισιοδοξία» ότι οι συγκεκριμένοι κίνδυνοι μπορούν να αντιμετωπιστούν με μεγαλύτερες επενδύσεις και αυστηρότερα μέτρα ασφαλείας.
Ο ειδικός στην κυβερνοασφάλεια David Allott από τη Veeam Software δήλωσε στο BBC ότι «Το γενικότερο συμπέρασμα δεν είναι απαραίτητα ότι η τεχνητή νοημοσύνη έχει αναπτύξει μια θεμελιωδώς νέα ικανότητα επίθεσης».
Όπως πρόσθεσε, «Οι πράκτορες τεχνητής νοημοσύνης μπορούν να συνδυάζουν δυνατότητες, να αποκτούν διαπιστευτήρια και πρόσβαση στο σύστημα για να αναλαμβάνουν δράσεις αυτόνομα, προσαρμόζοντας παράλληλα το εύρος και την κλίμακα με την ταχύτητα μιας μηχανής».
Αυξάνονται οι ανησυχίες για τους AI agents
Τα περιστατικά σημειώνονται την ώρα που οι εταιρείες τεχνολογίας επενδύουν δισεκατομμύρια δολάρια στην ανάπτυξη AI agents, δηλαδή συστημάτων τεχνητής νοημοσύνης που μπορούν να εκτελούν αυτόνομα εργασίες, από την έρευνα και την εξυπηρέτηση πελατών μέχρι εφαρμογές κυβερνοασφάλειας.
Η αύξηση των κυβερνοεπιθέσεων που σχετίζονται με την τεχνητή νοημοσύνη έχει ενισχύσει τις εκκλήσεις για αυστηρότερες δικλίδες ασφαλείας και μεγαλύτερη εποπτεία της τεχνολογίας, λόγω των κινδύνων που ενδέχεται να προκύψουν από ολοένα και ισχυρότερα αυτόνομα συστήματα.
Ο πρόεδρος των ΗΠΑ, Ντόναλντ Τραμπ, δήλωσε την Τετάρτη ότι η Ουάσινγκτον εξετάζει μέτρα για τον περιορισμό των εργαλείων τεχνητής νοημοσύνης μετά τα πρόσφατα περιστατικά κυβερνοασφάλειας.
Και η OpenAI στο επίκεντρο
Την τελευταία εβδομάδα, η OpenAI έχει αναλάβει την ευθύνη για τουλάχιστον δύο περιστατικά στα οποία οι πλατφόρμες της παραβίασαν τους κανόνες λειτουργίας που τους είχαν τεθεί.
Στις 21 Ιουλίου, η δημιουργός του ChatGPT ανακοίνωσε ότι ένας δικός της agent, δηλαδή ένα σύστημα τεχνητής νοημοσύνης που μπορεί να λειτουργεί αυτόνομα μετά από ανθρώπινη εντολή, ξέφυγε από τα όρια της δοκιμής και παραβίασε το Hugging Face.
Η OpenAI χαρακτήρισε το περιστατικό «άνευ προηγουμένου» και ανέφερε ότι διερευνά την υπόθεση σε συνεργασία με το Hugging Face, ενώ ο συνιδρυτής και επικεφαλής της εταιρείας Thomas Wolf δήλωσε στο BBC ότι πρόκειται για «κλήση αφύπνισης» για ολόκληρο τον κλάδο.
Παράλληλα, τα συγκεκριμένα περιστατικά αντιμετωπίζονται με επιφύλαξη από ορισμένους, καθώς τόσο η OpenAI όσο και η Anthropic προετοιμάζονται για μεγάλες εισαγωγές στο χρηματιστήριο, οι οποίες εκτιμάται ότι θα αποτιμήσουν κάθε εταιρεία περίπου στο 1 τρισ. δολάρια,
Εκπρόσωπος της OpenAI δήλωσε ότι «αναγνωρίζουμε ότι κυκλοφορούν πολλές ερωτήσεις και εικασίες» σχετικά με το περιστατικό, προσθέτοντας ότι η εταιρεία σχεδιάζει να δημοσιεύσει μέσα στις επόμενες εβδομάδες τεχνική έκθεση με τα συμπεράσματα της έρευνάς της.