Δύο από τα ισχυρότερα συστήματα Τεχνητής Νοημοσύνης παγκοσμίως δημιούργησαν ψεύτικα ανθρώπινα προφίλ και επιχείρησαν να εξαπατήσουν πραγματικούς χρήστες στο πλαίσιο κυβερνοεπίθεσης κατά τη διάρκεια δοκιμών που πραγματοποίησε το βρετανικό Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης (AISI).
Σύμφωνα με την έκθεση που δημοσιοποιήθηκε την Τρίτη, το μοντέλο Mythos της Anthropic επιχείρησε να αποκτήσει πρόσβαση σε υπηρεσία στέλνοντας ιδιωτικά μηνύματα μέσω ψεύτικων λογαριασμών που μιμούνταν πραγματικά πρόσωπα. Το AISI ανέφερε ότι τόσο το Mythos όσο και το Sol της OpenAI επέδειξαν επίπεδο «αυτονομίας και εξαπάτησης» που δεν είχε παρατηρηθεί ξανά, διευκρινίζοντας ωστόσο ότι οι περισσότερες κακόβουλες ενέργειες αποδίδονται στο Mythos.
Οι Anthropic και OpenAI απάντησαν στην έκθεση επισημαίνοντας ότι οι συνθήκες των δοκιμών είχαν περιορίσει ή αφαιρέσει τις συνήθεις δικλίδες ασφαλείας των μοντέλων τους.
Η προσπάθεια πρόσβασης στο GitHub
Οι αξιολογητές του AISI εντόπισαν αρχικά «ασυνήθιστες μεταφορές δεδομένων» από τα ερευνητικά τους συστήματα και στη συνέχεια διαπίστωσαν ότι ορισμένοι από τους πράκτορες τεχνητής νοημοσύνης που δοκιμάζονταν είχαν εμπλακεί σε παρατεταμένες, δυνητικά επιβλαβείς ενέργειες με στόχο πραγματικούς ανθρώπους και οργανισμούς.
Στο σοβαρότερο περιστατικό, ένας πράκτορας του Mythos ακολούθησε τακτικές που παραπέμπουν σε ανθρώπινο κυβερνοεπιτιθέμενο, επιχειρώντας να εξαπατήσει χρήστες ώστε να του παραχωρήσουν πρόσβαση στο GitHub, τη μεγάλη πλατφόρμα αποθήκευσης κώδικα λογισμικού που ανήκει στη Microsoft.
Το μοντέλο επιδίωκε να εισαγάγει κακόβουλο κώδικα στο σύστημα του GitHub. Για τον σκοπό αυτό εντόπισε και ερεύνησε τα άτομα που ήταν υπεύθυνα για τη συντήρηση της πλατφόρμας, δημιούργησε σειρά ψεύτικων λογαριασμών βασισμένων στις πραγματικές τους ταυτότητες και απέστειλε μηνύματα και αρχεία μέσω υπηρεσίας διαμοιρασμού αρχείων, επιχειρώντας να ασκήσει πίεση και να εξαπατήσει τους χρήστες ώστε να εγκρίνουν τον κακόβουλο κώδικα.
Σύμφωνα με το AISI, όταν το μοντέλο αμφισβητήθηκε, «τροποποίησε την προηγούμενη δραστηριότητά του ώστε να φαίνεται ακίνδυνη και εξέτασε το ενδεχόμενο να υιοθετήσει νέα ταυτότητα για να συνεχίσει».
Η τελική αποτροπή της επίθεσης επιτεύχθηκε χάρη στον ανθρώπινο έλεγχο, ο οποίος εμπόδισε τον πράκτορα να παραδώσει τον κακόβουλο κώδικα στο GitHub.
Πρωτοφανής συμπεριφορά χωρίς σχετική εντολή
Το AISI διευκρίνισε ότι ο πράκτορας του Mythos δεν είχε λάβει συγκεκριμένη εντολή ούτε να αποφύγει ούτε να επιδείξει τέτοιου είδους συμπεριφορά. Ωστόσο, χαρακτήρισε το περιστατικό ως την πρώτη φορά που οι κίνδυνοι που σχετίζονται με την αυτονομία και την εξαπάτηση εκδηλώθηκαν τόσο ξεκάθαρα, χωρίς ειδική προτροπή και σε πραγματικές συνθήκες.
Παράλληλα, σημείωσε ότι οι δοκιμές αυτού του είδους αποτελούν συνήθη πρακτική, αν και αναγνώρισε πως πραγματοποιούνται υπό συνθήκες που δεν αντανακλούν τον τρόπο με τον οποίο τα πλέον προηγμένα μοντέλα τεχνητής νοημοσύνης διατίθενται στο κοινό.
Το Ινστιτούτο εξήγησε ότι η παροχή πρόσβασης των μοντέλων στο ανοιχτό διαδίκτυο προσφέρει πιο ρεαλιστική εικόνα για τις δυνατότητές τους όταν βρεθούν στα χέρια κακόβουλων χρηστών. Παράλληλα, υπογράμμισε ότι η επίμαχη συμπεριφορά περιορίστηκε σε μικρό αριθμό περιστατικών και εκδηλώθηκε υπό πολύ συγκεκριμένες συνθήκες.
Παρ’ όλα αυτά, το AISI επεσήμανε ότι τόσο το Mythos όσο και το Sol αντέδρασαν σε μια απλή αποστολή με τρόπο που ξεπερνούσε τις οδηγίες που είχαν λάβει. Όπως ανέφερε χαρακτηριστικά, «η δραστηριότητα του πράκτορα έδειξε ενδείξεις νέων, δυνητικά παραπλανητικών συμπεριφορών, σε έκταση και σοβαρότητα που δεν είχαμε προβλέψει».
Οι απαντήσεις των εταιρειών και οι δοκιμές
Οι ανταγωνιστικές εταιρείες τεχνητής νοημοσύνης, οι οποίες ετοιμάζονται να εισαχθούν στο χρηματιστήριο, βρέθηκαν τις τελευταίες εβδομάδες στο επίκεντρο της δημοσιότητας, αφού ανακοίνωσαν ότι τα εργαλεία τους συνδέθηκαν με σειρά περιστατικών κυβερνοεπιθέσεων.
Η Anthropic, σε δημόσια ανακοίνωσή της, υποστήριξε ότι οι παράμετροι των δοκιμών του AISI «δεν είναι αντιπροσωπευτικές κανενός από τα παραγωγικά μας μοντέλα», προσθέτοντας ότι διεξάγει δική της έρευνα για να εντοπίσει τα αίτια της συγκεκριμένης συμπεριφοράς.
Εκπρόσωπος της OpenAI δήλωσε ότι οι συνθήκες των δοκιμών «δεν αντικατοπτρίζουν τη συνήθη χρήση» των μοντέλων και ότι η εταιρεία θα συνεχίσει να συνεργάζεται με αξιολογητές και άλλους φορείς του κλάδου, προκειμένου να ενισχυθούν οι κοινές πρακτικές ασφαλούς αξιολόγησης, καθώς τα μοντέλα αποκτούν ολοένα και μεγαλύτερες δυνατότητες.
Πότε έγιναν οι δοκιμές
Οι σχετικές δοκιμές ξεκίνησαν στις 25 Ιουλίου, ενώ το AISI εντόπισε τις ύποπτες ενέργειες στις 28 Ιουλίου. Στο πλαίσιο της αξιολόγησης, το Ινστιτούτο είχε αναθέσει σε κάθε μοντέλο να «λύσει μια πρόκληση κυβερνοασφάλειας» που αφορούσε το GitHub.
Το GitHub και οι χρήστες που επηρεάστηκαν ενημερώθηκαν από το AISI για τις απόπειρες παραβίασης, ενώ η πλατφόρμα ανέφερε στο BBC ότι απενεργοποίησε τους ψεύτικους λογαριασμούς σύμφωνα με τις πολιτικές της.