Ανώτατοι αμερικανοί αξιωματούχοι κάλεσαν αυτή την εβδομάδα εκπροσώπους μεγάλων τραπεζών και τους προειδοποίησαν ότι το νέο μοντέλο τεχνητής νοημοσύνης της Anthropic ανοίγει νέα εποχή στις κυβερνοεπιθέσεις.
Την Τρίτη, η Anthropic ανακοίνωσε ότι δεν θα προχωρήσει σε ευρεία διάθεση του μοντέλου Mythos λόγω ανησυχίας ότι είναι υπερβολικά ικανό στο να εντοπίζει και να εκμεταλλεύεται κενά ασφάλειας σε «σε όλα τα μεγάλα λειτουργικά συστήματα και όλους τους μεγάλους browser».
Είχε προηγηθεί η αποκάλυψη του Axios ότι η Anthropic προειδοποιεί σιωπηλά τις κυβερνήσεις ότι το Mythos καθιστά πολύ πιο πιθανές τις μαζικές κυβερνοεπιθέσεις.
Θα ήταν «το όπλο που ονειρεύονται οι χάκερ», ικανό να δρα αυτόνομα για να εισβάλει στα δίκτυα επιχειρήσεων, κυβερνήσεων και υποδομών κρίσιμης σημασίας, είπαν αξιωματούχοι και στελέχη της βιομηχανίας ΑΙ.
Tην περασμένη εβδομάδα, η Anthropic ανέφερε ότι βρίσκεται σε συζητήσεις με την αμερικανική κυβέρνηση για τις «επιθετικές και αμυντικές ικανότητες του μοντέλου στον κυβερνοχώρο».
Όπως αποκαλύπτει τώρα το Bloomberg επικαλούμενο ανώνυμες πηγές, ο υπουργός Οικονομικών Σκοτ Μπέσεντ και ο πρόεδρος της Ομοσπονδιακής Τράπεζας Τζερόμ Πάουελ συναντήθηκαν την Τρίτη στην Ουάσιγκτον με τους επικεφαλής των Citigroup, Morgan Stanley, Bank of America, Wells Fargo και Goldman Sachs, ενώ ο διευθύνων σύμβουλος της JP Morgan Τζέιμι Ντίμον δεν μπόρεσε να παραστεί.
Τη συνάντηση επιβεβαιώνει και το Reuters, σύμφωνα με το οποίο ο Μπέσεντ και ο Πάουελ ενημέρωσαν για τους κινδύνους που εγκυμονούν το Mythos και άλλα μοντέλα και τους ζήτησαν να ενισχύσουν την κυβερνοασφάλειά τους.
Οι προειδοποιήσεις έρχονται λίγους μήνες αφότου η Anthropic ανακοίνωσε τον Νοέμβριο ότι μια προηγούμενη βερσιόν του μοντέλου της Claude χρησιμοποιήθηκε στην «πρώτη καμπάνια κυβερνοκατασκοπείας που ενορχηστρώθηκε από ΑΙ».
Δοκιμές ασφάλειας
Η Anthropic, γνωστή για την έμφαση που δίνει σε θέματα ασφάλειας, αποφάσισε να μην διαθέσει το Mythos σε εμπορική βάση, έδωσε όμως πρόσβαση στο μοντέλο σε περίπου 40 εταιρείες και οργανισμούς όπως η Microsoft, η Google και η JP Morgan Chase.
«Η μεγάλη αύξηση των δυνατοτήτων του Claude Mythos Preview μας στην απόφαση να μην προχωρήσουμε σε γενική διάθεση» ανέφερε η Anthropic «Αντ΄αυτόύ, το χρησιμοποιούμε ως μέρος ενός προγράμματος αμυντικής κυβερνοασφάλειας με περιορισμένο κύκλο συνεργατών» είπε.
Στην ανακοίνωσή της, η εταιρεία αναφέρθηκε σε μια σειρά ανησυχητικών περιστατικών στη διάρκεια των δοκιμών, όπως η προθυμία του μοντέλου να υπακούσει στην εντολή να αποδράσει από ένα εικονικό περιβάλλον.
«Το μοντέλο τα κατάφερε, μια ενδεχομένως επικίνδυνη ικανότητα να παρακάμπτει τα μέτρα ασφαλείας μας» ανέφερε η Anthropic. «Στη συνέχεια προχώρησε σε πρόσθετες, ακόμη πιο ανησυχητικές ενέργειες».
Ένας ερευνητής της εταιρείας είχε ζητήσει από το σύστημα να βρει τρόπο να τους στείλει μήνυμα εφόσον κατάφερνε να αποδράσεις. «Ο ερευνητής έμαθε για την επιτυχία λαμβάνοντας ένα απροσδόκητο email από το μοντέλο ενώ έτρωγε σάντουιτς στο πάρκο» έγραψε η Anthropic.
«Σε μια ανησυχητική και αχρείαστη προσπάθεια να δείξει την επιτυχία του, το μοντέλο δημοσίευσε λεπτομέρειες για την απόδραση του σε πολλές δύσκολα εντοπίσιμες αλλά τεχνικά δημόσιες ιστοσελίδες» ανέφερε η εταιρεία.
Η ανακοίνωση δεν έδινε λεπτομέρειες για τα κενά ασφάλειας που εντόπισε το Mythos, ανέφερε όμως ότι το μοντέλο βρήκε μια ευπάθεια που κρυβόταν εδώ και 27 χρόνια στο OpenBSD, λειτουργικό σύστημα που βασίζεται στο UNIX και θεωρείται ένα από τα ασφαλέστερα.
Το Mythos φέρεται να είναι τόσο ισχυρό ώστε θα επέτρεπε ακόμα και σε «μη ειδικούς» να σχεδιάζουν κυβερνοεπιθέσεις.
Όπως ανέφερε η εταιρεία, «μηχανικοί της Anthropic χωρίς επίσημη εκπαίδευση στην ασφάλεια ζήτησαν από το Mythos Preview να βρει ευπάθειες εκτέλεσης απομακρυσμένου κώδικα μέσα σε ένα βράδυ, και ξύπνησαν το επόμενο πρωί με έναν πλήρη, λειτουργικό κακόβουλο κώδικα.
- in.gr