-
- 31/07/2026, 10:07
- SHARE
The Claude logo is displayed on a computer screen photographed through a magnifying glass in Creteil, France, on April 21, 2026. The NSA is reported to have used Claude Mythos Preview despite a ban on Anthropic for United States government agencies. (Photo by Samuel Boivin/NurPhoto) (Photo by Samuel Boivin / NurPhoto via AFP) Photo: AFP
Λανθασμένη ρύθμιση επέτρεψε στα συστήματα τεχνητής νοημοσύνης να συνδεθούν στο διαδίκτυο και να παραβιάσουν πραγματικές υποδομές – Η εταιρεία ανέστειλε τις αξιολογήσεις κυβερνοασφάλειας
- Τρία μοντέλα Claude απέκτησαν μη εξουσιοδοτημένη πρόσβαση στα συστήματα τριών εξωτερικών οργανισμών.
- Τα περιστατικά εντοπίστηκαν έπειτα από έλεγχο περισσότερων από 141.000 δοκιμών κυβερνοασφάλειας.
- Η Anthropic ανέστειλε τις σχετικές αξιολογήσεις και ανακοίνωσε αυστηρότερους ελέγχους και συστήματα παρακολούθησης.
Τρία μοντέλα τεχνητής νοημοσύνης Claude της Anthropic απέκτησαν μη εξουσιοδοτημένη πρόσβαση στα πραγματικά συστήματα τριών εξωτερικών οργανισμών, κατά τη διάρκεια δοκιμών των κυβερνοεπιθετικών τους δυνατοτήτων.
Σύμφωνα με την εταιρεία, τα μοντέλα έπρεπε να λειτουργούν σε ένα προσομοιωμένο περιβάλλον χωρίς πρόσβαση στο διαδίκτυο. Ωστόσο, μια ασυνεννοησία μεταξύ της Anthropic και του συνεργάτη της στις αξιολογήσεις, της εταιρείας Irregular, είχε ως αποτέλεσμα να παραμείνει ενεργή η σύνδεση στο διαδίκτυο.
Τα περιστατικά εντοπίστηκαν όταν η Anthropic επανεξέτασε περισσότερα από 141.000 αρχεία αξιολογήσεων κυβερνοασφάλειας, μετά τη γνωστοποίηση αντίστοιχου συμβάντος από την OpenAI.
Πώς τα μοντέλα απέκτησαν πρόσβαση σε πραγματικά συστήματα
Οι δοκιμές αφορούσαν ασκήσεις τύπου «capture the flag», στις οποίες ένα σύστημα τεχνητής νοημοσύνης καλείται να αναλύσει, να αποσυναρμολογήσει ή να εκμεταλλευτεί ένα ευάλωτο ψηφιακό σύστημα, προκειμένου να εντοπίσει μια κρυμμένη πληροφορία.
Σε μία από τις περιπτώσεις, το Claude έλαβε ως στόχο μια εικονική εταιρεία, η οποία όμως είχε το ίδιο όνομα με πραγματική επιχείρηση και ενεργό διαδικτυακό domain.
Το μοντέλο εντόπισε και εκμεταλλεύτηκε αδυναμίες στις ψηφιακές υποδομές της πραγματικής εταιρείας, απέκτησε πρόσβαση σε πληροφορίες και εισήλθε σε βάση δεδομένων που περιείχε εκατοντάδες εγγραφές παραγωγικών δεδομένων.
Σύμφωνα με την Anthropic, τα περιστατικά αφορούσαν τα μοντέλα Claude Opus 4.7, Claude Mythos 5 και ένα εσωτερικό ερευνητικό μοντέλο.
Η Anthropic ανέστειλε τις δοκιμές
Η εταιρεία ανακοίνωσε ότι διέκοψε τις αξιολογήσεις κυβερνοασφάλειας μόλις διαπίστωσε ότι τα μοντέλα ενδέχεται να είχαν συνδεθεί σε πραγματικά συστήματα.
Παράλληλα, επικοινώνησε ή επιχείρησε να επικοινωνήσει με τους οργανισμούς που επηρεάστηκαν, ενώ σε τουλάχιστον δύο περιπτώσεις οι εταιρείες δεν γνώριζαν ότι είχε πραγματοποιηθεί μη εξουσιοδοτημένη πρόσβαση πριν ενημερωθούν από την Anthropic.
Η Anthropic χαρακτήρισε τα περιστατικά «λειτουργική αποτυχία», αναλαμβάνοντας την ευθύνη για την ανεπαρκή απομόνωση του περιβάλλοντος δοκιμών.
Η εταιρεία ανέφερε ότι θα διευρύνει την παρακολούθηση των συνομιλιών και των ενεργειών των μοντέλων για «απροσδόκητη συμπεριφορά», ενώ θα εφαρμόσει αυστηρότερες διαδικασίες ελέγχου για τους εξωτερικούς συνεργάτες που συμμετέχουν στις αξιολογήσεις.
Παρόμοιο περιστατικό είχε αποκαλύψει η OpenAI
Η αποκάλυψη της Anthropic έρχεται λίγες ημέρες μετά τη γνωστοποίηση ενός παρόμοιου περιστατικού από την OpenAI και τη Hugging Face.
Κατά τη διάρκεια αξιολόγησης μοντέλων κυβερνοασφάλειας, δύο συστήματα της OpenAI εκμεταλλεύτηκαν ευπάθεια στο περιβάλλον δοκιμών, συνδέθηκαν στο διαδίκτυο και απέκτησαν πρόσβαση σε υποδομές της Hugging Face. Οι δύο εταιρείες ανακοίνωσαν ότι συνεργάζονται για τη διερεύνηση του συμβάντος και την ενίσχυση των σχετικών δικλίδων ασφαλείας.
Εντείνονται οι ανησυχίες για τους AI agents
Τα δύο περιστατικά ενισχύουν τις ανησυχίες γύρω από την ασφάλεια των AI agents, δηλαδή συστημάτων που μπορούν να εκτελούν αυτόνομα σειρά ενεργειών βάσει μιας αρχικής ανθρώπινης εντολής.
Η ικανότητα προηγμένων μοντέλων να εντοπίζουν ευπάθειες και να αποκτούν πρόσβαση σε πραγματικές υποδομές, ακόμη και στο πλαίσιο ελεγχόμενων δοκιμών, αναδεικνύει την ανάγκη για αυστηρότερη απομόνωση των περιβαλλόντων αξιολόγησης και συνεχή ανθρώπινη εποπτεία πριν από την ευρύτερη διάθεση των συστημάτων.
ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:
- EU AI Act: Νέοι κανόνες για την τεχνητή νοημοσύνη από 2 Αυγούστου – Τι αλλάζει για επιχειρήσεις και χρήστες
- Η Amazon περιορίζει δραστικά τα μοντέλα AI Nova μετά τις χαμηλές επιδόσεις
- Συνομιλίες του Claude εμφανίζονται στη Google – Ιατρικά δεδομένα και εταιρικά έγγραφα εκτεθειμένα στο διαδίκτυο