Η OpenAI μπορεί να ηγήθηκε της ανάπτυξης της τεχνητής νοημοσύνης με τη δημιουργία του ChatGPT, ωστόσο έπεσε θύμα της AI και μάλιστα του λογισμικού που χρησιμοποιεί η αντίπαλός της Anthropic.
Ερευνητές της νεοφυούς εταιρείας κυβερνοασφάλειας Hacktron AI χάκαραν την OpenAI χρησιμοποιώντας ένα μοντέλο της Anthropic, σύμφωνα με μήνυμα που δημοσιεύτηκε σήμερα στον ιστότοπο αυτής της start-up.
Η παρείσφρηση, η οποία πραγματοποιήθηκε στα τέλη Ιουλίου και την οποία επιβεβαίωσε στο Γαλλικό Πρακτορείο η OpenAI, έγινε στο πλαίσιο μιας άσκησης από την ίδια την εταιρεία για τον εντοπισμό τρωτών σημείων στα συστήματά της με τη βοήθεια εξωτερικών ειδικών πληροφορικής.
Για να επιτύχει τον στόχο της, η τριμελής ομάδα χρησιμοποίησε την πλατφόρμα ανταλλαγής μηνυμάτων Discourse, η οποία χρησιμοποιείται από την OpenAI.
Το Discourse δίνει στους εργαζομένους τη δυνατότητα να συνδέονται στους λογαριασμούς τους ChatGPT ή Codex, το AI της OpenAI για προγραμματισμό.
Μέσω αυτής της μεθόδου, οι ερευνητές κατάφεραν να αποκτήσουν πρόσβαση σε πολλούς από αυτούς τους λογαριασμούς.
Στον βαθμό που ο χρήστης μπορεί να δώσει άδεια στο ChatGPT ή το Codex να χρησιμοποιούν πολλές εφαρμογές ή αρχεία, «το εύρος αυτών στα οποία θα μπορούσαμε θεωρητικά να έχουμε πρόσβαση είναι τεράστιο», εξήγησε η τριμελής ομάδα.
Ανέφερε το GitHub (πλατφόρμα αποθήκευσης προγραμμάτων), το Slack (μια πλατφόρμα ανταλλαγής μηνυμάτων για επιχειρήσεις) και τα emails.
Η περιγραφή της δουλειάς της ομάδας Hacktron AI υπογραμμίζει τη ραγδαία πρόοδο μοντέλων Τεχνητής Νοημοσύνης.
Τα μέλη της ομάδας ξεκίνησαν την προσπάθεια παρείσφρησης με τη βοήθεια του Claude Opus 4.8, ενός μοντέλου που κυκλοφόρησε τον Μάιο η Anthropic. Αλλά αυτό το AI «δυσκολεύτηκε» να βρει ένα σημείο εισόδου μέσω του Discourse.
Συμπτωματικά, η Anthropic κυκλοφόρησε ένα νέο μοντέλο, το Opus 5, την ίδια ημέρα. Αυτό το νέο μοντέλο AI κατάφερε να βρει το κενό ασφαλείας «μέσα σε τρεις ώρες», ανέφεραν αυτοί οι ειδικοί σε θέματα πληροφορικής.
Η ομάδα ειδοποίησε γρήγορα την OpenAI, η οποία διόρθωσε τα κενά ασφαλείας, σύμφωνα με έναν εκπρόσωπο.
«Ευχαριστούμε τους ερευνητές που επικοινώνησαν μαζί μας και μοιράστηκαν τις παρατηρήσεις τους», δήλωσε στο Γαλλικό Πρακτορείο.
Αυτή η άσκηση επιβεβαιώνει τις αυξανόμενες δυνατότητες της Τεχνητής Νοημοσύνης σε θέματα κυβερνοασφάλειας.
Στις αρχές Απριλίου, η Anthropic επέλεξε να μην κυκλοφορήσει ευρέως στην αγορά το μοντέλο Mythos, θεωρώντας το πολύ επικίνδυνο για την κυβερνοασφάλεια.
Περιόρισε την πρόσβαση σε μερικές εταιρείες και οργανισμούς, ώστε να μπορούν να το χρησιμοποιήσουν για να εντοπίσουν και να διορθώσουν τα κενά ασφαλείας στο λογισμικό τους.
Η Anthropic κυκλοφόρησε μια περιορισμένη έκδοση του Mythos, το Fable, τον Ιούνιο. Λίγες μέρες αργότερα, η κυβέρνηση των ΗΠΑ ανέστειλε το Fable, επικαλούμενη κίνδυνο εθνικής ασφάλειας, πριν τελικά το εγκρίνει δύο εβδομάδες αργότερα.