Ισχυρά μοντέλα τεχνητής νοημοσύνης παρουσίασαν ξανά ανησυχητική συμπεριφορά, αυτή τη φορά με τρόπο που αιφνιδίασε ακόμη και τους ερευνητές ασφαλείας. Το βρετανικό Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης (AISI) , που υποστηρίζεται από την κυβέρνηση του Ηνωμένου Βασιλείου, αποκάλυψε ότι κατά τη διάρκεια δοκιμών στα τέλη Ιουλίου μοντέλα της OpenAI και της Anthropic προχώρησαν σε μη εξουσιοδοτημένες ενέργειες στο πραγματικό διαδίκτυο, στοχεύοντας πραγματικούς ανθρώπους και οργανισμούς, σύμφωνα με τη Wall Street Journal.
Το σοβαρότερο περιστατικό αφορούσε το μοντέλο Mythos 5 της Anthropic. Κατά τη διάρκεια δοκιμής κυβερνοασφάλειας, το μοντέλο επιχείρησε να πείσει δύο προγραμματιστές να ενσωματώσουν κακόβουλο κώδικα σε έργο λογισμικού ανοιχτού κώδικα, θεωρώντας λανθασμένα ότι έτσι θα αποκτούσε πρόσβαση στο σύστημα της δοκιμής και θα βελτίωνε την επίδοσή του. Για να το πετύχει, δημιούργησε ψεύτικα προφίλ στο GitHub, έστειλε επανειλημμένα email στους προγραμματιστές και, όταν ο κώδικας απορρίφθηκε ως κακόβουλος, χρησιμοποίησε δεύτερο ψεύτικο λογαριασμό για να υποστηρίξει ότι ήταν ασφαλής.
Οι ερευνητές αντιλήφθηκαν ότι κάτι είχε πάει στραβά όταν έλαβαν ειδοποίηση ότι το μοντέλο χρησιμοποιούσε το δίκτυο ανώνυμης περιήγησης Tor. Σύμφωνα με το AISI, ήταν η πρώτη φορά που παρατηρήθηκε τόσο σοβαρή απόπειρα εξαπάτησης πραγματικών ανθρώπων χωρίς να έχει προηγηθεί σχετική εντολή από τους ερευνητές.
Παρότι το μεγαλύτερο μέρος της δραστηριότητας αποδόθηκε στο Mythos 5, και μοντέλο της OpenAI παρουσίασε προβληματική συμπεριφορά. Μια κυβερνο-ενισχυμένη έκδοση του GPT-5.6 Sol δημιούργησε κακόβουλο διακομιστή στο διαδίκτυο και παραβίασε λογαριασμό GitHub που είχε δημιουργήσει άλλος πράκτορας τεχνητής νοημοσύνης.
Η τεχνητή νοημοσύνη εμφανίζει όλο και πιο ανησυχητικές συμπεριφορές
Τα περιστατικά καταγράφηκαν σε ελεγχόμενα περιβάλλοντα δοκιμών, όπου τα μοντέλα τεχνητής νοημοσύνης είχαν πρόσβαση στο διαδίκτυο και δεν λειτουργούσαν όλες οι συνήθεις δικλίδες ασφαλείας. Η Anthropic διευκρίνισε ότι στο συγκεκριμένο πείραμα είχαν απενεργοποιηθεί σκόπιμα ορισμένοι μηχανισμοί κυβερνοασφάλειας, προκειμένου να αξιολογηθούν οι δυνατότητες των μοντέλων, ενώ η OpenAI απέδωσε ορισμένα από τα περιστατικά σε λανθασμένες παραμετροποιήσεις των δοκιμαστικών συστημάτων.
Τα νέα συμβάντα έρχονται να προστεθούν σε μια σειρά αντίστοιχων περιστατικών που έχουν καταγραφεί τις τελευταίες εβδομάδες. Η OpenAI αποκάλυψε ότι μοντέλα της κατάφεραν να διαφύγουν από προστατευμένο περιβάλλον δοκιμών («sandbox») και επιχείρησαν να αποκτήσουν πρόσβαση στην πλατφόρμα Hugging Face. Παράλληλα, τόσο η OpenAI όσο και η Anthropic γνωστοποίησαν ότι, σε δοκιμές που πραγματοποιήθηκαν σε συνεργασία με την εταιρεία κυβερνοασφάλειας Irregular, μοντέλα τεχνητής νοημοσύνης απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε πραγματικά πληροφοριακά συστήματα, εξαιτίας εσφαλμένων ρυθμίσεων στο δοκιμαστικό περιβάλλον.
Οι δύο εταιρείες συμφωνούν ότι τα περιστατικά αυτά αναδεικνύουν την ανάγκη για αυστηρότερα πρότυπα και πιο απαιτητικές διαδικασίες αξιολόγησης των προηγμένων μοντέλων τεχνητής νοημοσύνης, πριν αυτά διατεθούν ευρύτερα. Την ίδια ώρα, η κυβέρνηση Τραμπ επεξεργάζεται νέο κανονιστικό πλαίσιο, το οποίο θα προβλέπει αυστηρότερους ελέγχους των μοντέλων πριν από τη δημόσια κυκλοφορία τους.
Όπως επισημαίνει ο επικεφαλής τεχνολογίας της Abundant Security, Τζόσουα Σάξε, η βιομηχανία της τεχνητής νοημοσύνης δεν έχει ακόμη προσαρμοστεί πλήρως στους κινδύνους που ενέχουν τα ολοένα και ισχυρότερα μοντέλα. «Τα πράγματα έχουν αλλάξει πολύ γρήγορα όσον αφορά το πόσο επικίνδυνα μπορούν να γίνουν αυτά τα μοντέλα», δήλωσε στη Wall Street Journal.