Ένα περιστατικό στην Αυστραλία έρχεται να εντείνει τις ανησυχίες για την ασφάλεια των συστημάτων τεχνητής νοημοσύνης που μπορούν πλέον να λειτουργούν αυτόνομα στο διαδίκτυο. Ένας «agent» της OpenAI απέκτησε μη εξουσιοδοτημένη πρόσβαση σε αυστραλιανό κυβερνητικό σύστημα υγείας, σε ένα συμβάν που η κυβέρνηση της χώρας χαρακτήρισε σοβαρό και ο πρωθυπουργός Άντονι Αλμπανέζε «προφανώς απαράδεκτο».
Το περιστατικό αφορά το Medicare Statistics Reporting Service, μια πλατφόρμα που δημοσιεύει στοιχεία για το αυστραλιανό σύστημα δημόσιας υγείας, όπως δεδομένα για τις χρεώσεις, τη χρήση φαρμάκων και τις σχετικές δαπάνες. Σύμφωνα με την αυστραλιανή κυβέρνηση, ο agent απέκτησε πρόσβαση τόσο σε δημόσια όσο και σε μη δημόσια αρχεία, μεταδίδουν οι Financial Times.
Η OpenAI υποστηρίζει ότι η πρόσβαση δεν ήταν σκόπιμη. Το σύστημα, σύμφωνα με την εταιρεία, εκτελούσε εσωτερική αξιολόγηση και προσπαθούσε να αναζητήσει πληροφορίες και στατιστικά στοιχεία για την Αυστραλία. Κατά τη διάρκεια αυτής της διαδικασίας, «έκανε ενέργειες που δεν είχαμε σκοπό να κάνει».
Το πιο ανησυχητικό στοιχείο, ωστόσο, δεν είναι μόνο η ίδια η παραβίαση, αλλά ο χρόνος που χρειάστηκε για να εντοπιστεί. Η OpenAI φέρεται να εντόπισε το περιστατικό τον Αύγουστο, αρκετές εβδομάδες μετά την πραγματοποίησή του τον Ιούνιο, στο πλαίσιο ελέγχου της συμπεριφοράς των agents. Η αυστραλιανή κυβέρνηση ενημερώθηκε αργότερα, ενώ, σύμφωνα με τον Αλμπανέζε, το πρώτο μήνυμα της OpenAI στάλθηκε σε μια γενική κυβερνητική ηλεκτρονική διεύθυνση και χρειάστηκαν ακόμη ημέρες για να φτάσει στην αρμόδια υπηρεσία κυβερνοασφάλειας.
Οι αυστραλιανές αρχές ερευνούν τώρα εάν επηρεάστηκαν και άλλα κυβερνητικά συστήματα. Ο υπουργός Άμυνας και αναπληρωτής πρωθυπουργός Ρίτσαρντ Μαρλ δήλωσε ότι υπήρξε πρόσβαση σε περισσότερα συστήματα σε ομοσπονδιακό και πολιτειακό επίπεδο, μεταξύ άλλων σε δεδομένα υγείας και εγκληματικότητας. Παράλληλα, ο Αλμπανέζε υποστήριξε ότι μέχρι στιγμής δεν υπάρχουν ενδείξεις ευρύτερης παραβίασης του δικτύου της Services Australia και ότι δεν φαίνεται να έχουν αποκτηθεί προσωπικά δεδομένα.
Το περιστατικό αποκτά ακόμη μεγαλύτερη σημασία επειδή έρχεται λίγο μετά από ένα διαφορετικό συμβάν που αφορούσε agents της OpenAI και την πλατφόρμα ανάπτυξης λογισμικού Hugging Face. Κατά τη διάρκεια εσωτερικής δοκιμής κυβερνοασφάλειας, εκατοντάδες agents φέρεται να συντονίστηκαν μεταξύ τους, απέκτησαν πρόσβαση στο διαδίκτυο και πραγματοποίησαν ενέργειες που δεν είχαν προβλεφθεί από τους ερευνητές.
Οι εξελίξεις αναζωπυρώνουν τη συζήτηση για το κατά πόσο τα λεγόμενα «frontier models» μπορούν να παραμείνουν υπό ανθρώπινο έλεγχο καθώς αποκτούν μεγαλύτερη αυτονομία. Οι agents διαφέρουν από τα παραδοσιακά chatbots, καθώς δεν περιορίζονται στην παραγωγή μιας απάντησης. Μπορούν να αναζητούν πληροφορίες, να χρησιμοποιούν εργαλεία, να εκτελούν εντολές και να λαμβάνουν μια σειρά αποφάσεων προκειμένου να ολοκληρώσουν έναν στόχο.
Η συζήτηση μεταφέρθηκε την ίδια ημέρα και στο Συμβούλιο Ασφαλείας του ΟΗΕ, όπου οι επικεφαλής μεγάλων εταιρειών τεχνητής νοημοσύνης τάχθηκαν υπέρ μεγαλύτερου διεθνούς συντονισμού για την ασφάλεια της AI. Ο Ντάριο Αμοντέι της Anthropic υποστήριξε την ανάγκη για περιορισμένες αλλά διεθνώς αποδεκτές συμφωνίες, ενώ ο Σαμ Άλτμαν τόνισε ότι δεν θα πρέπει να εκπαιδεύονται μοντέλα εάν δεν υπάρχει πολύ ισχυρή βεβαιότητα ότι μπορούν να παραμείνουν υπό ανθρώπινο έλεγχο.
Το περιστατικό στην Αυστραλία προσθέτει έτσι ένα νέο δεδομένο στη συζήτηση: το ζήτημα της ασφάλειας των agents δεν αφορά πλέον μόνο υποθετικά σενάρια για το μέλλον. Αφορά ήδη τον τρόπο με τον οποίο αυτόνομα συστήματα αλληλεπιδρούν με πραγματικές υποδομές, κυβερνητικές υπηρεσίες και δεδομένα.