Πράκτορες τεχνητής νοημοσύνης της OpenAI παρενέβησαν στις ιστοσελίδες του Υπουργείου Παιδείας, του Υπουργείου Εμπορίου και της Επιτροπής Κεφαλαιαγοράς των ΗΠΑ, το καλοκαίρι, χωρίς τη γνώση της εταιρείας, σύμφωνα με ερευνητές ασφαλείας που μίλησαν στους The New York Times.
Τα περιστατικά που αφορούσαν το Υπουργείο Εμπορίου και την Επιτροπή Κεφαλαιαγοράς επιβεβαιώθηκαν από την OpenAI, η οποία δήλωσε ότι συνεχίζει να διερευνά την κατάσταση με το Υπουργείο Παιδείας.
Η εταιρεία δήλωσε ότι είχε ειδοποιήσει τις κυβερνητικές υπηρεσίες τις τελευταίες εβδομάδες ότι οι πράκτορές της Τεχνητής Νοημοσύνης – bots που μπορούν να ενεργούν αυτόνομα – αλληλεπίδρασαν με τις ιστοσελίδες τους με ασυνήθιστους τρόπους.
Η «βόλτα» των πρακτόρων
Στο Υπουργείο Παιδείας, οι πράκτορες προσπάθησαν να χακάρουν την ιστοσελίδα για να συλλέξουν δεδομένα από το γραφείο πολιτικών δικαιωμάτων του υπουργείου, αλλά απέτυχε, δήλωσαν ερευνητές της εταιρείας έρευνας τεχνητής νοημοσύνης Transluce.
Τα bots ανέκτησαν επίσης δεδομένα από την ιστοσελίδα του Γραφείου Απογραφής, η οποία στεγάζεται στο Υπουργείο Εμπορίου, χρησιμοποιώντας διαπιστευτήρια σύνδεσης που βρήκαν στο διαδίκτυο.
Ξεχωριστά, οι πράκτορες της OpenAI κοινοποίησαν δημόσια δεδομένα από την ιστοσελίδα της Επιτροπής Κεφαλαιαγοράς (SEC) σε ένα διαδικτυακό φόρουμ.
Κανένα από τα περιστατικά δεν ήταν παραβιάσεις, δήλωσε η OpenAI, αλλά ήταν παραδείγματα της συμπεριφοράς της τεχνολογίας της με απροσδόκητους και ανησυχητικούς τρόπους. Η εταιρεία ανακάλυψε πρόσφατα τα περιστατικά κατά τη διάρκεια μιας ανασκόπησης των hacking που πραγματοποιήθηκαν από την τεχνολογία της, συμπεριλαμβανομένης μιας επίθεσης σε έναν ιστότοπο της αυστραλιανής κυβέρνησης τον Ιούνιο και στην νεοσύστατη εταιρεία τεχνητής νοημοσύνης Hugging Face τον Ιούλιο.
Η αποκάλυψη των περιστατικών σε ιστότοπους της κυβέρνησης των ΗΠΑ προστίθεται στον όλο και αυξανόμενο αριθμό περιπτώσεων όπου πράκτορες τεχνητής νοημοσύνης από τις OpenAI, Anthropic, Meta και Google έχουν συμπεριφερθεί «περίεργα» και έχουν χακάρει ή προσπαθήσει να παραβιάσουν εταιρείες, πανεπιστήμια και κυβερνητικούς οργανισμούς.
Σε ορισμένες περιπτώσεις, οι επιθέσεις τεχνητής νοημοσύνης ήταν επιτυχείς. Η τεχνολογία απέτυχε σε άλλες περιπτώσεις. Σε όλες τις περιπτώσεις, οι κατασκευαστές δεν έμαθαν τι έκανε η τεχνητή νοημοσύνη τους, παρά πολύ αργότερα.
«Πρωταθλητές» τα bots της OpenAI
Καμία εταιρεία τεχνητής νοημοσύνης δεν έχει εμπλακεί σε τόσες πολλές αποκαλύψεις περιστατικών αθέμιτης χρήσης όσο η OpenAI. Μια εσωτερική έρευνα για την παραβίαση του Hugging Face αποκάλυψε την παραβίαση ενός ιστότοπου της αυστραλιανής κυβέρνησης για το δημόσιο σύστημα υγείας της, καθώς και τουλάχιστον έξι άλλες απόπειρες παραβίασης και περιπτώσεις στις οποίες η τεχνητή νοημοσύνη έκρυψε λάθη, επινόησε δεδομένα και μετέφερε αρχεία στο ανοιχτό διαδίκτυο χωρίς άδεια.
Μια εκπρόσωπος της OpenAI δήλωσε ότι η αναθεώρησή της ήταν «εκτεταμένη» και «συνεχιζόμενη» και ότι θα συνεχίσει να ενημερώνει τους οργανισμούς που επηρεάζονται από τα μοντέλα της.
«Το μεγαλύτερο μέρος της δραστηριότητας που έχουμε εξετάσει μέχρι στιγμής αφορούσε συνήθεις ερευνητικές εργασίες, όπως η πρόσβαση σε δημόσιο περιεχόμενο ιστού για την απάντηση σε ερωτήσεις», είπε. «Ορισμένες αφορούσαν κυβερνητικούς ιστότοπους επειδή τα μοντέλα μας συχνά στρέφονται σε αυτούς ως έγκυρες πηγές δημόσιων πληροφοριών».
Ο Σαμ Άλτμαν, διευθύνων σύμβουλος της OpenAI, δήλωσε σε μια ανάρτηση στα μέσα κοινωνικής δικτύωσης την Παρασκευή ότι η εταιρεία «δεν ήταν τόσο γρήγορη όσο θα θέλαμε» στην αποκάλυψη περιστατικών τεχνητής νοημοσύνης.
«Δίνουμε προτεραιότητα όσο καλύτερα μπορούμε με βάση τη σοβαρότητα», είπε, προσθέτοντας ότι η παραβίαση του Hugging Face παρέμεινε «το πιο σοβαρό συμβάν» που έχει ανακαλύψει η εταιρεία.
Τα επεισόδια έχουν πυροδοτήσει μια αμφιλεγόμενη συζήτηση σχετικά με την ασφάλεια της Τεχνητής Νοημοσύνης.
Ο Άλτμαν δήλωσε στα μέσα κοινωνικής δικτύωσης αυτόν τον μήνα ότι η ασφάλεια θα πρέπει να είναι πιο σημαντική από την ενίσχυση των ικανοτήτων της Τεχνητής Νοημοσύνης και ότι, χωρίς προστατευτικά κιγκλιδώματα, η κοινωνία θα μπορούσε να «χάσει τον έλεγχο του μέλλοντος από την Τεχνητή Νοημοσύνη».
Ο Ντάριο Αμοντέι, διευθύνων σύμβουλος του ανταγωνιστικού εργαστηρίου τεχνητής νοημοσύνης Anthropic, έχει επίσης υποστηρίξει την επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης με προτεραιότητα στην ασφάλεια. Ωστόσο, άλλοι ηγέτες της τεχνολογίας, όπως ο Τζένσεν Χουάνγκ, διευθύνων σύμβουλος της Nvidia, έχουν δηλώσει ότι οι φόβοι για ανεξέλεγκτη τεχνητή νοημοσύνη είναι μη ρεαλιστικοί. Ο πρόεδρος Τραμπ έχει δηλώσει ότι δεν πιστεύει ότι είναι απαραίτητη μια επιβράδυνση στη βιομηχανία τεχνητής νοημοσύνης.
Μια εκπρόσωπος του Υπουργείου Εμπορίου δήλωσε ότι η OpenAI είχε πρόσβαση σε πληροφορίες που ήταν δημόσια διαθέσιμες στον ιστότοπο της Υπηρεσίας Απογραφής και διαθέσιμες σε οποιονδήποτε, αλλά όχι σε ιδιωτικά δεδομένα.
Ένας εκπρόσωπος του Υπουργείου Παιδείας δήλωσε ότι «οι αξιολογήσεις λειτουργίας του συστήματος δεν έχουν βρει στοιχεία για οποιαδήποτε επίδραση στον ιστότοπό μας ή στις βάσεις δεδομένων μας».
Ένας εκπρόσωπος του γραφείου του δημάρχου του Σικάγο δήλωσε ότι η OpenAI είχε πρόσφατα ενημερώσει τις αρχές της πόλης ότι η τεχνολογία της απέκτησε δημόσια διαθέσιμες πληροφορίες από έναν ιστότοπο του δήμου και ότι δεν φαινόταν να έχουν αποκτηθεί ευαίσθητες πληροφορίες.
Οι τακτικές «γκρίζας ζώνης»
Ο Conrad Stosz, επικεφαλής διακυβέρνησης της Transluce, δήλωσε ότι στα περιστατικά με ιστότοπους της κυβέρνησης των ΗΠΑ, οι πράκτορες της OpenAI «χρησιμοποίησαν μια σειρά από τακτικές γκρίζας ζώνης», συμπεριλαμβανομένης της «συχνής χρήσης ιστότοπων με ακούσιους τρόπους και μερικές φορές παραβίασης πολιτικών ρητής χρήσης».
Ο Stosz δήλωσε ότι η ερευνητική του ομάδα είχε επίσης εντοπίσει άλλη αθέμιτη δραστηριότητα που δεν αποδιδόταν σαφώς στην OpenAI, πράγμα που σημαίνει ότι οι πράκτορες θα μπορούσαν να προέρχονται από την εταιρεία ή από άλλο εργαστήριο τεχνητής νοημοσύνης. Σε αυτές τις περιπτώσεις, πράκτορες τεχνητής νοημοσύνης ερεύνησαν ιστότοπους που ανήκουν σε διάφορους άλλους ιστότοπους της ομοσπονδιακής και πολιτειακής κυβέρνησης, συμπεριλαμβανομένου του Ναυτικού και του Γραφείου Διαχείρισης και Προϋπολογισμού στον Λευκό Οίκο, είπε.
«Αυτά τα περιστατικά αποτελούν μέρος ενός ευρύτερου μοτίβου όπου αυτοί οι πράκτορες προσπαθούν να έχουν πρόσβαση σε αυτούς τους ιστότοπους τουλάχιστον εκατοντάδες χιλιάδες φορές, ενώ προφανώς παρακάμπτουν τους περιορισμούς που τους έχουν θέσει οι προγραμματιστές τους», δήλωσε ο Stosz.
Ο βουλευτής Ted Lieu, Δημοκρατικός από την Καλιφόρνια, χαρακτήρισε τα μοντέλα τεχνητής νοημοσύνης «αδυσώπητα».
«Θα προσπαθεί αδιάκοπα να ολοκληρώσει μια εργασία και δεν κατανοεί την ηθική και τις συνέπειες και το κακό και το καλό», είπε.
Ο Lieu, ο οποίος είναι συμπρόεδρος μιας ομάδας εργασίας της Βουλής των Αντιπροσώπων που επικεντρώνεται στην τεχνητή νοημοσύνη, δήλωσε ότι οι εταιρείες τεχνητής νοημοσύνης ίσως χρειαστεί να επανεκπαιδεύσουν πλήρως τα μοντέλα αντί να προσπαθήσουν να περιορίσουν τη συμπεριφορά τους με προστατευτικά κιγκλιδώματα.
«Αυτοί οι πράκτορες δεν προσπαθούν να κάνουν κάτι κακό», είπε. «Αυτές είναι κάπως καθημερινές εργασίες και οι πράκτορες τρελαίνονται προσπαθώντας να ολοκληρώσουν αυτές τις εργασίες».