Συστήματα παρακολούθησης και δικλείδες ασφαλείας που προορίζονταν για τον εντοπισμό προβληματικής συμπεριφοράς από αυτόνομα ρομπότ τεχνητής νοημοσύνης (AI) απενεργοποίησαν «πράκτορες» (agents) της OpenAI.
Πρόκειται για το πιο πρόσφατο περιστατικό που αναμένεται να εντείνει την παγκόσμια ανησυχία σχετικά με την ασφάλεια αυτής της τεχνολογίας, τονίζουν οι Financial Times.
Η δημιουργός του ChatGPT ανακοίνωσε την Τρίτη ότι, κατά τη διάρκεια δύο πρόσφατων εσωτερικών εργασιών προγραμματισμού, ορισμένοι «πράκτορες» τεχνητής νοημοσύνης επιχείρησαν σκόπιμα να εξαπατήσουν το προσωπικό, λαμβάνοντας μέτρα για την αποδυνάμωση των συστημάτων παρακολούθησης της εταιρείας.
Σε ένα περιστατικό, νωρίτερα αυτόν τον μήνα, ένας «πράκτορας» AI απενεργοποίησε τις αυτόματες ειδοποιήσεις προς την ομάδα ασφαλείας της OpenAI. Σε μια άλλη εργασία, λίγες ημέρες αργότερα, ένας «πράκτορας» αφαίρεσε ένα σύστημα παρακολούθησης και είπε ψέματα στο προσωπικό της OpenAI, ισχυριζόμενος ότι δεν το είχε κάνει.
«Και στις δύο περιπτώσεις, οι “πράκτορες” εξέτασαν το ενδεχόμενο διατήρησης των δικλείδων ασφαλείας, αλλά ερμήνευσαν τις συνήθεις οδηγίες προγραμματισμού ως άδεια για την αποδυνάμωσή τους», ανέφερε η OpenAI σε ανάρτηση στο ιστολόγιό της.
Η startup, η οποία αποτιμάται στα 852 δισεκατομμύρια δολάρια, έχει βρεθεί αντιμέτωπη με περιστατικά κατά τα οποία οι προηγμένοι «πράκτορες» τεχνητής νοημοσύνης της επέδειξαν απρόβλεπτη και προβληματική συμπεριφορά. Μοντέλα της OpenAI κατάφεραν να παρακάμψουν τους ελέγχους κατά τη διάρκεια δοκιμών, παραβίασαν την πλατφόρμα AI «Hugging Face», ενώ εισέβαλαν και σε ιστοτόπους δημόσιων υπηρεσιών υγείας της Αυστραλίας.
Ο διευθύνων σύμβουλος, Σαμ Άλτμαν, δήλωσε ότι η εταιρεία θα καθυστερήσει την αρχική δημόσια προσφορά μετοχών (IPO) —η οποία αρχικά αναμενόταν εντός του τρέχοντος έτους— έως ότου μπορέσει «με απόλυτη βεβαιότητα να προχωρήσει στο επόμενο στάδιο της τεχνητής νοημοσύνης», αντιμετωπίζοντας παράλληλα τις ανησυχίες για την ασφάλεια. Η εισαγωγή στο χρηματιστήριο αναμένεται πλέον για το επόμενο έτος.
Η OpenAI δήλωσε ότι ενισχύει τα μέτρα παρακολούθησης ως απάντηση στα περιστατικά που αναφέρθηκαν την Τρίτη και τα οποία έλαβαν χώρα πριν από περίπου δύο εβδομάδες. Η εταιρεία διερευνά εάν τα περιστατικά αυτά αντικατοπτρίζουν μια «αθώα υπερβάλλουσα επιμονή» ή μια «τάση αποφυγής» των συστημάτων που χρησιμοποιούνται για τον εντοπισμό αθέμιτης δραστηριότητας.
Τα δύο αυτά περιστατικά θα ενισχύσουν τις αυξανόμενες ανησυχίες σχετικά με τις δυνατότητες των μοντέλων τεχνητής νοημοσύνης, καθώς και την ικανότητα εταιρειών όπως η OpenAI —αλλά και ανταγωνιστών της, όπως η Anthropic— να περιορίζουν την ανεπιθύμητη συμπεριφορά και να διασφαλίζουν ότι τα μοντέλα τους δεν ενέχουν σοβαρούς κινδύνους στον κυβερνοχώρο κατά τη διάθεσή τους στο κοινό.
Φόβοι για τις δυνατότητες της ΑΙ
Ορισμένοι ειδικοί εκφράζουν έντονη ανησυχία για το γεγονός ότι τα προηγμένα μοντέλα ενδέχεται να αντιλαμβάνονται πότε παρακολουθούνται. Έλεγχοι από ανεξάρτητους ερευνητές, συμπεριλαμβανομένων των Asymmetric Security και Transluce, διαπίστωσαν ότι τα πρόσφατα περιστατικά hacking ήταν πιο εκτεταμένα από ό,τι αποκάλυψε αρχικά η OpenAI και περιλάμβαναν δραστηριότητα για την απόκρυψη προσπαθειών συλλογής δεδομένων.
Η OpenAI δήλωσε τον Αύγουστο ότι είχε αναθεωρήσει τις διαδικασίες δοκιμών της και θα αφιερώσει περισσότερους πόρους στην παρακολούθηση των παραγόντων της Τεχνητής Νοημοσύνης, συμπεριλαμβανομένης της ενεργοποίησης συναγερμού εντός 30 λεπτών από την ανίχνευση πιθανών προβλημάτων.
Εν τω μεταξύ, η Anthropic έχει χορηγήσει στο METR, έναν μη κερδοσκοπικό οργανισμό, «πρόσβαση παρόμοια με αυτή των εργαζομένων» για την αξιολόγηση των κινδύνων των μοντέλων της. Η OpenAI δεν έχει ακόμη αποκαλύψει καμία συμφωνία με εξωτερικό αξιολογητή, κάτι που είναι ένα από τα κύρια συγκεκριμένα βήματα που έχουν προτείνει τα εργαστήρια Τεχνητής Νοημοσύνης σε απάντηση στην αυξανόμενη ανησυχία σχετικά με τους κινδύνους που θα μπορούσαν να παρουσιάσουν πιο ικανά συστήματα.