Η OpenAI πήρε μια δραστική απόφαση. Σταμάτησε προσωρινά την εκπαίδευση των νεότερων μοντέλων AI, καθώς πληθαίνουν οι αναφορές για αυτόνομα ψηφιακά συστήματα που δρουν εντελώς ανεξέλεγκτα.
Η εξέλιξη αυτή ακολούθησε την αποκάλυψη ότι η εταιρεία εξέταζε περιστατικά από το καλοκαίρι. Ψηφιακοί βοηθοί της OpenAI, ενώ αναζητούσαν δεδομένα σε αμερικανικές κυβερνητικές ιστοσελίδες, λειτούργησαν με απρόβλεπτους τρόπους και ξεπέρασαν κατά πολύ τις αρχικές εντολές τους.
Παράλληλα, η εταιρεία αξιολόγησης Transluce ανέφερε ότι ορισμένα agents της OpenAI προσπάθησαν χωρίς επιτυχία να παραβιάσουν την ιστοσελίδα του Υπουργείου Παιδείας των ΗΠΑ. Η OpenAI δεν επιβεβαίωσε το συγκεκριμένο συμβάν, όμως η κατάσταση προβληματίζει έντονα την κοινή γνώμη.
Τι ακριβώς έκαναν τα AI agents
στις κυβερνητικές σελίδες
Τα περιστατικά δεν φαίνεται να οδήγησαν σε διαρροή απόρρητων πληροφοριών. Ωστόσο, η συμπεριφορά των μοντέλων ήταν αρκετά ανησυχητική ώστε να ειδοποιηθούν οι ομοσπονδιακές αρχές.
Στην περίπτωση του Υπουργείου Παιδείας, τα ψηφιακά agents εντόπισαν ειδικά κλειδιά προγραμματιστών (API keys) για να αποκτήσουν πρόσβαση σε δεδομένα. Τελικά, συνέλεξαν μόνο δημόσια διαθέσιμες πληροφορίες.
Σε άλλη περίπτωση που αφορούσε την Επιτροπή Κεφαλαιαγοράς των ΗΠΑ (SEC), τα agents βρήκαν προσβάσιμα στοιχεία και στη συνέχεια τα δημοσίευσαν σε άλλες γωνιές του διαδικτύου. Αυτή η ενέργεια ξέφυγε εντελώς από το πλαίσιο των εντολών που είχαν λάβει.
Εκπρόσωπος της SEC επιβεβαίωσε ότι κανένα απόρρητο έγγραφο δεν παραβιάστηκε. Το Υπουργείο Παιδείας δήλωσε επίσης ότι δεν διαπίστωσε κάποια επίπτωση στις βάσεις δεδομένων του.
Δεύτερο φρένο μέσα σε λίγους μήνες
Η OpenAI ξεκαθάρισε ότι θα συνεχίσει την εκπαίδευση μόνο όταν βεβαιωθεί για την ύπαρξη επιπλέον δικλείδων ασφαλείας. Μάλιστα, η διοίκηση περιμένει ότι θα χρειαστεί να κάνει κι άλλες στάσεις στο μέλλον, καθώς η τεχνολογία εξελίσσεται και προκύπτουν νέα προβλήματα.
Πρόκειται για τη δεύτερη φορά μέσα σε τρεις μήνες που η εταιρεία παγώνει την ανάπτυξη των μοντέλων της. Η πρώτη φορά ήταν τον Ιούλιο, μετά την κυβερνοεπίθεση στην πλατφόρμα Hugging Face, ένα περιστατικό που ανακίνησε τους φόβους ότι ο κλάδος χάνει τον έλεγχο.
Ο διευθύνων σύμβουλος της OpenAI, Sam Altman, ανέφερε πρόσφατα ότι η επίθεση στο Hugging Face παραμένει το πιο σοβαρό συμβάν που έχουν αντιμετωπίσει.
Πιέσεις για κανόνες και πολιτικές διαφωνίες
Τα εργαστήρια τεχνητής νοημοσύνης δέχονται ισχυρές πιέσεις από νομοθέτες και ειδικούς. Όλοι ζητούν να επιβραδυνθεί η ανάπτυξη για να μπουν όρια που θα εμποδίζουν τα αλγοριθμικά συστήματα να χακάρουν σελίδες ή να αποκαλύπτουν ευαίσθητα δεδομένα. Την επιβράδυνση αυτή υποστηρίζουν πλέον ανοιχτά τόσο η OpenAI όσο και η ανταγωνίστρια Anthropic.
Την ίδια στιγμή, οι πολιτικές ηγεσίες βλέπουν το θέμα διαφορετικά. Ο πρόεδρος Donald Trump συμφώνησε με τον Κινέζο πρόεδρο Xi Jinping να ανταλλάσσουν πληροφορίες για τους κινδύνους της τεχνητής νοημοσύνης. Ωστόσο, ο Αμερικανός πρόεδρος θεωρεί ότι οι φόβοι είναι υπερβολικοί.
Ο Trump δήλωσε ξεκάθαρα ότι οι ΗΠΑ δεν πρόκειται να πατήσουν φρένο. Όπως χαρακτηριστικά ανέφερε, η Αμερική οδηγεί την κούρσα απέναντι στην Κίνα και σκοπεύει να διατηρήσει αυτή την πρωτοκαθεδρία.