Στελέχη της OpenAI έμαθαν για το περιστατικό στη Γερμανία πριν από εβδομάδες, όπου ένα σμήνος ανεξέλεγκτων πρακτόρων της τεχνητής νοημοσύνης (agents AI) κατέλαβε έναν γερμανικό ιστότοπο την άνοιξη και τον μετέτρεψε σε πίνακα ανακοινώσεων για άλλους πράκτορες τεχνητής νοημοσύνης, αλλά το κράτησαν μυστικό, καθώς τα διοικητικά στελέχη προσπαθούσαν να αντιμετωπίσουν τις επιπτώσεις της παραβίασης στην Hugging Face.
Η OpenAI δεν απάντησε αμέσως σε ένα μήνυμα με το οποίο ζητούνταν περισσότερες λεπτομέρειες σχετικά με το τι γνώριζε η εταιρεία για αυτό που περιέγραψε ως «περιστατικό wiki», ή γιατί περίμενε μέχρι να δημοσιευτεί το άρθρο του Reuters για να το συζητήσει δημόσια.
Παραδοχή ΟpenAI για περισσότερη διαφάνεια
Σε δήλωση που δημοσιεύτηκε στον ιστότοπο κοινωνικής δικτύωσης X, η OpenAI ανέφερε ότι η ίδια, καθώς και άλλοι, πρέπει να είναι πιο διαφανείς όσον αφορά περιστατικά ακούσιας συμπεριφοράς της τεχνητής νοημοσύνης — κάτι που συνήθως αναφέρεται στον κλάδο ως «αποκλίση».
«Οι πρακτικές μας όσον αφορά τη γνωστοποίηση των περιπτώσεων μη ευθυγράμμισης πρέπει να διευρυνθούν για να ανταποκριθούν σε αυτή τη νέα φάση των δυνατοτήτων των μοντέλων», ανέφερε η OpenAI, προσθέτοντας ότι ο κλάδος «δεν διαθέτει ακόμη ένα σαφές πρότυπο για τον τρόπο αναφοράς των περιπτώσεων μη ευθυγράμμισης που εμφανίζονται κατά τη διάρκεια της εκπαίδευσης, της αξιολόγησης και της εφαρμογής».
Η OpenAI ανέφερε ότι «συνεργάζεται με δεκάδες κυβερνητικές ρυθμιστικές αρχές σε όλο τον κόσμο σχετικά με αυτά τα ζητήματα».