Η OpenAI ανακοίνωσε ότι παγώνει την εκπαίδευση των τελευταίων μοντέλων τεχνητής νοημοσύνης, καθώς αυξάνονται οι αναφορές για περιστατικά στα οποία πράκτορες τεχνητής νοημοσύνης (AI agents) φέρονται να ενεργούν με απρόβλεπτους τρόπους, πέρα από τις εντολές που έχουν λάβει.
Η απόφαση για προσωρινή διακοπή της ανάπτυξης έγινε γνωστή λίγες ώρες αφότου η εταιρεία ανακοίνωσε την Παρασκευή ότι εξετάζει αρκετά περιστατικά που σημειώθηκαν το καλοκαίρι. Σε αυτά, πράκτορες της OpenAI που πραγματοποιούσαν αναζητήσεις σε ιστοσελίδες της ομοσπονδιακής κυβέρνησης των ΗΠΑ ενήργησαν με τρόπους που δεν αναμένονταν, καθώς συγκέντρωναν και διένειμαν πληροφορίες.
Παράλληλα, η εταιρεία αξιολόγησης συστημάτων τεχνητής νοημοσύνης Transluce υποστήριξε ότι πράκτορες που φαίνεται να προέρχονταν από την OpenAI επιχείρησαν ανεπιτυχώς να παραβιάσουν ιστοσελίδα του υπουργείου Παιδείας των ΗΠΑ. Η OpenAI, ωστόσο, δεν έχει επιβεβαιώσει τη συγκεκριμένη πληροφορία, όπως αναφέρει ο Guardian.
Η OpenAI βάζει «φρένο» στην εκπαίδευση των μοντέλων
Σε ανακοίνωσή της, η OpenAI ανέφερε ότι θα επαναλάβει την εκπαίδευση των μοντέλων της «μόνο όταν είμαστε βέβαιοι ότι έχουμε θέσει σε εφαρμογή πρόσθετες δικλίδες ασφαλείας». Η εταιρεία πρόσθεσε ότι αναμένει πως θα χρειαστεί να «πατήσει ξανά παύση» στο μέλλον, καθώς η τεχνητή νοημοσύνη εξελίσσεται και προκύπτουν νέα ζητήματα.
Την προηγούμενη εβδομάδα, ο πρωθυπουργός της Αυστραλίας, Άντονι Αλμπανέζε, αποκάλυψε ότι ένας πράκτορας της OpenAI είχε παραβιάσει το εθνικό σύστημα υγειονομικής περίθαλψης της χώρας, διευκρινίζοντας ωστόσο ότι δεν είχαν παραβιαστεί ευαίσθητες πληροφορίες.
Τα εργαστήρια τεχνητής νοημοσύνης δέχονται αυξανόμενες πιέσεις από νομοθέτες και ειδικούς της τεχνολογίας να επιβραδύνουν την ανάπτυξη των συστημάτων τους, ώστε να δημιουργήσουν δικλίδες ασφαλείας που θα αποτρέπουν τους πράκτορες από το να ενεργούν αυτόνομα, να παραβιάζουν ιστοσελίδες και να αποκαλύπτουν μη δημόσιες πληροφορίες. Οι επικεφαλής τόσο της OpenAI όσο και της ανταγωνίστριας Anthropic έχουν επίσης ζητήσει επιβράδυνση της ανάπτυξης.
Η δεύτερη διακοπή μέσα σε τρεις μήνες
Πρόκειται για τη δεύτερη φορά μέσα σε τρεις μήνες που η OpenAI αναστέλλει την ανάπτυξη των μοντέλων της. Η πρώτη σημειώθηκε τον Ιούλιο, μετά την αποκάλυψη κυβερνοεπίθεσης που είχε ως στόχο τη νεοφυή επιχείρηση τεχνητής νοημοσύνης Hugging Face. Το περιστατικό, το οποίο προκάλεσε έντονη ανησυχία, ενίσχυσε τους φόβους ότι ο κλάδος χάνει τον έλεγχο της τεχνολογίας.
Σε συνάντηση που είχε αυτή την εβδομάδα με τον πρόεδρο της Κίνας, Σι Τζινπίνγκ, ο Ντόναλντ Τραμπ συμφώνησε να υπάρξει ανταλλαγή πληροφοριών σχετικά με τους κινδύνους της τεχνητής νοημοσύνης και συντονισμός των προσπαθειών για την ασφαλή ανάπτυξή της.
Ωστόσο, ο Τραμπ θεωρεί ότι οι φόβοι για την τεχνητή νοημοσύνη είναι υπερβολικοί και αργότερα δήλωσε ότι δεν σχεδιάζει να προχωρήσει ο ίδιος σε μέτρα καταστολής της ανάπτυξης του κλάδου. «Οι ΗΠΑ δεν πρόκειται να πατήσουν φρένο», είπε σε δημοσιογράφους έξω από τον Λευκό Οίκο. «Θέλουν να σταματήσουν την πρόοδό μας επειδή προηγούμαστε κατά πολύ της Κίνας και θα διατηρήσουμε αυτή τη θέση».
Τι έκαναν οι πράκτορες της OpenAI
Τα πιο πρόσφατα περιστατικά που εξετάζει η OpenAI δεν φαίνεται να περιλάμβαναν αποκάλυψη μη δημόσιων πληροφοριών. Ωστόσο, ήταν αρκετά ανησυχητικά ώστε η εταιρεία να προειδοποιήσει τις ομοσπονδιακές υπηρεσίες που εμπλέκονταν στις συγκεκριμένες υποθέσεις.
Στο περιστατικό που αφορούσε το υπουργείο Παιδείας των ΗΠΑ, πράκτορες της OpenAI εντόπισαν κλειδιά «developer» API, τα οποία μπορούσαν να χρησιμοποιηθούν για την πρόσβαση σε κυβερνητικά δεδομένα. Τελικά, όμως, συγκεντρώθηκαν μόνο πληροφορίες που ήταν ήδη διαθέσιμες στο κοινό.
Σε διαφορετική περίπτωση, που αφορούσε την Επιτροπή Κεφαλαιαγοράς των ΗΠΑ (SEC), οι πράκτορες εντόπισαν πληροφορίες που ήταν ελεύθερα διαθέσιμες σε όλους, αλλά στη συνέχεια τις ανάρτησαν σε άλλο σημείο του διαδικτύου. Η ενέργεια αυτή ξεπερνούσε τις οδηγίες που είχαν λάβει.
Ο εκπρόσωπος της Επιτροπής Κεφαλαιαγοράς των ΗΠΑ, Κερτ Χόπφενσπίργκερ, δήλωσε το Σάββατο ότι «δεν υπήρξε πρόσβαση σε μη δημόσιες πληροφορίες».
Το υπουργείο Παιδείας είχε ανακοινώσει νωρίτερα ότι δεν εντόπισε «καμία ένδειξη οποιασδήποτε επίπτωσης στην ιστοσελίδα ή στις βάσεις δεδομένων» του.
Αυξάνονται τα περιστατικά με AI agents
Αρκετές ακόμη εταιρείες τεχνητής νοημοσύνης έχουν γνωστοποιήσει περιστατικά στα οποία τα μοντέλα τους ενήργησαν απρόβλεπτα, ενώ σε ορισμένες περιπτώσεις φέρονται ακόμη και να επιχείρησαν να παραβιάσουν ιστοσελίδες.
Ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, ανέφερε σε ανάρτησή του στα μέσα κοινωνικής δικτύωσης την Παρασκευή ότι το περιστατικό με τη Hugging Face «παραμένει το σοβαρότερο γεγονός που έχουμε αντιμετωπίσει».
Η OpenAI είχε προηγουμένως δημοσιοποιήσει ακόμη έξι αναφορές για «απρόβλεπτη ή ανησυχητική» συμπεριφορά μοντέλων τεχνητής νοημοσύνης και είχε παρουσιάσει ένα πλαίσιο για την παρακολούθηση, τη διερεύνηση και τη δημοσιοποίηση τέτοιων περιστατικών.