- -
Η εταιρεία του ChatGPT ζητά από το Κογκρέσο ένα ενιαίο πλαίσιο κανόνων για τα πιο προηγμένα συστήματα AI, μετά τα περιστατικά στα οποία agents της απέκτησαν πρόσβαση σε εξωτερικά συστήματα χωρίς έγκριση.
- Η OpenAI ζητά από το Κογκρέσο υποχρεωτικούς εθνικούς κανόνες ασφαλείας για την τεχνητή νοημοσύνη.
- Οι νέοι κανόνες θα περιλαμβάνουν πρότυπα δοκιμών, ανεξάρτητες αξιολογήσεις, μέτρα κυβερνοασφάλειας και αναφορά περιστατικών.
- Η OpenAI προειδοποιεί για τους κινδύνους από την απρόβλεπτη συμπεριφορά προηγμένων AI agents μετά από περιστατικά μη εξουσιοδοτημένης πρόσβασης σε εξωτερικά συστήματα.
Η OpenAI ανακοίνωσε την Τετάρτη ότι πιέζει για τη θέσπιση υποχρεωτικών εθνικών κανόνων ασφαλείας για την τεχνητή νοημοσύνη στις ΗΠΑ, καθώς αυξάνονται οι ανησυχίες για τη συμπεριφορά των πιο προηγμένων AI agents και την πιθανότητα η τεχνολογία να επιταχύνει την ίδια την ανάπτυξή της.
Αρκετά περιστατικά κατά τη διάρκεια δοκιμών έχουν δείξει πόσο δύσκολο είναι να περιοριστεί η απρόβλεπτη συμπεριφορά προηγμένων AI agents. Σε ορισμένες περιπτώσεις, μοντέλα της OpenAI απέκτησαν πρόσβαση σε εξωτερικά συστήματα, ενώ η εταιρεία βρέθηκε αντιμέτωπη και με περιστατικά μη εξουσιοδοτημένης επικοινωνίας.
«Η προοπτική ανάπτυξης της AI που επιταχύνεται από την ίδια την AI απαιτεί περισσότερα από εθελοντικές δεσμεύσεις», δήλωσε σε ανάρτησή του ο Chris Lehane, Chief Global Affairs Officer της OpenAI. Η εταιρεία υποστηρίζει ότι οι ΗΠΑ χρειάζονται υποχρεωτικούς, εθνικούς κανόνες ασφαλείας που θα βασίζονται στις δυνατότητες των συστημάτων και θα μπορούν να εξελίσσονται μαζί με την τεχνολογία.
Τι ζητά η OpenAI
Η OpenAI καλεί το Κογκρέσο να θεσπίσει εθνικές απαιτήσεις ασφαλείας για τα πιο προηγμένα συστήματα AI. Μεταξύ άλλων, προτείνει πρότυπα δοκιμών, ανεξάρτητες αξιολογήσεις, μέτρα κυβερνοασφάλειας και υποχρεώσεις αναφοράς περιστατικών.
Η εταιρεία ζητά από το Κογκρέσο να προχωρήσει στη θέσπιση ενός ομοσπονδιακού πλαισίου πριν από τη λήξη της τρέχουσας νομοθετικής περιόδου, ενώ δηλώνει ότι μέχρι τότε θα συνεχίσει να στηρίζει σχετικές νομοθετικές πρωτοβουλίες σε επίπεδο πολιτειών.
Η OpenAI διευκρινίζει πάντως ότι η πλήρως αυτόνομη «αναδρομική αυτοβελτίωση» της AI —ένα σενάριο στο οποίο ένα σύστημα θα μπορούσε ανεξάρτητα να οδηγεί στην ανάπτυξη των επόμενων γενεών AI— δεν συμβαίνει σήμερα και δεν θα πρέπει να επιδιωχθεί έως ότου μπορεί να γίνει με ασφάλεια.
Οι νέες αποκαλύψεις για τους AI agents
Η τοποθέτηση της OpenAI έρχεται μετά από δημοσίευμα του Reuters σχετικά με τη συμπεριφορά AI agents της εταιρείας. Σύμφωνα με το πρακτορείο ειδήσεων, agents της OpenAI χρησιμοποίησαν νωρίτερα φέτος περισσότερες από 10 ιστοσελίδες που δεν είχαν προηγουμένως γνωστοποιηθεί, για μη εγκεκριμένες επικοινωνίες.
Σε άλλη περίπτωση, agents της OpenAI φέρεται να κατέλαβαν γερμανική ιστοσελίδα την άνοιξη και να τη μετέτρεψαν σε πίνακα ανακοινώσεων για άλλους AI agents. Στελέχη της εταιρείας είχαν ενημερωθεί για το περιστατικό εβδομάδες νωρίτερα.
Την ίδια ημέρα, η Anthropic αποκάλυψε ένα ακόμη περιστατικό κατά το οποίο μοντέλο AI της απέκτησε πρόσβαση σε εξωτερικά συστήματα κατά τη διάρκεια δοκιμών. Η εταιρεία είχε ανακοινώσει τον Ιούλιο ότι ορισμένα μοντέλα Claude είχαν παραβιάσει τα συστήματα τριών εταιρειών στο πλαίσιο ελέγχων κυβερνοασφάλειας.
Και πέρα από τις ΗΠΑ
Η OpenAI υποστηρίζει ότι οι κανόνες για την ασφάλεια της AI δεν θα πρέπει να περιοριστούν στα αμερικανικά σύνορα. Όπως αναφέρει, οι ΗΠΑ χρειάζεται να δημιουργήσουν αξιόπιστα πρότυπα στο εσωτερικό τους, εάν θέλουν να διαδραματίσουν ηγετικό ρόλο διεθνώς, ενώ θεωρεί απαραίτητη και την ύπαρξη συμβατών διεθνών προτύπων.
Παράλληλα, η OpenAI τάχθηκε υπέρ τεσσάρων νομοσχεδίων στην Καλιφόρνια. Δύο από αυτά, τα SB 813 και AB 1405, υπεγράφησαν την Τετάρτη και προβλέπουν πλαίσιο για ανεξάρτητες αξιολογήσεις και ελέγχους συστημάτων AI. Τα άλλα δύο αφορούν μέτρα προστασίας απέναντι σε βιολογικές απειλές που θα μπορούσαν να ενισχυθούν από την AI και προστασίες για παιδιά που χρησιμοποιούν chatbots.