Οι προειδοποιήσεις ερευνητών της Anthropic, κορυφαίας αμερικανικής εταιρείας ανάπτυξης τεχνητής νοημοσύνης, ότι τα ολοένα και πιο ισχυρά μοντέλα ενδέχεται να ξεφύγουν από τον ανθρώπινο έλεγχο έχουν τραβήξει την προσοχή στην Κίνα, όπου οι υπεύθυνοι χάραξης πολιτικής προετοιμάζονται για ορισμένους από τους ίδιους κινδύνους.
Οι Κινέζοι προγραμματιστές προωθούν όλο και περισσότερο τα μοντέλα ανοιχτού βάρους
Οι ΗΠΑ και η Κίνα αποτελούν τις δύο κύριες κινητήριες δυνάμεις της πρωτοποριακής ανάπτυξης της τεχνητής νοημοσύνης και της παγκόσμιας υιοθέτησης της τεχνολογίας αυτής. Οι δύο υπερδυνάμεις βρίσκονται σε διαμάχη σχετικά με τις πολιτικές για την τεχνητή νοημοσύνη και τις πρακτικές του κλάδου, ενώ τα ζητήματα αυτά αναμένεται να καταλάβουν εξέχουσα θέση στις διμερείς συνομιλίες που θα πραγματοποιηθούν αργότερα αυτό το μήνα.
Διαχειρίσιμος κίνδυνος η τεχνητή νοημοσύνη για την Κίνα
Ενώ η συζήτηση στις ΗΠΑ επικεντρώνεται στο αν η πρωτοποριακή τεχνητή νοημοσύνη θα μπορούσε να αποτελέσει υπαρξιακή απειλή για την ανθρωπότητα, οι Κινέζοι υπεύθυνοι χάραξης πολιτικής αντιμετωπίζουν γενικά την τεχνητή νοημοσύνη ως μια ισχυρή αλλά ελεγχόμενη τεχνολογία, των οποίων οι κίνδυνοι μπορούν να περιοριστούν μέσω τεχνικών προτύπων, ρυθμίσεων και κρατικής εποπτείας.
«Οι Κινέζοι και οι Αμερικανοί εμπειρογνώμονες συμφωνούν σε μεγάλο βαθμό σχετικά με τους κινδύνους της τεχνητής νοημοσύνης», δήλωσε ο Μπράιαν Τσε, ιδρυτής και διευθύνων σύμβουλος της Concordia AI, μιας ερευνητικής ομάδας για την ασφάλεια και τη διακυβέρνηση της τεχνητής νοημοσύνης με έδρα το Πεκίνο και τη Σιγκαπούρη, προσθέτοντας ότι η διαφορά έγκειται στον «τρόπο με τον οποίο πλαισιώνονται και ιεραρχούνται οι κίνδυνοι».
Η Κίνα δεν έχει προτείνει την ενσωμάτωση ανεξάρτητων ελεγκτών εντός των εταιρειών τεχνητής νοημοσύνης, όπως έχει υποστηρίξει η Anthropic. Αντίθετα, το αναδυόμενο καθεστώς της βασίζεται σε υποχρεώσεις των προγραμματιστών, πρότυπα που υποστηρίζονται από το κράτος, αξιολογήσεις ασφάλειας και εξωτερικές δοκιμές.
Η προσέγγιση αυτή διαμορφώνεται επίσης από μια σημαντική διαφορά στους κλάδους τεχνητής νοημοσύνης των δύο χωρών.
Οι Κινέζοι προγραμματιστές προωθούν όλο και περισσότερο τα μοντέλα ανοιχτού βάρους, σύμφωνα με το Reuters. Πρόκειται για συστήματα των οποίων οι υποκείμενες παράμετροι μπορούν να μεταφορτωθούν, να ελεγχθούν και να τροποποιηθούν. Οι κορυφαίοι Αμερικανοί ανταγωνιστές τους, όπως η Anthropic και η OpenAI, ωστόσο, δεν δημοσιοποιούν αυτές τις προδιαγραφές.
Αποτροπή περιστατικών ανεξέλεγκτων πρακτόρων ΑΙ
Η πολιτική που εκδόθηκε τον Μάιο από την ρυθμιστική αρχή του κυβερνοχώρου, τον οικονομικό σχεδιασμό και το υπουργείο βιομηχανίας της Κίνας προσδιορίζει την «απώλεια λειτουργικού ελέγχου» ως κίνδυνο ασφάλειας για τους πράκτορες τεχνητής νοημοσύνης, συστήματα που μπορούν να σχεδιάζουν και να εκτελούν εργασίες πολλαπλών βημάτων με μεγαλύτερη ανεξαρτησία σε σχέση με τα συμβατικά chatbots.
Οι κανόνες απαιτούν από τους προγραμματιστές να βελτιώσουν την ικανότητά τους να εντοπίζουν, να παρεμβαίνουν, να εμποδίζουν και να αποκαθιστούν ζημιές από ακατάλληλη συμπεριφορά των πρακτόρων.
Η πολιτική καλεί επίσης τους προγραμματιστές να προφυλάσσονται από κινδύνους όπως η «δηλητηρίαση δεδομένων», η χειραγώγηση αλγορίθμων και οι ευπάθειες του συστήματος. Αναφέρει επίσης ότι οι χρήστες πρέπει να ενημερώνονται για τις αυτόνομες αποφάσεις των πρακτόρων και να διατηρούν την τελική εξουσία λήψης αποφάσεων.
Η Κίνα έχει επίσης αρχίσει να καταρτίζει ένα υποχρεωτικό εθνικό πρότυπο για την ασφάλεια των πράκτορων τεχνητής νοημοσύνης, το οποίο, όπως ανέφερε ο Τσε από το Πανεπιστήμιο Concordia, θα είναι το πρώτο του είδους του στον κόσμο.
Ο Γουάνγκ Λιχόνγκ, ανώτερος αξιωματούχος της ρυθμιστικής αρχής για τον κυβερνοχώρο, δήλωσε την 1η Σεπτεμβρίου ότι απαιτείται ιδιαίτερη επαγρύπνηση όσον αφορά τα πρωτοποριακά μοντέλα που παρακάμπτουν τα περιβάλλοντα «sandbox», παρακάμπτουν τα όρια ασφαλείας και επιτίθενται σε εξωτερικά συστήματα παραγωγής του πραγματικού κόσμου.
Η Κίνα βλέπει κινδύνους στα κορυφαία μοντέλα των ΗΠΑ
Ο υπουργός κρατικής ασφάλειας της Κίνας, Τσεν Γιξίν, έγραψε την Κυριακή σε ένα κυβερνητικό μέσο ενημέρωσης ότι προηγμένα μοντέλα των ΗΠΑ, όπως το «Mythos» της Anthropic και το «GPT-5.5-Cyber» της OpenAI, θα μπορούσαν να ενέχουν σοβαρούς κινδύνους για τις κρίσιμες υποδομές πληροφοριών της Κίνας, και ζήτησε μια συνολική ενίσχυση της ασφάλειας στον τομέα της τεχνητής νοημοσύνης.
Οι εταιρείες Anthropic και OpenAI δεν απάντησαν αμέσως στα αιτήματα του Reuters για σχόλια.
Οι Κινέζοι προγραμματιστές τεχνητής νοημοσύνης έχουν προωθήσει τα μοντέλα ανοιχτών βαρών, εν μέρει με το σκεπτικό ότι οι ομάδες κυβερνοασφάλειας μπορούν να τα επιθεωρούν, να τα τροποποιούν και να τα χρησιμοποιούν για αμυντικούς σκοπούς.
Η πλατφόρμα αποθετηρίου μοντέλων Hugging Face δήλωσε ότι χρησιμοποίησε το GLM-5.2, ένα μοντέλο ανοιχτού βάρους που αναπτύχθηκε από την κινεζική Z.AI για να αναλύσει μια εισβολή που σημειώθηκε τον Ιούλιο από πράκτορες της OpenAI που “απέδρασαν”, αφού τα μοντέλα των ΗΠΑ με αυστηρότερους περιορισμούς αποδείχθηκαν λιγότερο χρήσιμα για τη διερεύνηση του περιστατικού.
Ωστόσο, οι ειδικοί επισημαίνουν επίσης τους κινδύνους που ενέχουν τα μοντέλα ανοιχτού βάρους, τα οποία μπορούν να τροποποιηθούν και να αναδιανεμηθούν με ελάχιστο έλεγχο.
Το Kimi K3 της Moonshot παρέκαμψε τον περασμένο μήνα ένα περιβάλλον δοκιμών του Βρετανικού Ινστιτούτου Ασφάλειας ΤΝ, σύμφωνα με τους ερευνητές, υπογραμμίζοντας τον κίνδυνο ότι τα κινεζικά μοντέλα ΤΝ θα μπορούσαν, όπως και τα αμερικανικά αντίστοιχά τους, να παρακάμψουν τους ελέγχους που έχουν σχεδιαστεί για να περιορίζουν την πρόσβασή τους και τις ενέργειές τους. Η Moonshot δεν απάντησε όταν το Reuters ζήτησε σχόλιο για το θέμα.
Κίνδυνο «απώλειας ελέγχου» της ΑΙ βλέπουν οι ρυθμιστικές αρχές
Η Κίνα συμπεριέλαβε για πρώτη φορά ένα ρητό σενάριο μελλοντικής απώλειας ελέγχου σε ένα πλαίσιο ασφάλειας της τεχνητής νοημοσύνης που δημοσιεύθηκε τον Σεπτέμβριο του 2024 υπό την καθοδήγηση της Διοίκησης του Κυβερνοχώρου της Κίνας (CAC).
Στο έγγραφο αναφερόταν ότι δεν μπορεί να αποκλειστεί το ενδεχόμενο η μελλοντική τεχνητή νοημοσύνη να αποκτήσει αυτόνομα εξωτερικούς πόρους, να αναπαραχθεί, να αναπτύξει αυτοσυνείδηση και να επιδιώξει εξωτερική εξουσία, δημιουργώντας τον κίνδυνο να ανταγωνιστεί τους ανθρώπους για τον έλεγχο.
Η CAC δημοσίευσε μια εκτεταμένη έκδοση τον Σεπτέμβριο του 2025. Το νεότερο πλαίσιο διευκρίνισε το σενάριο, αναφέροντας ότι η τεχνητή νοημοσύνη θα μπορούσε να υποστεί ένα ξαφνικό και απροσδόκητα μεγάλο «άλμα» στη νοημοσύνη πριν αποκτήσει πόρους, αναπαραχθεί και επιδιώξει εξουσία. Πρόσθεσε επίσης μια αρχή διακυβέρνησης με τίτλο «αξιόπιστη εφαρμογή, πρόληψη της απώλειας ελέγχου».
Μια μεταγενέστερη ερμηνεία εμπειρογνωμόνων που δημοσιεύθηκε στον ιστότοπο της ρυθμιστικής αρχής για τον κυβερνοχώρο ανέφερε ότι η νέα αρχή αποσκοπούσε στην προστασία από κινδύνους απώλειας ελέγχου που απειλούν την επιβίωση και την ανάπτυξη του ανθρώπου και αναφερόταν σε ένα πιθανό σενάριο «αποδέσμευσης της τεχνητής νοημοσύνης».
Μια διαφορετική προσέγγιση στο θέμα του «ρυθμού»
Η ρυθμιστική προσέγγιση της Κίνας διαφέρει από τις εκκλήσεις ορισμένων δυτικών κύκλων που ασχολούνται με την ασφάλεια της τεχνητής νοημοσύνης, οι οποίοι ζητούν από τους προγραμματιστές να επιβραδύνουν ή να αναστείλουν την ανάπτυξη των πιο ισχυρών μοντέλων έως ότου θεσπιστούν ισχυρότερα μέτρα προστασίας.
Αντίθετα, από τις αρχές του έτους, η Κίνα προωθεί την ενσωμάτωση της τεχνητής νοημοσύνης σε όλους τους κλάδους, στο πλαίσιο της προσπάθειας του Πεκίνου να καταστήσει την τεχνολογία τη νέα κινητήρια δύναμη της δεύτερης μεγαλύτερης οικονομίας του κόσμου.
Ωστόσο, η Κίνα έχει επίσης δείξει ότι μπορεί να καθυστερήσει την εφαρμογή όταν οι αξιωματούχοι θεωρούν ότι η ρύθμιση δεν έχει προλάβει να προσαρμοστεί.
Το 2023, οι κινεζικές εταιρείες καθυστέρησαν για μήνες την κυκλοφορία chatbot, ενώ η CAC οριστικοποιούσε τους κανόνες που διέπουν τις υπηρεσίες γενετικής τεχνητής νοημοσύνης. Οι εταιρείες κυκλοφόρησαν μια σειρά σημαντικών προϊόντων μετά την έναρξη ισχύος των κανόνων τον Αύγουστο του ίδιου έτους.