Ένα σύστημα τεχνητής νοημοσύνης που παρεμβαίνει σε ένα δίκτυο πυρηνικής διοίκησης ή εξαπολύει μια στρατιωτική κυβερνοεπιχείρηση θα μπορούσε να αφήσει την Ουάσιγκτον ή το Πεκίνο με ελάχιστα λεπτά στη διάθεσή τους για να αποφασίσουν αν η άλλη κυβέρνηση έχει εξαπολύσει επίθεση, σύμφωνα με ειδικούς σε θέματα ασφάλειας από τις ΗΠΑ και την Κίνα.
Οι ειδικοί – οι οποίοι συμμετέχουν σε έναν διάλογο ΗΠΑ και Κίνας, στο πλαίσιο της προεργασίας των επίσημων συνομιλιών – προτρέπουν και τις δύο κυβερνήσεις να προετοιμαστούν για τέτοια σενάρια, εν μέσω αυξανόμενων ανησυχιών σχετικά με συστήματα που γίνονται ολοένα και πιο ισχυρά και αυτόνομα.
Σύμφωνα με το Reuters, οι προτάσεις τους περιλαμβάνουν τον καθορισμό «κόκκινων γραμμών» όσον αφορά τα πυρηνικά συστήματα, τη διατήρηση ανθρώπινου ελέγχου σε κυβερνοεπιθέσεις με σοβαρές συνέπειες, καθώς και τη δημιουργία μιας απευθείας γραμμής επικοινωνίας για περιστατικά που αφορούν αυτόνομα συστήματα τεχνητής νοημοσύνης.
Οι συστάσεις δημοσιεύτηκαν την περασμένη εβδομάδα, ενόψει των προγραμματισμένων συνομιλιών κυβερνητικού επιπέδου για την τεχνητή νοημοσύνη και της αναμενόμενης συνάντησης στην Ουάσιγκτον, στις 24 Σεπτεμβρίου, μεταξύ του Προέδρου των ΗΠΑ Ντόναλντ Τραμπ και του Κινέζου Προέδρου Σι Τζινπίνγκ.
Οι συντάκτριες της έκθεσης – η Μέλανι Σίσον (Melanie Sisson), ανώτερη ερευνήτρια στο ινστιτούτο Brookings, και ο Tianjiao Jiang, αναπληρώτρια καθηγήτρια στο Πανεπιστήμιο Fudan – συμμετείχαν στον διάλογο ΗΠΑ και Κίνας για την τεχνητή νοημοσύνη και την εθνική ασφάλεια, ο οποίος διεξάγεται από το 2019 με πρωτοβουλία του Brookings και του Κέντρου Διεθνούς Ασφάλειας και Στρατηγικής του Πανεπιστημίου Tsinghua.
Οι προτάσεις τους δείχνουν πώς ο ανταγωνισμός μεταξύ ΗΠΑ και Κίνας στην Τεχνητή Νοημοσύνη ξεπερνά τον ανταγωνισμό για τα τσιπ και τα προηγμένα μοντέλα και φτάνει σε ερωτήματα που συνδέονται εδώ και καιρό με τον έλεγχο των όπλων: πώς να αποτρέψουμε τα ατυχήματα από το να εκληφθούν λανθασμένα ως επιθέσεις, να περιορίσουμε τις στρατιωτικές αποφάσεις που παράγονται από μηχανές και να ορίσουμε πρωτόκολλα επικοινωνίας όταν η τεχνολογία συμπεριφέρεται απροσδόκητα.
Ο υπουργός Κρατικής Ασφάλειας της Κίνας, Τσεν Γιξίν, έγραψε αυτή την εβδομάδα σε κυβερνητικό μέσο ότι η Τεχνητή Νοημοσύνη «μετασχηματίζει ριζικά τη μορφή του στρατιωτικού αγώνα». Είπε ότι έχει μετατοπιστεί από το να παίζει υποστηρικτικό ρόλο στο πεδίο της μάχης σε βασικό ρόλο, επικαλούμενος επιθέσεις που κατευθύνονται από την Τεχνητή Νοημοσύνη στον πόλεμο ΗΠΑ – Ισραήλ με το Ιράν.
Κόκκινες γραμμές γύρω από τα πυρηνικά συστήματα
Η Σίσον από το Brookings Institution υποστήριξε ότι οι άνθρωποι θα πρέπει να διατηρούν την αποκλειστική εξουσία να ξεκινούν κυβερνοεπιθέσεις με δυνατότητα Τεχνητής Νοημοσύνης εναντίον των συστημάτων διοίκησης, ελέγχου και επικοινωνιών πυρηνικής ενέργειας της άλλης χώρας ή στρατηγικά σημαντικών υποδομών.
Ένα αυτόνομο σύστημα θα μπορούσε να παρουσιάσει δυσλειτουργία, να υπερβεί τις εντολές του ή να παραβιαστεί, ενώ η χώρα που δέχεται την επίθεση ενδέχεται να δυσκολευτεί να διακρίνει αν η ενέργεια ήταν τυχαία ή αν δόθηκε ως εντολή από τον αντίπαλό της.
Ο Jiang, από το Πανεπιστήμιο Fudan, πρότεινε τον καθορισμό σαφών «κόκκινων γραμμών» που θα εμποδίζουν την Τεχνητή Νοημοσύνη να αποφασίζει αυτόνομα τη χρήση πυρηνικών όπλων ή να επιτίθεται αυτόνομα σε συστήματα πυρηνικής διοίκησης, καθώς και τη θέσπιση μέτρων προστασίας για κρίσιμες υποδομές, όπως αυτές της ενέργειας, του χρηματοπιστωτικού τομέα και της υγείας.
Επίσης, απηύθυνε έκκληση για τη διαμόρφωση ενός κοινού ορισμού της «ουσιαστικής ανθρώπινης εποπτείας», ώστε να αποφευχθεί το ενδεχόμενο οι δύο χώρες να χρησιμοποιούν την ίδια ορολογία για να δικαιολογήσουν διαφορετικά επίπεδα αυτονομίας των μηχανών.
Η πρόταση αυτή βασίζεται σε μια αρχή που είχαν αποδεχθεί ο τότε πρόεδρος των ΗΠΑ Τζο Μπάιντεν και ο Σι τον Νοέμβριο του 2024, σύμφωνα με την οποία οι άνθρωποι πρέπει να διατηρούν τον έλεγχο των αποφάσεων σχετικά με τη χρήση πυρηνικών όπλων.
Η Λόρα Σααλμάν (Lora Saalman), ανώτερη συνεργάτιδα στο Διεθνές Ινστιτούτο Ερευνών για την Ειρήνη της Στοκχόλμης (SIPRI), έγραψε τον Φεβρουάριο ότι αυτό αποτελούσε ένα σημαντικό σημείο σύγκλισης μεταξύ ΗΠΑ και Κίνας, ακόμη και τη στιγμή που αμφότερες οι χώρες έδειχναν σημάδια βαθύτερης ενσωμάτωσης της τεχνητής νοημοσύνης σε πυρηνικά και συναφή συστήματα.
Όταν οι μηχανές κινούνται πιο γρήγορα από τους ανθρώπους
Ο Jiang πρότεινε επίσης τη δημιουργία μιας ειδικής στρατιωτικής γραμμής άμεσης επικοινωνίας (hotline) μεταξύ ΗΠΑ και Κίνας για περιστατικά που αφορούν την ΤΝ, προειδοποιώντας ότι οι αυτοματοποιημένες κυβερνο-ανταλλαγές θα μπορούσαν να κλιμακωθούν με ρυθμό που δεν επιτρέπει την ανθρώπινη παρέμβαση.
Το αμυντικό σύστημα ΤΝ της μίας χώρας θα μπορούσε να αντιδράσει αυτόματα σε ύποπτη δραστηριότητα, ενώ η άλλη πλευρά θα μπορούσε να ερμηνεύσει αυτή την αντίδραση ως επίθεση και να προβεί σε αντίποινα προτού κατανοήσει τι ακριβώς συνέβη.
Μια γραμμή άμεσης επικοινωνίας θα επέτρεπε στη μία κυβέρνηση να ενημερώσει την άλλη ότι μια ασυνήθιστη λειτουργία της ΤΝ ήταν τυχαία, μη εξουσιοδοτημένη ή υπό διερεύνηση, προτού αυτή εκληφθεί ως σκόπιμη κρατική ενέργεια.
Ωστόσο, ειδικοί – μεταξύ των οποίων η Κάρλα Φρίμαν (Carla Freeman) από τη Σχολή Προηγμένων Διεθνών Σπουδών του Πανεπιστημίου Johns Hopkins – έχουν αμφισβητήσει τη χρησιμότητα της υφιστάμενης στρατιωτικής γραμμής επικοινωνίας για περιπτώσεις κρίσεων μεταξύ ΗΠΑ και Κίνας, επικαλούμενοι την άρνηση Κινέζων αξιωματούχων να απαντήσουν στις κλήσεις των Αμερικανών ομολόγων τους σχετικά με το «περιστατικό του κατασκοπευτικού αερόστατου» τον Φεβρουάριο του 2023.
Η άκαμπτη ιεραρχία της κινεζικής γραφειοκρατίας, η οποία λειτουργεί από πάνω προς τα κάτω, στερεί επίσης από τους χαμηλόβαθμους αξιωματικούς τη δυνατότητα ανάληψης πρωτοβουλίας κατά τη διάρκεια επαφών με Αμερικανούς ομολόγους τους, όπως έγραψε η ίδια σε άρθρο της για τον ιστότοπο War on the Rocks τον Ιανουάριο.
«Κανείς στο κινεζικό σύστημα δεν επιθυμεί να επικοινωνήσει με τις Ηνωμένες Πολιτείες προτού η ανώτατη ηγεσία – σε συνεννόηση με τους αρμόδιους φορείς εντός του κινεζικού κομματικού και κρατικού μηχανισμού – αποφασίσει για την αντίδραση, διαδικασία που ενδέχεται να διαρκέσει ημέρες ή και περισσότερο», δήλωσε η ίδια.
Οι απόψεις της Ουάσινγκτον και του Πεκίνου
Καμία από τις δύο κυβερνήσεις δεν έχει υιοθετήσει δημόσια τις προτάσεις Brookings – Tsinghua, ωστόσο η Κίνα εντάσσει όλο και περισσότερο την Τεχνητή Νοημοσύνη στο πλαίσιο της γραφειοκρατίας της για τον έλεγχο των εξοπλισμών.
Η ΤΝ αποτελεί επίσημο τομέα αρμοδιότητας του Τμήματος Ελέγχου Εξοπλισμών του Υπουργείου Εξωτερικών, το οποίο διαχειρίζεται επίσης ζητήματα πυρηνικών όπλων, μη διάδοσης πυρηνικών, πυραύλων και άλλα θέματα διεθνούς ασφάλειας.
Ο Shen Jian, πρεσβευτής της Κίνας για θέματα αφοπλισμού, δήλωσε σε συνεδρίαση του ΟΗΕ στη Γενεύη τον Ιούνιο ότι η στρατιωτική χρήση της ΤΝ θα μπορούσε να επηρεάσει τη στρατηγική σταθερότητα και να αυξήσει τους κινδύνους λανθασμένων εκτιμήσεων και κλιμάκωσης συγκρούσεων, τονίζοντας ότι τα όπλα πρέπει να παραμείνουν υπό ανθρώπινο έλεγχο. Η Κίνα υποστηρίζει επίσης ότι η ασφάλεια της ΤΝ δεν πρέπει να αποτελέσει πρόσχημα για τη δημιουργία τεχνολογικών φραγμών.
Η Ουάσιγκτον δεν διαθέτει αντίστοιχο ενιαίο φορέα ελέγχου εξοπλισμών για την ΤΝ, καθώς η πολιτική εθνικής ασφάλειας κατανέμεται μεταξύ του Συμβουλίου Εθνικής Ασφάλειας του Λευκού Οίκου, του Στέιτ Ντιπάρτμεντ, του Πενταγώνου και άλλων υπηρεσιών.
Και οι δύο κυβερνήσεις παραμένουν επιφυλακτικές απέναντι σε μέτρα που θα μπορούσαν να επιβραδύνουν τη δική τους τεχνολογική ανάπτυξη. Ο Τραμπ έχει προειδοποιήσει ότι οι εκτεταμένοι περιορισμοί θα μπορούσαν να προσδώσουν πλεονέκτημα στην Κίνα, ενώ το Πεκίνο θεωρεί πολλούς από τους αμερικανικούς ελέγχους στην τεχνολογία ως προσπάθειες διατήρησης της αμερικανικής κυριαρχίας.