Νομοσχέδιο που θα δίνει στην αμερικανική κυβέρνηση τη δυνατότητα να διατάσσει την άμεση απενεργοποίηση εργαλείων τεχνητής νοημοσύνης (AI), εφόσον θεωρηθούν απειλή για τη δημόσια ασφάλεια, κατέθεσαν στο Κογκρέσο δύο Αμερικανοί βουλευτές. Η πρωτοβουλία έρχεται μετά την πρόσφατη παραδοχή της OpenAI ότι μοντέλα τεχνητής νοημοσύνης της λειτούργησαν με «πρωτοφανή» τρόπο και απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε μεγάλο αποθετήριο πληροφοριών προγραμματιστικού κώδικα.
Το νομοσχέδιο, με την ονομασία AI Kill Switch Act, κατατέθηκε την Πέμπτη από τον Δημοκρατικό βουλευτή Τεντ Λίου και τον Ρεπουμπλικανό βουλευτή Νέιθανιελ Μόραν, οι οποίοι υποστηρίζουν ότι η ταχεία εξέλιξη της τεχνητής νοημοσύνης πρέπει να συνοδεύεται από μηχανισμούς άμεσης κρατικής παρέμβασης σε περιπτώσεις κινδύνου.
Τι προβλέπει το AI Kill Switch Act
Ο Τεντ Λίου δήλωσε ότι «είναι επιτακτική ανάγκη» τα συστήματα τεχνητής νοημοσύνης να διαθέτουν έναν «διακόπτη έκτακτης ανάγκης» και ότι η ομοσπονδιακή κυβέρνηση πρέπει να έχει «σαφή εξουσία και διαδικασία» για να απενεργοποιεί μοντέλα AI που λειτουργούν ανεξέλεγκτα.
Από την πλευρά του, ο Νέιθανιελ Μόραν τόνισε ότι η τεχνητή νοημοσύνη θα συνεχίσει να εξελίσσεται και αυτό είναι θετικό, όμως, όπως είπε, η υπεύθυνη διαχείρισή της σημαίνει ότι οι άνθρωποι πρέπει να διατηρούν τη δυνατότητα να ελέγχουν την τεχνολογία που δημιουργούν.
Η OpenAI, της οποίας ηγείται ο συνιδρυτής Σαμ Άλτμαν, δεν απάντησε άμεσα σε αίτημα για σχολιασμό. Η εταιρεία έχει δηλώσει ότι επιδιώκει, μεταξύ άλλων μέσω κυβερνητικών πολιτικών, να διασφαλίσει ότι η τεχνητή νοημοσύνη θα ωφελεί ολόκληρη την ανθρωπότητα.
Σύμφωνα με το προτεινόμενο νομοσχέδιο, το υπουργείο Εσωτερικής Ασφάλειας των ΗΠΑ θα αποκτήσει την εξουσία να διατάσσει ιδιωτικές εταιρείες να απενεργοποιούν ένα μοντέλο ή εργαλείο τεχνητής νοημοσύνης. Παράλληλα, οι εταιρείες που αναπτύσσουν τέτοιες τεχνολογίες θα υποχρεούνται να διατηρούν την τεχνική δυνατότητα περιορισμού, αναστολής λειτουργίας ή πλήρους απενεργοποίησής τους.
Υποχρεωτική αναφορά περιστατικών και σχέδιο αντιμετώπισης
Παρότι πολλές εταιρείες τεχνολογίας έχουν συμφωνήσει να παρουσιάζουν εκ των προτέρων στις αμερικανικές κυβερνητικές υπηρεσίες τα μοντέλα και τα εργαλεία τεχνητής νοημοσύνης που αναπτύσσουν, σήμερα δεν υπάρχει υποχρέωση να διαθέτουν μηχανισμό παρέμβασης ή πλήρους διακοπής της λειτουργίας τους.
Το νομοσχέδιο προβλέπει επίσης ότι οι εταιρείες AI θα πρέπει να ενημερώνουν υποχρεωτικά την κυβέρνηση για τεχνολογικά περιστατικά ή αστοχίες, ενώ θεσπίζεται επίσημο πλαίσιο διαχείρισης τέτοιων συμβάντων, με κλιμακωτή αντιμετώπιση που θα ξεκινά από επιβράδυνση της λειτουργίας των συστημάτων και θα μπορεί να καταλήγει σε πλήρη απενεργοποίησή τους.
Αναφορές στην Anthropic και τις δυνατότητες κυβερνοεπιθέσεων
Στη δήλωσή του, ο Τεντ Λίου αναφέρθηκε και στην Anthropic, βασική ανταγωνίστρια της OpenAI στην ανάπτυξη προηγμένων συστημάτων τεχνητής νοημοσύνης, επικαλούμενος πρόσφατα ζητήματα που σχετίζονται με τα εργαλεία της.
Ειδικότερα, έκανε λόγο για τα μοντέλα Mythos και Fable, υποστηρίζοντας ότι οι δυνατότητές τους στον τομέα των κυβερνοεπιθέσεων οδήγησαν το υπουργείο Εμπορίου των ΗΠΑ να ενεργοποιήσει, με τρόπο που χαρακτήρισε «άβολο», νομοθεσία περί εξαγωγών ώστε να αποτραπεί προσωρινά η διάθεσή τους στο κοινό.
Εκπρόσωπος της Anthropic επίσης δεν απάντησε άμεσα σε αίτημα για σχολιασμό.
«Η βιομηχανία της AI έχει γκάζι, αλλά όχι φρένο»
Ο συνιδρυτής της Anthropic, Τζακ Κλαρκ, είχε δηλώσει τον προηγούμενο μήνα στο BBC ότι επιθυμεί ισχυρότερο κυβερνητικό πλαίσιο για τον έλεγχο της ανάπτυξης της τεχνητής νοημοσύνης.
«Θέλεις να έχεις τη δυνατότητα να σηκώσεις το πόδι από το γκάζι και να το βάλεις στο φρένο. Αυτή τη στιγμή, η βιομηχανία της τεχνητής νοημοσύνης έχει πεντάλ γκαζιού, αλλά δεν διαθέτει πεντάλ φρένου», είχε χαρακτηριστικά αναφέρει.
Ο Τεντ Λίου υποστήριξε ακόμη ότι η τεχνητή νοημοσύνη μεταβαίνει πλέον από μια τεχνολογία που απαντά σε ερωτήσεις σε μία που αναλαμβάνει δράση, είτε πρόκειται για την εκτέλεση χρηματοοικονομικών συναλλαγών, είτε για τον έλεγχο συστημάτων μεταφορών, είτε για επιχειρήσεις κυβερνοάμυνας και κυβερνοεπιθέσεων.
Η χρήση της AI από τον αμερικανικό στρατό
Το Πεντάγωνο ανακοίνωσε φέτος ότι ο αμερικανικός στρατός εξελίσσεται σε δύναμη με προτεραιότητα στην τεχνητή νοημοσύνη («AI-first»), στο πλαίσιο νέων συμφωνιών με τις εταιρείες Google, OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia και τη νεοφυή εταιρεία Reflection.
Όπως επισήμανε ο Τεντ Λίου, «δυστυχώς, τα ισχυρά συστήματα τεχνητής νοημοσύνης μπορούν να λειτουργήσουν ανεξέλεγκτα, να επιδείξουν εξαιρετικά επικίνδυνη συμπεριφορά ή ακόμη και να αντισταθούν στην ανθρώπινη παρέμβαση».
Σύμφωνα με τον ίδιο, το AI Kill Switch Act θα διασφαλίσει ότι η κυβέρνηση θα διαθέτει έναν άμεσο μηχανισμό παρέμβασης σε μια τέτοια περίπτωση.
Το νομοσχέδιο έχει ήδη λάβει δημόσια υποστήριξη από αρκετές οργανώσεις που δραστηριοποιούνται στον τομέα της τεχνολογίας και της ασφάλειας της τεχνητής νοημοσύνης, μεταξύ των οποίων οι AI Policy Network, Americans for Responsible Innovation, ControlAI, AI and National Security Lead και Alliance for Secure AI.