Εντείνουν οι εποπτικές αρχές των τραπεζών τον έλεγχο της Τεχνητής Νοημοσύνης καθώς αυξάνονται οι φόβοι που συνδέονται με την εκτεταμένη χρήση της, σύμφωνα με πηγές που επικαλείται το Reuters.
Ατομα που γνωρίζουν το θέμα, επισημαίνουν την πιθανότητα κυβερνοεπιθέσεων σε τράπεζες ή «ανεξέλεγκτων» πρακτόρων που θα μπορούσαν να υπονομεύσουν την παγκόσμια χρηματοπιστωτική σταθερότητα.
Ο ρυθμιστικός έλεγχος βασίζεται στην παραδοχή ότι οι εξελίξεις στην AI αιχμής ενδέχεται να απαιτήσουν πολυδάπανες επενδύσεις στην αποκατάσταση από κυβερνοεπιθέσεις, μεγαλύτερη προσοχή στις εξαρτήσεις από εξωτερικούς παρόχους τεχνολογίας και, σε ορισμένες δικαιοδοσίες, πιο επίσημες ρυθμιστικές οδηγίες, ανέφεραν οι πηγές.
Σε ΗΠΑ και Ευρώπη
Τρεις κορυφαίες ρυθμιστικές αρχές στις Ηνωμένες Πολιτείες, μεταξύ των οποίων η Federal Reserve, υποβάλλουν σε ερωτήσεις τις τράπεζες σχετικά με τη χρήση προηγμένων μοντέλων τεχνητής νοημοσύνης, δήλωσαν δύο από τις πηγές στο Reuters. Τα ερωτήματα περιλαμβάνουν το αν χρησιμοποιούν τεχνολογία που έχει αναπτυχθεί στην Κίνα, αν αξιοποιούν πράκτορες AI στην κυβερνοασφάλεια και αν μπορούν να ελέγξουν όλο και πιο αυτόνομα συστήματα.
Στην Ευρώπη, οι εποπτικές αρχές, μεταξύ αυτών και η Τράπεζας της Αγγλίας και η Ευρωπαϊκή Κεντρική Τράπεζα, πιέζουν τις τράπεζες να βελτιώσουν τα σχέδια αποκατάστασης, με τον προβληματισμό ότι οι ραγδαίες εξελίξεις στην AI θα μπορούσαν να προκαλέσουν σοβαρή ζημιά και διαταραχή στις χρηματοπιστωτικές αγορές νωρίτερα από ό,τι φοβούνταν προηγουμένως, δήλωσαν τρία άτομα που είναι εξοιξειωμένα με το σκεπτικό των αρχών. Ανώτατο στέλεχος μεγάλης ευρωπαϊκής τράπεζας δήλωσε, ακόμη, ότι ανησυχούν επίσης για πιθανή μείζονα ζημιά στον τραπεζικό τομέα και τις χρηματοπιστωτικές αγορές μέσα σε διάστημα έξι μηνών.
Οι προειδοποιήσεις
Η συζήτηση για την εποπτεία της AI έχει ενταθεί εν μέσω προειδοποιήσεων από τον κλάδο μετά από πρόσφατα περιστατικά, με τον διευθύνοντα σύμβουλο της JPMorgan, Τζέιμι Ντίμον, να παροτρύνει τους εταιρικούς ηγέτες να ενταχθούν σε μια επιχειρηματική ομάδα με έδρα τις ΗΠΑ για την αντιμετώπιση των κινδύνων της AI.
Η αμερικανική εταιρεία κυβερνοασφάλειας CrowdStrike δήλωσε αυτόν τον μήνα ότι ένα άτομο στην Κίνα πιθανότατα χρησιμοποίησε έναν πράκτορα AI κινεζικής ανάπτυξης και το εργαλείο Claude Code της Anthropic σε μια κυβερνοεπίθεση εναντίον νοτιοκορεατικών τραπεζών.
Εν τω μεταξύ, ανεξέλεγκτοι πράκτορες AI που αναπτύχθηκαν από την OpenAI ενεπλάκησαν σε παραβίαση της πλατφόρμας AI Hugging Face.
Ερευνητές της Anthropic έχουν προειδοποιήσει ότι τα όλο και πιο ισχυρά συστήματα AI θα μπορούσαν τελικά να ξεφύγουν από τον ανθρώπινο έλεγχο και ακόμη και να αποτελέσουν υπαρξιακή απειλή, προκαλώντας εκκλήσεις για αυστηρότερη ρύθμιση.
Το ΔΝΤ προειδοποίησε την Τρίτη κατά του «εφησυχασμού» στις παγκόσμιες χρηματοπιστωτικές αγορές, επικαλούμενο κινδούνους μεταξύ των οποίων και μια κυβερνοεπίθεση και κάλεσε τους υπεύθυνους χάραξης πολιτικής να ενισχύσουν το πλαίσιο της κυβερνοασφάλειας.
Οι ανησυχίες των ΗΠΑ εστιάζουν στην Agentic AI
Οι αμερικανικές ρυθμιστικές έρευνες επικεντρώνονται στο πώς οι τράπεζες χρησιμοποιούν την agentic AI σε τομείς όπως η κυβερνοασφάλεια, εστιάζοντας στο αν οι πράκτορες AI χρησιμοποιούνται για την αναγνώριση, την ιεράρχηση και την ανταπόκριση σε απειλές. Οι ερωτήσεις από το Γραφείο του Ελεγκτή του Νομίσματος (OCC), την Ομοσπονδιακή Εταιρεία Ασφάλισης Καταθέσεων (FDIC) και τη Fed επικεντρώνονται στο ποια όρια τίθενται στα συστήματα, πώς παρακολουθούνται και εγκρίνονται οι ενέργειές τους και αν οι τράπεζες μπορούν να παρακολουθούν και να ελέγχουν σαφώς τις αποφάσεις των πρακτόρων AI, είπαν οι πηγές του Reuters.
Ρωτούν επίσης τι δικλείδες ασφαλείας υπάρχουν για να αποτραπεί η υπέρβαση της εξουσίας των πρακτόρων, αν οι άνθρωποι παραμένουν εμπλεκόμενοι σε βασικές αποφάσεις και πώς οι τράπεζες μπορούν να απενεργοποιήσουν τα αυτόνομα συστήματα.
Μέσω των ερωτήσεών τους, οι ρυθμιστικές αρχές διερευνούν πιο συγκεκριμένα ζητήματα που συνδέονται με προηγμένα μοντέλα AI, συμπεριλαμβανομένης της χρήσης αυτόνομων πρακτόρων AI, μοντέλων που αναπτύχθηκαν στο εξωτερικό και νέων κινδύνων κυβερνοασφάλειας, δήλωσαν τα τρία άτομα με γνώση του τρόπου σκέψης τους.
Οι γραπτές και προφορικές ερωτήσεις σε μεγάλες, μεσαίες και μικρότερες τράπεζες δείχνουν ότι οι ρυθμιστικές αρχές εστιάζουν στις ευπάθειες που προκύπτουν από τη χρήση της AI από τις τράπεζες και στην ετοιμότητά τους να αναλάβουν δράση, πρόσθεσαν.
Οι ρυθμιστικές αρχές εξακολουθούν να συλλέγουν πληροφορίες και δεν έχουν αρχίσει ακόμη να δίνουν αυστηρές οδηγίες για το τι πρέπει να κάνουν οι δανειστές, ανέφεραν.
Εμφαση στην αποκατάσταση από τους Ευρωπαίους
Οι εποπτικές αρχές στη Βρετανία ενθαρρύνουν τις μεγαλύτερες τράπεζες να εξετάσουν τα λεγόμενα σχέδια αποκατάστασης «bare metal». Αυτά τα συστήματα είναι εντελώς ανεξάρτητα από την κύρια τεχνολογική υποδομή μιας τράπεζας και μπορούν να ενεργοποιηθούν εάν παραβιαστούν τα πρωτεύοντα λειτουργικά συστήματα.
Η κατασκευή και η συντήρηση μιας τέτοιας υπερσύγχρονης αποκατάστασης είναι ωστόσο δαπανηρή, ανέφεραν οι ίδιες πηγές. Αντί να εισαγάγουν νέες απαιτήσεις, οι βρετανικές αρχές προτίθενται να συνεργαστούν με τον κλάδο, πρόσθεσαν.
Η ΕΚΤ έδωσε τον Ιούλιο προθεσμία στις τράπεζες έως τα τέλη Οκτωβρίου για να υποβάλουν σχέδια για την αντιμετώπιση απειλών κυβερνοασφάλειας που τροφοδοτούνται από την AI, συμπεριλαμβανομένης της βελτιωμένης δημιουργίας αντιγράφων ασφαλείας και αποκατάστασης.
Η ανάγκη για εποπτική δράση έχει λάβει πρόσθετο επείγοντα χαρακτήρα αφού ευρωπαϊκές τράπεζες και ρυθμιστικές αρχές εξέφρασαν τη δυσαρέσκειά τους για την περιορισμένη πρόσβαση στο εργαλείο Mythos φέτος, εν μέσω ανησυχιών ότι οι αμερικανικές τράπεζες θα έχουν προτεραιότητα στη δοκιμή μοντέλων αιχμής.
Ζητήθηκε επίσης από τις τράπεζες της ευρωζώνης να χαρτογραφήσουν πώς χρησιμοποιείται η AI στις δραστηριότητές τους και στους τρίτους παρόχους, ώστε να κατανοήσουν τις βασικές εξαρτήσεις και να διασφαλίσουν ότι μπορούν να απενεργοποιούν και να επανεκκινούν τα συστήματα με ελεγχόμενο τρόπο.
«Για την προστασία από επιθέσεις, η ταχεία αποκατάσταση έχει εξίσου μεγάλη σημασία με την πρόληψη», δήλωσε ο Σουκάντ Ραματσαντράν (Sukand Ramachandran), διευθύνων σύμβουλος και ανώτερος εταίρος της BCG.
Χωρίς ανεξάρτητα διατηρούμενα καθαρά, ασφαλή αντίγραφα κρίσιμων δεδομένων, «μια σοβαρή επίθεση θα μπορούσε να αποκλείσει τους πελάτες από τους λογαριασμούς τους και να διαταράξει τις πληρωμές σε ολόκληρη την ευρύτερη οικονομία», δήλωσε ο ίδιος στο Reuters.