Ανώτερα στελέχη του διεθνούς χρηματοπιστωτικού τομέα έχουν εκφράσει ανησυχίες ότι η νέα γενιά μοντέλων τεχνητής νοημοσύνης που αναπτύσσονται από αμερικανικές τεχνολογικές εταιρείες ενδέχεται να θέσει σημαντικούς κινδύνους για το παγκόσμιο τραπεζικό σύστημα.
Ιδιαίτερη προσοχή έχει δοθεί σε ένα νέο μοντέλο της νεοφυούς εταιρείας Anthropic με έδρα το Σαν Φρανσίσκο, γνωστό ως Claude Mythos Preview, το οποίο έχει προκαλέσει έντονο προβληματισμό μεταξύ πολιτικών, ρυθμιστικών αρχών και χρηματοπιστωτικών ιδρυμάτων, σημειώνουν οι Financial Times.
Οι ανησυχίες αυτές κυριάρχησαν στις πρόσφατες εαρινές συναντήσεις του ΔΝΤ και της Παγκόσμιας Τράπεζας στην Ουάσιγκτον, όπου υπουργοί Οικονομικών, κεντρικοί τραπεζίτες και ρυθμιστές ανέμεναν αρχικά να επικεντρωθούν σε γεωπολιτικές εντάσεις, στις αγορές ιδιωτικής πίστωσης και στα αυξημένα επίπεδα δημόσιου χρέους.
Αντί αυτού, οι δυνατότητες των προηγμένων συστημάτων τεχνητής νοημοσύνης—και η πιθανότητά τους να αποκαλύψουν αδυναμίες στις χρηματοπιστωτικές υποδομές—βρέθηκαν στο επίκεντρο. Όπως δήλωσε στους FT ο Άντριου Μπέιλι, διοικητής της Τράπεζας της Αγγλίας και πρόεδρος του Συμβουλίου Χρηματοπιστωτικής Σταθερότητας: «Είναι μια πολύ σοβαρή πρόκληση για όλους μας… Μας υπενθυμίζει πόσο γρήγορα εξελίσσεται ο κόσμος της τεχνητής νοημοσύνης».
Στο επίκεντρο των ανησυχιών βρίσκεται η ικανότητα του Mythos να εντοπίζει και να εκμεταλλεύεται αδυναμίες σε ψηφιακά συστήματα με ταχύτητα και κλίμακα που υπερβαίνουν κατά πολύ τις ανθρώπινες δυνατότητες.
Η AI της Anthropic πυροδοτεί ανησυχίες
Σύμφωνα με την Anthropic, το μοντέλο έχει ήδη «εντοπίσει χιλιάδες ευπάθειες υψηλής σοβαρότητας, συμπεριλαμβανομένων ορισμένων σε κάθε σημαντικό λειτουργικό σύστημα και πρόγραμμα περιήγησης». Αυτή η δυνατότητα ενδέχεται να μεταβάλει τη ισορροπία μεταξύ επιτιθέμενων και αμυνόμενων στον τομέα της κυβερνοασφάλειας. Αξιωματούχοι στην Ουάσιγκτον επισήμαναν ότι τέτοια εργαλεία μπορούν να συνδυάζουν αυτόνομα πολλαπλές ευπάθειες, αλλάζοντας ριζικά το «πεδίο μάχης».
Ο Νταν Κατζ, αναπληρωτής επικεφαλής του ΔΝΤ, υπογράμμισε την κρισιμότητα της κατάστασης: «Η εξέλιξη της ψηφιακής τεχνολογίας δημιουργεί τεράστιους κινδύνους από την πλευρά της κυβερνοασφάλειας… Αυτό θα αποτελέσει απολύτως κεντρικό ζήτημα στη διεθνή ατζέντα τους επόμενους μήνες». Οι δηλώσεις του δείχνουν ότι οι κίνδυνοι που συνδέονται με την τεχνητή νοημοσύνη θεωρούνται πλέον συστημικοί.
Η πρόεδρος της Ευρωπαϊκής Κεντρικής Τράπεζας, Κριστίν Λαγκάρντ, τόνισε τη διττή φύση της τεχνολογίας: «Η εξέλιξη που βλέπουμε με την Anthropic και το Mythos είναι ένα καλό παράδειγμα μιας υπεύθυνης εταιρείας που σκέφτεται “αυτό θα μπορούσε να είναι πολύ καλό” — αλλά αν πέσει σε λάθος χέρια, μπορεί να είναι πολύ κακό». Η παρατήρησή της αναδεικνύει την ένταση μεταξύ καινοτομίας και κινδύνου.
Η ίδια η Anthropic έχει αναγνωρίσει αυτούς τους κινδύνους, προειδοποιώντας ότι «δεν θα αργήσει να διαδοθούν τέτοιες δυνατότητες, πιθανώς και πέρα από φορείς που δεσμεύονται για την ασφαλή χρήση τους». Προσέθεσε επίσης ότι «οι συνέπειες — για τις οικονομίες, τη δημόσια ασφάλεια και την εθνική ασφάλεια — θα μπορούσαν να είναι σοβαρές».
Παρά τις ανησυχίες, η πρόσβαση στο μοντέλο Mythos παραμένει περιορισμένη. Μέχρι στιγμής, η Anthropic το έχει διαθέσει σε περίπου 40 οργανισμούς, μεταξύ των οποίων μεγάλες τεχνολογικές εταιρείες και χρηματοπιστωτικά ιδρύματα, προκειμένου να δοκιμάσουν τις δυνατότητές του και να διορθώσουν ευπάθειες. Ορισμένες αμερικανικές αρχές φέρεται επίσης να έχουν πρόσβαση. Ο διευθύνων σύμβουλος της JPMorgan Chase, Τζέιμι Ντίμον, σημείωσε ότι το μοντέλο «αναδεικνύει πολλές ευπάθειες που πρέπει να διορθωθούν», αναγνωρίζοντας παράλληλα τα οφέλη του.
Ψάχνοντας απαντήσεις στις απειλές
Ωστόσο, ευρωπαϊκές ρυθμιστικές αρχές και στελέχη τραπεζών έχουν εκφράσει ανησυχία για την περιορισμένη πρόσβασή τους. Ο Φρανσουά-Λουί Μισό, επικεφαλής της Ευρωπαϊκής Αρχής Τραπεζών, δήλωσε στους FT: «Πρόκειται για μια διαδικασία που μόλις ξεκινά και τώρα εξετάζουμε ποια είναι η κατάλληλη απάντηση». Αν και τόνισε ότι οι ευρωπαϊκοί θεσμοί δεν ξεκινούν από το μηδέν όσον αφορά την κυβερνοασφάλεια, η έλλειψη άμεσης εμπειρίας με το μοντέλο δυσχεραίνει την αξιολόγηση.
Το ζήτημα της διακυβέρνησης παραμένει άλυτο. Η Lagarde υπογράμμισε: «Όλοι επιθυμούν να υπάρχει ένα πλαίσιο μέσα στο οποίο να λειτουργούν… αλλά δεν νομίζω ότι υπάρχει ένα πλαίσιο διακυβέρνησης που να μπορεί πραγματικά να επιβλέπει αυτά τα ζητήματα. Πρέπει να εργαστούμε πάνω σε αυτό». Η παρατήρηση αυτή αντικατοπτρίζει τις δυσκολίες ρύθμισης μιας τεχνολογίας που εξελίσσεται ταχύτερα από τους θεσμούς.
Παράλληλα, ορισμένοι πολιτικοί αμφισβητούν το κατά πόσο είναι εφικτή μια συντονισμένη διεθνής απάντηση, δεδομένων των γεωπολιτικών εντάσεων. Ταυτόχρονα, υπάρχει δισταγμός να επιβληθούν πρόωροι περιορισμοί που θα μπορούσαν να ανακόψουν την καινοτομία. Όπως έθεσε το ερώτημα ο Bailey: «Ποια είναι η κατάλληλη στιγμή για να τεθούν οι κανόνες; Αν κινηθείς πολύ νωρίς, κινδυνεύεις να επηρεάσεις αρνητικά την εξέλιξη, ενώ αν κινηθείς πολύ αργά, τα πράγματα μπορεί να ξεφύγουν από τον έλεγχο».
Την ίδια στιγμή, ο ιδιωτικός τομέας συνεχίζει να διερευνά τις ευκαιρίες που προσφέρει η τεχνητή νοημοσύνη. Στελέχη μεγάλων τραπεζών επισημαίνουν τόσο τους κινδύνους όσο και τα πιθανά οφέλη παραγωγικότητας. Ο διευθύνων σύμβουλος της Morgan Stanley, Ted Pick, δήλωσε ότι «η τεχνητή νοημοσύνη είναι φίλος μας», ενώ άλλοι τόνισαν ότι προσεγγίζουν την τεχνολογία με την «απαιτούμενη αίσθηση επείγοντος».
Παράλληλα, και άλλες εταιρείες αναπτύσσουν παρόμοια εργαλεία. Η OpenAI ανακοίνωσε πρόσφατα ένα νέο μοντέλο ειδικά σχεδιασμένο για εφαρμογές κυβερνοασφάλειας, το οποίο δοκιμάζεται από επιλεγμένους οργανισμούς. Αυτό υποδηλώνει ότι τέτοιες δυνατότητες θα γίνουν σύντομα ευρύτερα διαθέσιμες.
Συνολικά, η εμφάνιση προηγμένων μοντέλων τεχνητής νοημοσύνης όπως το Mythos σηματοδοτεί μια καμπή για το παγκόσμιο χρηματοπιστωτικό σύστημα. Παρότι προσφέρουν σημαντικά οφέλη, εισάγουν και συστημικούς κινδύνους που θέτουν υπό πίεση τα υφιστάμενα ρυθμιστικά πλαίσια. Καθώς οι αρμόδιοι φορείς προσπαθούν να ανταποκριθούν, η ανάγκη για έγκαιρη, συντονισμένη και αποτελεσματική διακυβέρνηση καθίσταται ολοένα και πιο επιτακτική.