Η τεχνητή νοημοσύνη θα μπορούσε να μας σκοτώσει όλους. Ίσως προκαλέσει πρώτα μια χρηματοπιστωτική κατάρρευση, εκτιμά το Politico προσεγγίζοντας το θέμα της υιοθέτησης από τον κλάδο των χρηματοπιστωτικών υπηρεσιών της χρήσης της Agentic AI — ενός εικονικού βοηθού τεχνητής νοημοσύνης που επιδιώκει τους στόχους του με αυτονομία, αντί να λαμβάνει εντολές για να πράξει κάτι.
Το «Agentic commerce» θα μπορούσε να αποφέρει έσοδα ύψους 3 έως 5 τρισεκατομμυρίων δολαρίων έως το 2030, σύμφωνα με έρευνα της McKinsey
Ωστόσο, οι ειδικοί προειδοποιούν ότι η χρήση της Agentic AI στον χρηματοπιστωτικό τομέα θα μπορούσε να οδηγήσει σε ταχεία μετακίνηση τραπεζικών καταθέσεων από μία τράπεζα στην άλλη, σε ανεξάρτητα bots που θα ωθούν τους επενδυτές να διοχετεύσουν τα κεφάλαιά τους στον ίδιο στόχο ταυτόχρονα ή σε απώλειες χρημάτων για τους καταναλωτές.
Ακόμη και στην καλύτερη περίπτωση, φοβούνται ότι η ευθύνη για λάθη θα αποτελέσει ένα «ναρκοπέδιο». Το χειρότερο σενάριο που προβλέπουν περιλαμβάνει μαζικές αναλήψεις καταθέσεων από τις τράπεζες, την κατάρρευση χρηματοπιστωτικών ιδρυμάτων — και ακόμη και την επόμενη χρηματοπιστωτική κρίση.
Το «Agentic commerce» θα μπορούσε να αποφέρει έσοδα ύψους 3 έως 5 τρισεκατομμυρίων δολαρίων έως το 2030, σύμφωνα με έρευνα της McKinsey, δημιουργώντας την τόσο αναγκαία ανάπτυξη σε μεγάλες οικονομίες που αγωνίζονται με το χρέος εν μέσω των συνεπειών της πανδημίας, των συνεχιζόμενων πολέμων και των υψηλότερων επιτοκίων.
Meta και Muse
Για τους τεχνολογικούς γίγαντες και τους επενδυτές, οι οποίοι αναμένεται να αποκομίσουν μεγάλο μέρος αυτών των εσόδων, η κατοχή ενός προσωπικού ρομποτικού πράκτορα δεν αποτελεί πλέον ένα μακρινό όνειρο: η Meta παρουσίασε νωρίτερα αυτό το μήνα τον προσωπικό της πράκτορα τεχνητής νοημοσύνης, τον Muse, ο οποίος, όπως αναφέρει η εταιρεία, μπορεί να χειριστεί εργασίες όπως η κράτηση και η πληρωμή ταξιδιών.
Η Meta είναι η πρώτη μεγάλη εταιρεία που δραστηριοποιείται σε αυτόν τον τομέα. Περιγράφει το Muse ως έναν «ασφαλή, ιδιωτικό προσωπικό βοηθό», ο οποίος χρησιμοποιεί την πλατφόρμα πληρωμών Stripe για να πραγματοποιεί αγορές εκ μέρους του χρήστη. Το Muse έχει «κατεβεί» πάνω από τρία εκατομμύρια φορές από την κυκλοφορία του, ενώ ο Μαρκ Ζάκερμπεργκ το χαρακτήρισε πρόσφατα ως το «κεντρικό στοιχείο» της στρατηγικής της εταιρείας στον τομέα της τεχνητής νοημοσύνης. Η εταιρεία έχει επίσης λανσάρει μια έκδοση για μικρές επιχειρήσεις.
Ωστόσο, το Muse αντιμετωπίζει ήδη προβλήματα. Η Amazon του απαγόρευσε να πραγματοποιεί αγορές στον ιστότοπό της. Νωρίτερα αυτή την εβδομάδα, το Muse φέρεται να αποκάλυψε τη διεύθυνση κατοικίας ενός χρήστη στο Facebook Marketplace χωρίς την άδειά του.
Προστίθεται έτσι σε έναν μακρύ κατάλογο ατυχημάτων που σχετίζονται με την τεχνητή νοημοσύνη, καθώς αυξάνονται οι φόβοι ότι η αναπτυσσόμενη αυτή τεχνολογία θα μπορούσε να προκαλέσει σοβαρή ζημιά στην ανθρωπότητα. Νωρίτερα αυτό το καλοκαίρι, οι γίγαντες της τεχνητής νοημοσύνης OpenAI και Anthropic αποκάλυψαν ότι οι πράκτορές τους είχαν παραβιάσει συστήματα εξωτερικών εταιρειών, παρά το γεγονός ότι είχαν τοποθετηθεί σε «sandboxes» (περιβάλλοντα περιορισμένης πρόσβασης) που θα έπρεπε να τους είχαν εμποδίσει να το πράξουν. Την περασμένη εβδομάδα, η OpenAI αποκάλυψε ότι οι πράκτορές της παραβίασαν δεδομένα της αυστραλιανής κυβέρνησης, καθώς και ιστότοπους της αμερικανικής κυβέρνησης.
Στον κόσμο των χρηματοοικονομικών υπηρεσιών, αυτό μπορεί να αποτελεί μια πρόγευση του τι θα ακολουθήσει.
«Όσο περισσότερο οι εταιρείες και οι ιδιώτες επενδυτές βασίζονται σε παρόμοια μοντέλα, πηγές δεδομένων και παρόχους τεχνολογίας, τόσο μεγαλύτερος είναι ο κίνδυνος ένα μεμονωμένο λάθος ή μια κυβερνοεπίθεση να προκαλέσει αλυσιδωτές επιπτώσεις σε ολόκληρο το χρηματοπιστωτικό σύστημα», δήλωσε ο Μάρκους Μπρουκς, διευθυντής επενδύσεων της βρετανικής εταιρείας διαχείρισης περιουσίας Quilter.
Κίνδυνος μαζικής απόσυρσης καταθέσεων
Οι πράκτορες τεχνητής νοημοσύνης (AI) έχουν πολλές πιθανές χρήσεις, πολλές από τις οποίες αφορούν τα χρήματα: να δίνετε εντολή σε έναν πράκτορα τεχνητής νοημοσύνης να πραγματοποιεί αγορές εκ μέρους σας, να ερευνά και να πραγματοποιεί επενδύσεις, καθώς και να παρέχει χρηματοοικονομικές συμβουλές.
Οι καταναλωτές χρησιμοποιούν ήδη την τεχνητή νοημοσύνη για να αναζητήσουν ποιες τράπεζες προσφέρουν τις καλύτερες αποδόσεις στις καταθέσεις μετρητών τους. Εάν οι πράκτορες χρησιμοποιηθούν για την αυτόματη μεταφορά κεφαλαίων σε μεγάλη κλίμακα προς λογαριασμούς με υψηλότερες αποδόσεις, αυτό θα μπορούσε να προκαλέσει μαζική απόσυρση καταθέσεων, προειδοποίησε ο Τόρστεν Σλοκ, επικεφαλής οικονομολόγος του κολοσσού ιδιωτικών επενδύσεων Apollo, σε σημείωμα που δημοσίευσε αυτή την εβδομάδα.
Το ζήτημα της ευθύνης παραμένει ασαφές σε άλλες χρήσεις της τεχνητής νοημοσύνης με ικανότητα δράσης, από μικρές αγορές έως συναλλαγές σε ολόκληρη την αγορά
«Το Muse και παρόμοιοι ενεργοί βοηθοί τεχνητής νοημοσύνης θα μπορούσαν σύντομα να μεταφέρουν αυτόματα τα μετρητά των νοικοκυριών σε λογαριασμούς με επιτόκιο 3,3% έως 5,0%, αντί του εθνικού μέσου όρου 0,1% που ισχύει για τους τρεχούμενους λογαριασμούς. Οι τράπεζες θα μπορούσαν να χάσουν ένα μεγάλο μέρος των φθηνών καταθέσεων στις οποίες βασίζονται για τη χορήγηση δανείων, κάτι που θα αποτελούσε πρόβλημα για ολόκληρο το χρηματοπιστωτικό σύστημα», έγραψε ο Σλοκ.
Η κατάρρευση της Silicon Valley Bank το 2023, η μεγαλύτερη τραπεζική χρεοκοπία στις ΗΠΑ από την εποχή της χρηματοπιστωτικής κρίσης, αποδίδεται εν μέρει σε μια τεράστια μαζική ανάληψη καταθέσεων.
Σε αυτό το σενάριο, μπορεί να είναι σαφές ποιος φέρει την ευθύνη. Ωστόσο, το ζήτημα της ευθύνης παραμένει ασαφές σε άλλες χρήσεις της τεχνητής νοημοσύνης με ικανότητα δράσης, από μικρές αγορές έως συναλλαγές σε ολόκληρη την αγορά.
Αν ένας πράκτορας τεχνητής νοημοσύνης που χρησιμοποιείται ως βοηθός αγορών σας αγοράσει διακοπές στην Αλγερία αντί για την Αλβανία, θα πρέπει να πληρώσει η εταιρεία που φιλοξενεί τον πράκτορα; Αν η λίστα αγορών σας περιλαμβάνει δύο σακούλες καφέ, αλλά καταλήξετε με ένα σωρό καραμέλες, φταίει ο πράκτορας τεχνητής νοημοσύνης ή η εταιρεία λιανικής πώλησης; Και αν ένας καταναλωτής ακολουθήσει μη ρυθμιζόμενες επενδυτικές συμβουλές, έχει δικαίωμα αποζημίωσης αν κάτι πάει στραβά;
Η έρευνα δείχνει ότι ο κλάδος των χρηματοοικονομικών υπηρεσιών είναι διχασμένος ως προς το ποιος φέρει την ευθύνη: όταν ρωτήθηκαν υψηλόβαθμα στελέχη του χρηματοοικονομικού τομέα ποιος φέρει την ευθύνη αν ένας πράκτορας ξόδευε 2.000 λίρες, ενώ του είχε ζητηθεί μόνο να διερευνήσει την αγορά, καμία απάντηση δεν συγκέντρωσε πλειοψηφία: το 24% ανέφερε ότι εξαρτάται από τις περιστάσεις, το 21% τάχθηκε υπέρ της καταμερισμένης ευθύνης, το 18% απέδωσε την ευθύνη στον πάροχο του μοντέλου τεχνητής νοημοσύνης και το 13% ανέφερε ότι την ευθύνη φέρει ο καταναλωτής.
«Είναι ένα πραγματικά, πραγματικά πολύπλοκο ζήτημα», δήλωσε στο Politico ο Σαμ Γκριν, ο οποίος ασχολείται με τη διακυβέρνηση της τεχνητής νοημοσύνης στην εταιρεία τεχνητής νοημοσύνης Zango. «Η ευθύνη είναι ένα απόλυτο ναρκοπέδιο.»
Υπάρχει επίσης ο κίνδυνος ένας πράκτορας τεχνητής νοημοσύνης να «ξεφύγει από τον έλεγχο» — κάτι για το οποίο συσσωρεύονται στοιχεία — ή να αναλάβει τον έλεγχό του κάποια εξωτερική δύναμη. Εάν οι πράκτορες — οι οποίοι έχουν πρόσβαση στα χρήματα ενός καταναλωτή ή στους λογαριασμούς ενός hedge fund για τη διενέργεια συναλλαγών — παραβιαστούν, η οικονομική ζημιά θα μπορούσε να είναι τεράστια.
«Αν ένας πράκτορας παραβιαστεί μέσω μιας κυβερνοεπίθεσης, τότε μετατρέπεται σε πράκτορα του εχθρού μέσα στην ίδια την επιχείρησή σας. Γίνεται ο εκπρόσωπος μιας επίθεσης εντός του ίδιου του οργανισμού», δήλωσε στο Politico ο Έντι Λάμπ, επικεφαλής του τμήματος κυβερνοασφάλειας στην Hiscox.
«Αν επεξεργάζεστε χρηματοοικονομικές πληρωμές ή συναλλαγές για εμπορικές δραστηριότητες, τότε οι οικονομικές επιπτώσεις γίνονται πολύ πραγματικές, πολύ γρήγορα. Αυτό ενέχει τεράστιο κίνδυνο για τον κλάδο των χρηματοοικονομικών υπηρεσιών και, φυσικά, αποτελεί εξαιρετικά ελκυστικό στόχο για το οργανωμένο έγκλημα.»
Η βρετανική εμπειρία στην τεχνητή νοημοσύνη
Η βρετανική κυβέρνηση έχει δηλώσει ότι η τεχνητή νοημοσύνη που βασίζεται στους πράκτορες (agent-based AI) θα μπορούσε να «αλλάξει ριζικά» τον τρόπο λειτουργίας του εμπορίου και ότι η Βρετανία θα μπορούσε να «πρωτοστατήσει παγκοσμίως» στις πληρωμές μέσω Agentic AI.
Στο City του Λονδίνου, η Agentic AI βρίσκεται σε «πιλοτική φάση ή έχει ήδη τεθεί σε εφαρμογή» από περισσότερες από τις μισές εταιρείες που συμμετείχαν στην έρευνα της βρετανικής ρυθμιστικής αρχής, παρά το γεγονός ότι πριν από δύο χρόνια ήταν «ουσιαστικά απούσα» από τις έρευνες, αν και η χρήση της παραμένει σε μεγάλο βαθμό περιορισμένη.
Τα hedge funds και οι πλατφόρμες συναλλαγών διερευνούν όλο και περισσότερο τα εργαλεία αυτά. Η Man Group, ένα από τα μεγαλύτερα hedge funds στον κόσμο, ανακοίνωσε ότι χρησιμοποιεί την Agentic AI για την ανίχνευση σημάτων (εντοπισμός μοτίβων που υποδηλώνουν την κατεύθυνση στην οποία θα κινηθεί μια τιμή). Ο ερευνητικός κλάδος τεχνητής νοημοσύνης της Bridgewater διαθέτει έναν «αναλυτή τσέπης» που χρησιμοποιεί την τεχνολογία της «αυτοδύναμης τεχνητής νοημοσύνης».
Μια πρόσφατη έρευνα της Mercer διαπίστωσε ότι το 5% των διαχειριστών περιουσιακών στοιχείων σε όλο τον κόσμο παραχώρησαν στην τεχνητή νοημοσύνη (AI) αυτόνομη ή ημιαυτόνομη εξουσία όσον αφορά τις επενδυτικές συστάσεις ή τις συναλλαγές.
Η τεχνητή νοημοσύνη κάνει επίσης την είσοδό της στο ευρύ κοινό. Η πλατφόρμα συναλλαγών RobinHood ανακοίνωσε αυτό το καλοκαίρι ότι θα επιτρέψει στους ιδιώτες επενδυτές να χρησιμοποιούν πράκτορες τεχνητής νοημοσύνης για τη διαπραγμάτευση μετοχών, ακόμη και για την εκτέλεση ορισμένων συναλλαγών.
Αυτό αναγκάζει τις βρετανικές ρυθμιστικές αρχές του χρηματοπιστωτικού τομέα να αγωνίζονται να προλάβουν τις εξελίξεις. Καθώς αυξάνονται οι προειδοποιήσεις για την ασφάλεια της τεχνητής νοημοσύνης — με ερευνητές του τομέα να προειδοποιούν για το τέλος της ανθρωπότητας μέσα σε μια δεκαετία και την Anthropic να προειδοποιεί ότι αυτή αποτελεί «καταστροφικό ή υπαρξιακό κίνδυνο για την ανθρωπότητα» — θα πρέπει να αντιμετωπίσουν τεχνολογικά εργαλεία που καθιστούν πολύ πιο δύσκολη τη διατήρηση της χρηματοπιστωτικής σταθερότητας ή τη διασφάλιση ότι οι καταναλωτές δεν θα χάσουν τα χρήματά τους. Μέχρι στιγμής, οι ρυθμιστικές αρχές αποφεύγουν να θεσπίσουν νέους κανόνες.
«Η μεγάλη ανησυχία είναι ότι ο ρυθμός της αλλαγής θα ξεπεράσει την ικανότητα των ρυθμιστικών αρχών να συμβαδίσουν», δήλωσε ο Τζον Γκλεν, πρώην υπουργός Οικονομικών και μέλος της Επιτροπής Δημοσιονομικών του βρετανικού κοινοβουλίου.
Διακόπτης ασφαλείας
Εκτός από το ζήτημα της ευθύνης, οι ρυθμιστικές αρχές φοβούνται τον κίνδυνο της «συμπεριφοράς κοπαδιού»: όταν πολλοί επενδυτές αποφασίζουν να μιμηθούν τις κινήσεις της αγοράς στο σύνολό της, κάτι που μπορεί να δημιουργήσει φούσκες ή καταρρεύσεις στην αγορά.
Οι συναλλαγές που πραγματοποιούνται από αλγόριθμους μπορούν να οδηγήσουν σε «μαζικές και πολύ γρήγορες μεταβολές στη συμπεριφορά της αγοράς, οι οποίες στη συνέχεια δημιουργούν συστημικό κίνδυνο», δήλωσε ο Ντέιβιντ Ντόρελ, εκτελεστικός διευθυντής τεχνητής νοημοσύνης στη Frontier Economics.
Οι εταιρείες που πραγματοποιούν συναλλαγές ενδέχεται να χρησιμοποιούν μοντέλα τεχνητής νοημοσύνης που έχουν εκπαιδευτεί με βάση τα ίδια δεδομένα, γεγονός που αυξάνει την πιθανότητα να λάβουν τις ίδιες αποφάσεις ταυτόχρονα. Εάν αυτές οι αποφάσεις είναι λανθασμένες, όλοι υφίστανται ζημίες ταυτόχρονα, κάτι που ενδέχεται να επιδεινώσει τις απώλειες ή να προκαλέσει την πτώχευση μεγάλων χρηματοπιστωτικών ιδρυμάτων.
«Ο κίνδυνος με την τεχνητή νοημοσύνη είναι ότι ωθεί όλους προς την ίδια απάντηση χωρίς να γίνονται κατάλληλες δοκιμές αντοχής για αυτές τις απαντήσεις. Εδώ είναι που η κριτική εξέταση των αποτελεσμάτων της τεχνητής νοημοσύνης είναι ζωτικής σημασίας, καθώς, αν και είναι μετασχηματιστική, δεν πρέπει να θεωρείται ως η μοναδική πηγή αλήθειας», δήλωσε ο Brookes της Quilter.
Σε ομιλία της τον Ιούνιο, η Σάρα Μπρίντεν της Τράπεζας της Αγγλίας ανέφερε ότι ενδέχεται να χρειαστούν «διακόπτες έκτακτης ανάγκης» για τη διακοπή των συναλλαγών, σε περίπτωση που ελαττωματική τεχνητή νοημοσύνη προκαλέσει κατάρρευση της αγοράς. «Εάν οι πράκτορες τεχνητής νοημοσύνης ανταποκρίνονται με παρόμοιο τρόπο στις ίδιες προτροπές ή ερεθίσματα, θα μπορούσαν να εντείνουν τη μεταβλητότητα σε συνθήκες πίεσης — ειδικά αν οι στόχοι τους αποκλίνουν από τους αρχικούς στόχους ή τους στόχους της δημόσιας πολιτικής», ανέφερε.
Προς το παρόν, η Breeden ίσως φωνάζει στο κενό, καθώς η Βρετανία βρίσκεται ανάμεσα σε δύο γίγαντες με εντελώς αντίθετες απόψεις σχετικά με τον τρόπο ρύθμισης της τεχνητής νοημοσύνης.
Η Ευρωπαϊκή Ένωση διαθέτει έναν ολοκληρωμένο νόμο για την τεχνητή νοημοσύνη που ψηφίστηκε το 2024, ο οποίος ταξινομεί τα συστήματα τεχνητής νοημοσύνης με βάση τον κίνδυνο. Ο Πρόεδρος των ΗΠΑ Ντόναλντ Τραμπ έχει χαρακτηρίσει τους φόβους σχετικά με την ασφάλεια της τεχνητής νοημοσύνης ως «φάρσα», παρά το γεγονός ότι μερικές από τις πιο αυστηρές προειδοποιήσεις προέρχονται απευθείας από διευθύνοντες συμβούλους εταιρειών τεχνολογίας.
Όσον αφορά την αυτόνομη τεχνητή νοημοσύνη , αυτό ενέχει τον κίνδυνο «χάους», σύμφωνα με τον Κιάραν Μάρτιν, καθηγητή στο Πανεπιστήμιο της Οξφόρδης και πρώην επικεφαλής του Εθνικού Κέντρου Κυβερνοασφάλειας στο GCHQ.
«Ο κόσμος θα καταστεί ανεφάρμοστος χωρίς κάποιο είδος πλαισίου για τους πράκτορες ΑΙ».