Μεγάλες τράπεζες στις ΗΠΑ άρχισαν να μπλοκάρουν την πρόσβαση στους πράκτορες ΑΙ έπειτα από περιστατικά πρόσβασης σε λογαριασμούς πελατών και ενέργειες που έδειχναν να λαμβάνονταν ανεξάρτητα από τις οδηγίες των χρηστών.
Οι πράκτορες (ΑΙ Agents) είναι προγράμματα που μπορούν να χειρίζονται υπολογιστές και χρησιμοποιούν μεγάλα γλωσσικά μοντέλα για να πετυχαίνουν στόχους πολλών βημάτων, από το να αγοράζουν αεροπορικά εισιτήρια για λογαριασμό του χρήστη μέχρι να στέλνουν email και να οργανώνουν αρχεία.
Το πρόβλημα είναι ότι σε κάποιες περιπτώσεις έχουν βρεθεί να χρησιμοποιούν ανορθόδοξα και απρόβλεπτα μέσα, όπως αποδείχτηκε σε πολλαπλά περιστατικά μοντέλων που απέδρασαν από το περιβάλλον δοκιμών και εισέβαλαν σε ξένα δίκτυα και υπολογιστές.
Οι τράπεζες ανησυχούν ότι οι πράκτορες ΑΙ με δικαιώματα πρόσβασης σε τραπεζικούς λογαριασμούς θα μπορούσαν να προχωρήσουν σε απρόβλεπτες ενέργειες που θα έπλητταν οικονομικά τους ίδιους τους χρήστες και ενδεχομένως και τις ίδιες τις τράπεζες.
Στελέχη τραπεζών χαρακτήρισαν την κατάσταση «τρομακτική» γράφει το Axios.
O κίνδυνος μεγιστοποιείται όταν οι πράκτορες έχουν εξουσιοδότηση να μεταφέρουν κεφάλαια ή να προχωρούν σε αγορές.
Ανήσυχα, τα αμερικανικά οικονομικά ιδρύματα αρχίζουν να μπλοκάρουν τα AI Agents που χειρίζονται λογαριασμούς πελατών και προχωρούν σε αναλήψεις, δήλωσαν στο Reuters πηγές που δεν κατονομάζονται.
Το πρόβλημα των αυτόματων συναλλαγών από ΑΙ agents έρχεται να προστεθεί στις ανησυχίες των οικονομικών ιδρυμάτων για προηγμένες κυβερνοεπιθέσεις, καθώς τα τελευταία μεγάλα μοντέλα ΑΙ έχουν αποδειχθεί εξπέρ στο να βρίσκουν κενά ασφάλειας σε παλιό λογισμικό.
Στην περίπτωση των πρακτόρων, οι συναλλαγές πλέον μπλοκάρονται αυτόματα, όμως η κατάσταση όμως κινείται σε μια γκρίζα νομική ζώνη: σε κάποιες περιπτώσεις, πελάτες τραπεζών έχουν μοιραστεί με πράκτορες τεχνητής νοημοσύνης το όνομα χρήστη και τον κωδικό πρόσβασής τους, με τις τράπεζες να εντοπίζουν τις σχετικές συναλλαγές ως ύποπτες και να τις μπλοκάρουν, ανέφερε πηγή από τον τραπεζικό κλάδο. Ωστόσο οι συναλλαγές αυτές δεν μπορούν να θεωρηθούν μη εξουσιοδοτημένες εφόσον ο ίδιος ο πελάτης έχει παραχωρήσει τα στοιχεία σύνδεσής του.
Αρκετά στελέχη του τραπεζικού κλάδου δήλωσαν στο Axios ότι αναγνωρίζουν την ανάγκη να βρεθεί μέση οδός για τη χρήση πρακτόρων τεχνητής νοημοσύνης. Οι τράπεζες αντιλαμβάνονται ότι στο μέλλον οι πελάτες τους θα θέλουν να χρησιμοποιούν τέτοιους πράκτορες. Προς το παρόν, όμως, θεωρούν ότι οι κίνδυνοι από την υπερβολικά ελαστική πολιτική πρόσβασης στους τραπεζικούς λογαριασμούς είναι πολύ μεγάλοι.
Οι τράπεζες εξετάζουν το ενδεχόμενο να δώσουν στα AI agents πρόσβαση «read only» στους λογαριασμούς, χωρίς δικαίωμα για συναλλαγές.
Για την ώρα, πάντως, μεγάλα ιδρύματα όπως η Morgan Stanley, η JPMorgan, η Bank of America μπλοκάρουν τους πράκτορες.
Σύμφωνα με το Reuters, ο διευθύνων σύμβουλος της JPMorgan Chase, Τζέιμι Ντάιμον, δήλωσε αυτό τον μήνα ότι η μεγαλύτερη τράπεζα των ΗΠΑ αναπτύσσει εργαλεία για τη διαχείριση των κινδύνων που προκύπτουν από τους πράκτορες τεχνητής νοημοσύνης.
«Δεν πρόκειται να επιτρέψουμε σε οποιονδήποτε εξωτερικό πράκτορα ΑΙ να αποκτήσει πρόσβαση στα εσωτερικά συστήματα της εταιρείας, γιατί αυτό είναι υπερβολικά επικίνδυνο τόσο για τους πελάτες όσο και για την JPMorgan», είχε δηλώσει.
Σύμφωνα πάντως με το Axios, οι τράπεζες εξετάζουν τα χειρότερα πιθανά σενάρια και καταρτίζουν σχέδια διαχείρισης κρίσεων για την «επόμενη μέρα», ώστε να μπορούν να διασφαλίσουν ή να αποκαταστήσουν γρήγορα την πρόσβαση των πελατών στους λογαριασμούς τους.
- in.gr