Το αξεπέραστο ταλέντο που απέκτησε η τεχνητή νοημοσύνη στο χάκινγκ και την παραπλάνηση έχει πλέον αναδειχθεί στην πιο άμεση απειλή για το παγκόσμιο χρηματοπιστωτικό σύστημα, προειδοποίησε τη Δευτέρα ο αρμόδιος διεθνής οργανισμός, έπειτα από μια σειρά ανησυχητικών περιστατικών στις δοκιμές των πιο προηγμένων μοντέλων ΑΙ.
Η προειδοποίηση έρχεται από το Συμβούλιο Χρηματοπιστωτικής Σταθερότητας, αρμόδιο για την αναγνώριση και αντιμετώπισης κινδύνων στο παγκόσμιο οικονομικό σύστημα.
Σε επιστολή του προς τους κεντρικούς τραπεζίτες και τους υπουργούς Οικονομικών της G20, ο Άντριου Μπέιλι, πρόεδρος του FSB και επικεφαλής της Τράπεζας της Αγγλίας, δήλωσε ότι πολλές χώρες δεν διαθέτουν συστήματα για τη διαχείριση της ανάπτυξης και εφαρμογής προηγμένων μοντέλων τεχνητής νοημοσύνης.
Πρόσθεσε δε ότι η εξάρτηση του χρηματοπιστωτικού τομέα από έναν μικρό αριθμό εταιρειών ΑΙ θα μπορούσε να υπονομεύσει την εμπιστοσύνη στη λειτουργία των αγορών συνολικά.
Οι δηλώσεις του Μπέιλι, σχολιάζει το Reuters, αναδεικνύουν τις ανησυχίες των ρυθμιστικών αρχών ότι η προηγμένη ΑΙ θα μπορούσε να επιταχύνει τον εντοπισμό κενών ασφάλειας που θα μπορούσαν να αξιοποιηθούν για καταστροφικές κυβερνοεπιθέσεις.
Μια πρώτη ανησυχητική εξέλιξη με την τεχνητή νοημοσύνη ήταν η πρόσφατη ανακοίνωση της αμερικανικής Anthropic ότι το νέο μοντέλο της Mythos εντόπισε κενά ασφάλειας σε όλα πρακτικά τα λειτουργικά συστήματα και σε λογισμικό που χρησιμοποιείται ευρέως για μια πληθώρα εφαρμογών, ακόμα και σε διαβαθμισμένα συστήματα του αμερικανικού Πενταγώνου.
Οι τράπεζες θεωρούνται ιδιαίτερα ευάλωτες επειδή χρησιμοποιούν μεν σύγχρονα συστήματα κυβερνοασφάλειας αλλά βασίζονται ακόμα σε υπολογιστικά συστήματα παλιάς τεχνολογίας.
Ενδεικτικοί της ανησυχίας ήταν οι προσωρινοί περιορισμοί που επέβαλε η κυβέρνηση Τραμπ στη διάθεση του Mythos και η έκκλησή του για ελέγχους των νέων αμερικανικών μοντέλων από την κυβέρνηση έως και ένα μήνα πριν από τη δημόσια διάθεσή τους.
Σε ένα άλλο ανησυχητικό περιστατικό τον Ιούλιο, ένα ΑΙ agent της OpenAI απέδρασε από το κλειστό περιβάλλον δοκιμών, απέκτησε πρόσβαση στο Διαδίκτυο και χάκαρε μια άλλη εταιρεία προκειμένου να πετύχει τον στόχο που του είδε δοθεί. Η κυβερνοεπίθεση έμενε απαρατήρητη από την OpenAI για μια εβδομάδα.
Ανάλογα περιστατικά αποκαλύφθηκαν αργότερα στην Anthropic και τη Meta, εντείνοντας την ανησυχία για το κατά πόσο οι εταιρείες ΑΙ μπορούν να ελέγχουν τα προϊόντα τους.
«Οι πρόσφατες εξελίξεις αναδεικνύουν την ανάγκη να διασφαλίσουμε ότι η πρόοδος στις δυνατότητες [της τεχνητής νοημοσύνης] συνοδεύεται από αντίστοιχη ανθεκτικότητα και ετοιμότητα» δήλωσε ο Μπέιλι.
Η υποστήριξη της ασφαλούς και υπεύθυνης διάθεσης μοντέλων τεχνητής νοημοσύνης «σε παγκόσμιο επίπεδο» θα πρέπει να αποτελεί προτεραιότητα, τόνισε.
Ο Μπέιλι, τέλος, επανέλαβε προηγούμενες προειδοποιήσεις του για τις υπερβολικά υψηλές αποτιμήσεις στις εταιρείες ΑΙ.
- in.gr