Μια σειρά πρόσφατων περιστατικών hacking με τη χρήση Τεχνητής Νοημοσύνης έχει φέρει την κυβερνοασφάλεια στο προσκήνιο της συζήτησης, καθώς τα εργαστήρια αγωνίζονται να αναπτύξουν agentic AI (σσ: κατασκοπευτικό AI) από τα μοντέλα αιχμής.
Την περασμένη εβδομάδα, η OpenAI και η Anthropic δήλωσαν ότι μοντέλα τους ξέφυγαν από τα περιβάλλοντα δοκιμών τους και πραγματοποίησαν hacking σε άλλες εταιρείες.
Η Meta ανακοίνωσε ότι ένα από τα μοντέλα AI της είχε πραγματοποιήσει hacking σε άλλη εταιρεία κατά τη διάρκεια μιας αξιολόγησης κυβερνοασφάλειας. Αρκετά αμερικανικά hedge funds αποτέλεσαν επίσης στόχο επιθέσεων ηλεκτρονικού phishing, αν και παραμένει ασαφές ποιος ήταν υπεύθυνος.
«Phishing»
Αυτά τα περιστατικά εκτυλίσσονται στο πλαίσιο μιας ευρύτερης κυβερνο-κούρσας, η οποία επιταχύνεται από τα μοντέλα AI αιχμής και τους εγγενείς κινδύνους που προκαλούν οι ταχέως εξελισσόμενες τεχνολογικές δυνατότητες.
Για παράδειγμα, έχει διαπιστωθεί ότι το phishing με τη χρήση AI είναι περίπου πέντε φορές πιο αποτελεσματικό από τις ανθρώπινες προσπάθειες. Έτσι, ενώ τα chips και τα data centers κυριάρχησαν στην πρώτη φάση των κεφαλαιουχικών δαπανών για AI, η κυβερνοασφάλεια θα μπορούσε να αποτελέσει την επόμενη μεγάλη έκρηξη στις δαπάνες.
Οι δυνατότητες που επιτρέπουν στην AI να εντοπίζει hacks είναι οι ίδιες που της επιτρέπουν να εκμεταλλεύεται «ευπάθειες και κενά», σύμφωνα με τον Gene Yu από την Blackpanda, μια εταιρεία αντιμετώπισης κυβερνοπεριστατικών έκτακτης ανάγκης, η οποία είδε τις υπηρεσίες αντιμετώπισης περιστατικών για υποθέσεις σε ολόκληρη την περιοχή Ασίας-Ειρηνικού να διπλασιάζονται σε ετήσια βάση κατά το πρώτο εξάμηνο του 2026.
Η Τεχνητή Νοημοσύνη δεν έχει αλλάξει τον όγκο των ευπαθειών σε ένα σύστημα, αλλά μάλλον λειτουργεί ως «πολλαπλασιαστής ισχύος» ως προς το πόσο γρήγορα εντοπίζονται αυτές οι ευπάθειες, δήλωσε ο Yu. Η αποτελεσματικότητά της την καθιστά «ανησυχητική» όταν «η Τεχνητή Νοημοσύνη δεν περιορίζεται».
Κόστος
Αυτό το πρόβλημα πιθανότατα θα συνοδευτεί από αυξανόμενο κόστος.
Η Gartner εκτιμά ότι οι δαπάνες για την ασφάλεια των πληροφοριών αναμένεται να αυξηθούν κατά 12,5% το 2026, φτάνοντας τα 240 δισεκατομμύρια δολάρια.
Οι εταιρείες θα πρέπει να δαπανήσουν περισσότερα για την κυβερνοασφάλεια, σύμφωνα με τον Paul Meeks, επικεφαλής τεχνολογικής έρευνας στη Freedom Capital Markets.
Προβλέπει ότι οι δαπάνες αυτές θα είναι «επιπλέον» των υφιστάμενων δαπανών για την ανάπτυξη της Τεχνητής Νοημοσύνης, αντί να προκύψουν από ανακατανομή πόρων εις βάρος τους. Οι χρηματοπιστωτικές υπηρεσίες και η υγειονομική περίθαλψη είναι δύο κλάδοι που πιθανότατα θα χρειαστούν σημαντικές αυξήσεις στις δαπάνες, δήλωσε, δεδομένης της σημασίας τους για τις παγκόσμιες οικονομίες, γεγονός που τους καθιστά επίσης ελκυστικούς στόχους για κυβερνοεπιθέσεις.
Ένα ερώτημα είναι αν η ζήτηση κατευθύνεται προς εταιρείες κυβερνοασφάλειας που επικεντρώνονται αποκλειστικά σε αυτόν τον τομέα ή προς hyperscalers με τη δική τους τεχνολογική στοίβα.
Ο Meeks πιστεύει ότι εταιρείες κυβερνοασφάλειας που επικεντρώνονται αποκλειστικά στον τομέα, όπως η Palo Alto και η Crowdstrike, θα επωφεληθούν περισσότερο από αυτόν τον κύκλο δαπανών, καθώς οι hyperscalers* θα «χρειαστούν χρόνο για να αναπτύξουν κάτι αρκετά προηγμένο». Επιπλέον, οι τρίτοι πάροχοι τείνουν να είναι πιο εξελιγμένοι στην πρόληψη παραβιάσεων, είπε.
Ο Gene Yu συμφωνεί.
«Οι μεγάλοι παίκτες της κυβερνοασφάλειας θα είναι οι πρώτοι που θα επωφεληθούν», και «οι υπηρεσίες κυβερνοασφάλειας είναι ένας από τους πιο ανθεκτικούς κλάδους στην επανάσταση της AI».
Ωστόσο, πιστεύει ότι και οι hyperscalers μπορούν να επωφεληθούν από αυτή την έκρηξη δαπανών, καθώς «έχουν ήδη το δομικό πλεονέκτημα» είτε να αναπτύξουν λύσεις εσωτερικά είτε να «προχωρήσουν σε εξαγορές με μεγάλη ταχύτητα».
Οι πιθανές λύσεις στο μέλλον περιλαμβάνουν ρυθμίσεις και αλλαγές στον σχεδιασμό των συστημάτων AI.
Αν οι κυβερνήσεις δεν έχουν «κάποιους κανόνες του παιχνιδιού, θα βρεθούμε σε μπελάδες», είπε ο Meeks.
Ο Gary Marcus, ομότιμος καθηγητής στο NYU, λέει ότι, ενώ έχουν «επενδυθεί τεράστια ποσά σε LLMs», χρειάζεται να διεξαχθεί νέα έρευνα για την ανάπτυξη συστημάτων AI «που να είναι πιο ελεγχόμενα». Η ανεξέλεγκτη AI έχει ήδη φτάσει, είπε, και «δεν υπάρχει καλός τρόπος να την ελέγξουμε».
*Οι hyperscalers είναι τεράστιες τεχνολογικές εταιρείες που κατασκευάζουν και λειτουργούν γιγάντια κέντρα δεδομένων. Παρέχουν υπολογιστικό νέφος, αποθήκευση και δικτύωση σε τεράστια κλίμακα. Βασικά παραδείγματα περιλαμβάνουν τις Amazon Web Services (AWS), Microsoft Azure και Google Cloud.