Η τεχνητή νοημοσύνη έχει μπει για τα καλά στις ζωές μας λόγω του ChatGPT, καθώς μας προσφέρει την δυνατότητα να ζητήσουμε ότι θέλουμε, όμως περιλαμβάνει σημαντικές προκλήσεις και κινδύνους σε θέματα κυβερνοασφάλειας.
Αυτό ήταν το κύριο θέμα συζήτησης στο συνέδριο ασφάλειας RSA στο Σαν Φρανσίσκο αυτή την εβδομάδα, όπου ο διευθυντής κυβερνοασφάλειας της NSA, Rob Joyce, έκανε την ετήσια παρουσίαση του «State of the Hack» και εξέφρασε τους σοβαρούς προβληματισμούς του για την εξέλιξη της ΑΙ.
Ο Joyce προειδοποίησε ότι η δημιουργική τεχνητή νοημοσύνη θα επιτρέψει στους επιτιθέμενους να κατασκευάζουν πιο πειστικά και ελκυστικά μηνύματα ηλεκτρονικού «ψαρέματος», να τροποποιούν το υπάρχον κακόβουλο λογισμικό για να μην ανιχνεύονται και να δημιουργούν ψεύτικο ή παραπλανητικό περιεχόμενο για τη διάδοση παραπληροφόρησης, ακόμη και προπαγάνδας.
Ωστόσο, προέτρεψε επίσης την κοινότητα ασφαλείας να είναι προετοιμασμένη για τις προκλήσεις και τις επιπτώσεις της δημιουργικής AI, οι οποίες, όπως είπε, μόλις αρχίζουν να αναδύονται.
«Πρόκειται πραγματικά για μια τεχνολογία που αλλάζει το παιχνίδι. Κρατηθείτε», ανέφερε ο Rob Joyce.
Δήλωσε επίσης ότι θα δυσχεράνει την επαλήθευση της αυθεντικότητας και της ακεραιότητας των δεδομένων και των επικοινωνιών από τους αμυνόμενους.
«Βλέπουμε τους αντιπάλους μας, τόσο τα διάφορα κράτη όσο και τους εγκληματίες, να αρχίζουν να πειραματίζονται με τη γενιά τύπου ChatGPT για να τους βελτιώνουν την χρήση της αγγλικής γλώσσας», επεσήμανε ο Joyce. «Αυτός ο χάκερ που κατάγεται από τη Ρωσία και δεν μιλάει καλά τα αγγλικά δεν πρόκειται πλέον να φτιάξει ένα άθλια γραμμένο email προς τους υπαλλήλους σας. Θα είναι γραμμένο στα αγγλικά κανονικά, θα βγάζει νόημα, και θα περάσει το αρχικό τεστ, την πρώτη μυρωδιά που λέμε», είπε χαρακτηριστικά.
Τόνισε δε ότι ακόμη η AI επιπέδου ChatGPT-4 δεν είναι σε θέση να δημιουργήσει κακόβουλο λογισμικό από το μηδέν, που να είναι απροβλημάτιστο και να μπορεί να βοηθήσει τους επιτηδείους hackers να αλλάξουν π.χ. τη συμπεριφορά και την υπογραφή ενός υπάρχοντα κώδικα.
Τέλος, δήλωσε ότι η NSA από πλευράς της ερευνά το πώς θα αξιοποιήσει την AI για τις δικές της αποστολές και επιχειρησιακές ανάγκες.
- -