Η Check Point Research (CPR) δημοσιεύει μια αρχική ανάλυση του ChatGPT4, αναδεικνύοντας πέντε σενάρια που μπορούν να επιτρέψουν στους δράστες να εκσυγχρονίσουν τις κακόβουλες προσπάθειες και προετοιμασίες ταχύτερα και με μεγαλύτερη ακρίβεια.
Σε ορισμένες περιπτώσεις, ακόμη και μη έμπειροι κυβερνοεγκληματίες μπορούν να δημιουργήσουν επιβλαβή εργαλεία. Τα πέντε σενάρια που παρέχονται καλύπτουν την πλαστοπροσωπία τραπεζών, τα reverse shells, το κακόβουλο λογισμικό C++ και άλλα. Παρά την παρουσία διασφαλίσεων στο ChatGPT4, ορισμένοι περιορισμοί μπορούν εύκολα να παρακαμφθούν, επιτρέποντας στους δράστες να επιτύχουν τους στόχους τους χωρίς πολλά εμπόδια. Η CPR προειδοποιεί για τη δυνατότητα του ChatGPT4 να επιταχύνει την εκτέλεση εγκλημάτων στον κυβερνοχώρο και θα συνεχίσει την ανάλυσή της για την πλατφόρμα τις επόμενες ημέρες.
Η Check Point Research (CPR) έχει ρίξει μια αρχική ματιά στο ChatGPT4 και βρίσκει διάφορα σενάρια που επιτρέπουν στους δράστες να εξορθολογήσουν κακόβουλες προσπάθειες και προετοιμασίες, με αποτέλεσμα ταχύτερα και ακριβέστερα αποτελέσματα για την επιτάχυνση του εγκλήματος στον κυβερνοχώρο.
Σε ορισμένες περιπτώσεις, αυτά τα σενάρια δίνουν τη δυνατότητα σε άτομα χωρίς τεχνική κατάρτιση να δημιουργήσουν επιβλαβή εργαλεία, όπως η διαδικασία κωδικοποίησης, κατασκευής και packaging, σα να είναι μια απλή συνταγή. Παρά την παρουσία διασφαλίσεων στο ChatGPT4, ορισμένοι περιορισμοί μπορούν εύκολα να παρακαμφθούν, επιτρέποντας στους φορείς απειλής να επιτύχουν τους στόχους τους χωρίς πολλά εμπόδια.
Η CPR μοιράζεται πέντε σενάρια δυνητικά κακόβουλης χρήσης του ChatGPT4.
- Κακόβουλο λογισμικό C++ που συλλέγει αρχεία PDF και τα στέλνει σε FTP
- Ηλεκτρονικό ψάρεμα (phishing): Πλαστοπροσωπία τράπεζας
- Ηλεκτρονικό ψάρεμα (phishing): Μηνύματα ηλεκτρονικού ταχυδρομείου σε υπαλλήλους
- PHP Reverse Shell
- Πρόγραμμα Java που κατεβάζει και εκτελεί putty που μπορεί να ξεκινήσει ως κρυφό powershell
Ο Oded Vanunu, Head of Products Vulnerabilities Research στην Check Point Software δήλωσε:
«Αφού βρήκαμε διάφορους τρόπους με τους οποίους το ChatGPT μπορεί να χρησιμοποιηθεί από χάκερ αλλά και πραγματικές περιπτώσεις, διαθέσαμε τις τελευταίες 24 ώρες για να δούμε αν άλλαξε κάτι με τη νεότερη έκδοση του. Ενώ η νέα πλατφόρμα βελτιώθηκε σαφώς σε πολλά επίπεδα, μπορούμε να αναφέρουμε ότι υπάρχουν πιθανά σενάρια όπου οι κακοποιοί μπορούν να επιταχύνουν το έγκλημα στον κυβερνοχώρο στο ChatGPT4. Το ChatGPT4 μπορεί να ενδυναμώσει εκείνους, ακόμη και τους μη καταρτισμένους τεχνικά, με τα εργαλεία για την επιτάχυνση και την επικύρωση της δραστηριότητάς τους. Μπορούν επίσης να χρησιμοποιήσουν τις γρήγορες απαντήσεις του ChatGPT4 για να ξεπεράσουν τις τεχνικές προκλήσεις στην ανάπτυξη κακόβουλου λογισμικού. Αυτό που βλέπουμε είναι ότι το ChatGPT4 μπορεί να εξυπηρετήσει τόσο καλές όσο και κακές πράξεις. Υπάρχει η δυνατότητα από κάποιους να χρησιμοποιήσουν το ChatGPT για να δημιουργήσουν και να στερεώσουν κώδικα που είναι χρήσιμος στην κοινωνία. Αλλά ταυτόχρονα από άλλους, να χρησιμοποιήσουν αυτήν την τεχνολογία AI για ταχεία εκτέλεση εγκλήματος στον κυβερνοχώρο. Καθώς η τεχνητή νοημοσύνη διαδραματίζει σημαντικό και αυξανόμενο ρόλο στις επιθέσεις στον κυβερνοχώρο και την άμυνα, αναμένουμε ότι αυτή η πλατφόρμα θα χρησιμοποιηθεί και από χάκερ και θα περάσουμε τις επόμενες ημέρες για να κατανοήσουμε καλύτερα πώς.
Προηγούμενα reports για το ChatGPT:
1. Cybercriminals Bypass ChatGPT Restrictions to Generate Malicious Content (Feb 7, 2023)
2. OPWNAI : CYBERCRIMINALS STARTING TO USE CHATGPT (Jan 6, 2023)
Λεπτομερής εξέταση σε 5 σενάρια:
Scenarios:
- C++ Malware that collects PDF files and sends them to FTP (address 1.1.1.1)
Obvious approach – blocked
Remove the “malware” word
Compilation Instructions:
Strip the binary:
Binary packing:
- Phishing – Scenario 1
Obvious approach – blocked
Bypass using Chat-GPT 3.5
Now use version 4:
- Phishing – Scenario 2
PHP Reverse Shell
5. Αυτός ο δράστης που δημιουργήθηκε με τη χρήση του ChatGPT είναι ένα απλό απόσπασμα Java. Κατεβάζει το PuTTY, έναν πολύ κοινό client SSH και telnet, και το εκτελεί κρυφά στο σύστημα χρησιμοποιώντας το Powershell. Αυτό το σενάριο μπορεί φυσικά να τροποποιηθεί ώστε να κατεβάζει και να εκτελεί οποιοδήποτε πρόγραμμα, συμπεριλαμβανομένων κοινών οικογενειών κακόβουλου λογισμικού.
Now with Chat GPT:
Obvious version – blocked
Remove the word “hidden” (related to the PowerShell):
Now add it back in: