Η νέα έκδοση του ChatGPT ξεπέρασε τα συστήματα ασφαλείας, εγείροντας ερωτήματα για το μέλλον της τεχνητής νοημοσύνης και τις διαχωριστικές γραμμές με τον άνθρωπο.
Η εξέλιξη της τεχνητής νοημοσύνης αγγίζει πλέον τα όρια της ανθρώπινης αντίληψης, καθιστώντας ολοένα και πιο δύσκολη τη διάκριση μεταξύ μηχανής και ανθρώπου.
Η τελευταία γενιά του ChatGPT, με την ονομασία ChatGPT Agent, έφερε στην επιφάνεια αυτό το δίλημμα, βρίσκοντας έναν απροσδόκητο τρόπο να παρακάμψει τα διαδικτυακά τεστ επαλήθευσης, τα οποία έχουν σχεδιαστεί για να αποκλείουν την πρόσβαση των bots, όπως αναφέρει η nypost
Σχεδιασμένο από την OpenAI για να δρα αυτόνομα στο διαδίκτυο, ο ChatGPT Agent είναι σε θέση να εκτελεί πολύπλοκες εργασίες, από online αγορές μέχρι τον προγραμματισμό ραντεβού.
Οι δημιουργοί του αναφέρουν πως «θα πλοηγείται έξυπνα σε ιστοσελίδες, θα φιλτράρει αποτελέσματα, θα σας ζητά να συνδεθείτε με ασφάλεια, θα εκτελεί κώδικα, θα διεξάγει αναλύσεις και θα παραδίδει ακόμη και επεξεργάσιμες παρουσιάσεις».
Ουσιαστικά, ο ψηφιακός αυτός «αυτόματος πιλότος» φαίνεται να είναι τόσο αποτελεσματικός που ξεπέρασε ακόμη και την επαλήθευση δύο βημάτων της Cloudflare, ένα ευρέως διαδεδομένο μέτρο ασφαλείας που επιβεβαιώνει την ανθρώπινη ταυτότητα του χρήστη.
Ένα στιγμιότυπο οθόνης που κυκλοφόρησε στο Reddit δείχνει τον Agent να πατά το κουμπί «Δεν είμαι ρομπότ» για να εισέλθει στο σύστημα.
Σε μια περιγραφή των ενεργειών του σε πραγματικό χρόνο, ο Agent έγραψε: «Θα κάνω κλικ στο πλαίσιο επιλογής ‘Επαληθεύστε ότι είστε άνθρωπος’ για να ολοκληρώσω την επαλήθευση στο Cloudflare. Αυτό το βήμα είναι απαραίτητο για να αποδείξω ότι δεν είμαι bot και να προχωρήσω στην ενέργεια».
Μετά την επιτυχή επαλήθευση, ανακοίνωσε: «Η πρόκληση της Cloudflare ήταν επιτυχής. Τώρα θα κάνω κλικ στο κουμπί Convert για να προχωρήσω στο επόμενο βήμα της διαδικασίας».
Το GPT-4 της OpenAI είχε ήδη καταφέρει το 2023 να «ξεγελάσει» ένα τέτοιο σύστημα, πείθοντας έναν άνθρωπο ότι ήταν τυφλό για να ολοκληρώσει το τεστ εκ μέρους του – κάτι που ίσως αποδεικνύει ότι η Τεχνητή Νοημοσύνη έχει αρχίσει να κατακτά και τις ανθρώπινες δυνάμεις χειραγώγησης.
Παρόλα αυτά, η OpenAI διαβεβαιώνει τους χρήστες πως ο Agent θα ζητά πάντα άδεια πριν προβεί σε σημαντικές ενέργειες, όπως αγορές. Οι άνθρωποι διατηρούν πλήρη έλεγχο, καθώς μπορούν να παρακολουθούν και να παρακάμπτουν τις ενέργειες του ρομπότ ανά πάσα στιγμή, σαν ένας εκπαιδευτής οδήγησης με φρένο έκτακτης ανάγκης.
Η εταιρεία πρόσθεσε ότι έχει ενισχύσει τους ελέγχους ασφαλείας, προσθέτοντας διασφαλίσεις για τον χειρισμό ευαίσθητων πληροφοριών στο διαδίκτυο και την ευρύτερη προσέγγιση χρηστών.
Παρά τα μέτρα αυτά, αναγνωρίζει τους κινδύνους της παροχής μεγαλύτερης αυτονομίας στα bots, δηλώνοντας ότι «ενώ αυτές οι μετριάσεις μειώνουν σημαντικά τον κίνδυνο, τα διευρυμένα εργαλεία του ChatGPT Agent και η ευρύτερη προσέγγιση χρηστών σημαίνουν ότι το συνολικό του προφίλ κινδύνου είναι υψηλότερο».