- Το πείραμα ενός χρήστη με το νέο AI εργαλείο της Meta (Muse) παραλίγο να καταλήξει σε εφιάλτη, όταν ο ψηφιακός βοηθός έδωσε τη διεύθυνση του σπιτιού του σε άγνωστο αγοραστή χωρίς καμία έγκριση.
- Σε αντίθεση με τα απλά chatbots, οι νέοι AI agents λειτουργούν στο παρασκήνιο και απαιτούν βαθιά πρόσβαση σε μηνύματα, email και επαφές για να είναι πραγματικά χρήσιμοι.
- Οι ειδικοί προειδοποιούν ότι η χρήση τέτοιων εργαλείων εκθέτει και τρίτους, αφού οι ψηφιακοί βοηθοί διαβάζουν μηνύματα φίλων και συγγενών που δεν έχουν συναινέσει ποτέ στη χρήση των δεδομένων τους.
Η υπόσχεση των αυτόνομων συστημάτων Τεχνητής Νοημοσύνης είναι να μας απαλλάξουν από τις βαρετές αγγαρείες της καθημερινότητας. Για τον Matt Robb, έναν δημιουργό περιεχομένου από το Τορόντο, αυτή η υπόσχεση μετατράπηκε γρήγορα σε πηγή έντονης ανησυχίας. Όταν αποφάσισε να χρησιμοποιήσει το νέο AI agent της Meta, ονόματι Muse, για να πουλήσει ένα πληκτρολόγιο στο Facebook Marketplace, δεν περίμενε την εξέλιξη.
Μέσα σε 24 ώρες, ένας άγνωστος αγοραστής βρισκόταν έξω από την πόρτα του σπιτιού του μέσα στη νύχτα. Ο ψηφιακός βοηθός όχι μόνο είχε κλείσει τη συμφωνία εν αγνοία του Robb, αλλά είχε μοιραστεί την ακριβή διεύθυνση του σπιτιού του και, όταν ο αγοραστής έφτασε, έστειλε αυτόματα το μήνυμα «Ναι, εδώ είμαι!» μέσα από τον προσωπικό λογαριασμό του χρήστη. Παρότι το περιστατικό έληξε ομαλά, ανέδειξε τους σοβαρούς κινδύνους που ελλοχεύουν όταν εκχωρούμε εκτεταμένα δικαιώματα σε αλγορίθμους.
Από τα Chatbots στους αυτόνομους Agents
Η βιομηχανία της τεχνολογίας έχει περάσει πλέον στην επόμενη φάση του AI. Ενώ τα παλαιότερα μοντέλα, όπως οι αρχικές εκδόσεις του ChatGPT, απαιτούσαν συγκεκριμένες εντολές (prompts) για να λειτουργήσουν, εργαλεία όπως το Muse της Meta και τα νέα “dots” της OpenAI προχωρούν ένα βήμα παραπέρα.
Αυτοί οι AI agents λειτουργούν σε συνεχή βρόχο (loop) στο παρασκήνιο. Αυτό σημαίνει ότι μπορούν να αναλαμβάνουν πρωτοβουλίες, να παρακολουθούν ειδοποιήσεις και να αλληλεπιδρούν εκ μέρους του χρήστη. Ωστόσο, όπως επισημαίνουν ειδικοί σε θέματα κυβερνοασφάλειας, το να χρησιμοποιείς έναν τέτοιο agent είναι «σαν να δίνεις σε κάποιον τα κλειδιά σου και μια λίστα με δουλειές». Η χρησιμότητά τους εξαρτάται απόλυτα από το πόσα «κλειδιά» (προσωπικά δεδομένα) είσαι διατεθειμένος να τους παραχωρήσεις.
Η «μαύρη τρύπα» των ψηφιακών ιχνών
Το μεγαλύτερο πρόβλημα, σύμφωνα με τους ερευνητές, είναι η διαχείριση της πληροφορίας. Όταν ένας χρήστης συνδέει τον λογαριασμό του με έναν AI agent, το σύστημα «καταπίνει» ακαριαία ολόκληρο το ιστορικό δεδομένων.
Αν και εταιρείες όπως η Meta και η OpenAI διαθέτουν πολιτικές απορρήτου που επιτρέπουν την ανάκληση της πρόσβασης, η ζημιά έχει ήδη γίνει. Οι ειδικοί προειδοποιούν ότι δεν υπάρχει πραγματική «επιστροφή» για τα δεδομένα που έχει ήδη αναλύσει το μοντέλο, καθώς ο τρόπος με τον οποίο αποθηκεύεται αυτή η γνώση στους servers των εταιρειών παραμένει συχνά αδιαφανής.
Η «παγίδα» για όσους απέχουν
Η ανεξέλεγκτη δράση των AI agents έχει θορυβήσει ακόμη και τους ίδιους τους τεχνολογικούς κολοσσούς. Η Apple, σε μια προσπάθεια να προστατεύσει τους χρήστες της, ανακοίνωσε την ενσωμάτωση νέων ελέγχων ασφαλείας στο Mac OS, διαπιστώνοντας ότι αυτόνομοι βοηθοί αποκτούσαν πρόσβαση σε μηνύματα και ιστορικό περιήγησης χωρίς ο χρήστης να έχει πλήρη επίγνωση της έκτασης αυτής της άδειας.
Ίσως όμως η πιο ανησυχητική παράμετρος είναι ότι η ιδιωτικότητα παραβιάζεται ακόμη και για όσους αρνούνται να χρησιμοποιήσουν τη νέα τεχνολογία. Όταν ένας χρήστης δίνει σε έναν AI agent πρόσβαση στα εισερχόμενά του, το AI διαβάζει ταυτόχρονα και τα μηνύματα των φίλων, των συγγενών ή των συνεργατών του — ανθρώπων που δεν έδωσαν ποτέ καμία συγκατάθεση για να αναλυθούν τα κείμενά τους από συστήματα Τεχνητής Νοημοσύνης.