Ερευνητές ανέλυσαν περισσότερες από 2.000 καταχωρίσεις μνήμης του ChatGPT, διαπιστώνοντας ότι στο δείγμα τους η συντριπτική πλειονότητα δημιουργήθηκε χωρίς ρητό αίτημα των χρηστών. Τα ευρήματα ανοίγουν τη συζήτηση για την εξατομίκευση και την προστασία των προσωπικών δεδομένων.
- Στο δείγμα της μελέτης, το 96% των καταχωρίσεων μνήμης δημιουργήθηκε με πρωτοβουλία του συστήματος και όχι ως απάντηση σε ρητό αίτημα του χρήστη.
- Το 28% των μνημών περιείχε προσωπικά δεδομένα σύμφωνα με τον GDPR, ενώ το 52% περιλάμβανε πληροφορίες που οι ερευνητές χαρακτήρισαν ψυχολογικές πληροφορίες για τους χρήστες.
- Η μνήμη μπορεί να κάνει τις απαντήσεις πιο χρήσιμες, όμως οι ερευνητές επισημαίνουν κινδύνους για την ιδιωτικότητα και περιπτώσεις στις οποίες το σύστημα καταλήγει σε συμπεράσματα βασισμένα σε υποθέσεις. Τα αποτελέσματα αφορούν το συγκεκριμένο δείγμα και την έκδοση του συστήματος που εξετάστηκε.
Τα chatbot δημιουργούν λεπτομερή «αλγοριθμικά αυτοπορτρέτα» των χρηστών τους, καθώς διατηρούν πληροφορίες από τις συνομιλίες τους προκειμένου να προσφέρουν μια ιδιαίτερα εξατομικευμένη εμπειρία, προειδοποιούν ερευνητές.
Πρόσφατη μελέτη, την οποία πραγματοποίησε ομάδα επιστημόνων από τη Γερμανία, την Ινδία και την Ολλανδία και παρουσίασε στο συνέδριο ACM Web Conference 2026, εξέτασε τον τρόπο με τον οποίο το ChatGPT της OpenAI αξιοποιεί όσα πληκτρολογούν οι χρήστες για να δημιουργήσει μια ψηφιακή εικόνα τους.
Σε μια εποχή όπου η ψηφιακή εμπειρία είναι ήδη εξατομικευμένη από αλγορίθμους προτάσεων που βασίζονται σε δεδομένα, η μελέτη υποστηρίζει ότι η μνήμη των chatbot εισάγει μια διαφορετική μορφή εξατομίκευσης: εκείνη που προκύπτει από πληροφορίες που οι ίδιοι οι χρήστες αποκαλύπτουν σε ιδιωτικές συνομιλίες.
Σύμφωνα με τους ερευνητές, η πρακτική αυτή εγείρει ερωτήματα για την ιδιωτικότητα και καθιστά αναγκαία μια πιο προσεκτική εξέταση των μηχανισμών που επιτρέπουν την εξατομίκευση.
Τι έδειξε η ανάλυση 2.050 «μνημών»
Οι ερευνητές αξιοποίησαν αρχεία συνομιλιών που παραχώρησαν 80 χρήστες του ChatGPT, οι οποίοι απέκτησαν πρόσβαση στο ιστορικό τους μέσω της ευρωπαϊκής νομοθεσίας για την προστασία δεδομένων.
Στα αρχεία εντόπισαν 2.050 καταχωρίσεις μνήμης από 65 χρήστες. Όπως διαπίστωσαν, το 96% των μνημών στο δείγμα είχε δημιουργηθεί με πρωτοβουλία του συστήματος, χωρίς προηγούμενο ρητό αίτημα του χρήστη.
Οι αποθηκευμένες πληροφορίες ήταν συχνά αποκαλυπτικές. Περίπου το 28% των μνημών που εξετάστηκαν περιείχε προσωπικά δεδομένα, όπως αυτά ορίζονται από τον Γενικό Κανονισμό Προστασίας Δεδομένων της ΕΕ (GDPR), ενώ το 52% περιλάμβανε ψυχολογικές πληροφορίες για τους χρήστες.
Παράλληλα, οι ερευνητές διαπίστωσαν ότι το 84% των μνημών βασιζόταν άμεσα στο περιεχόμενο των συνομιλιών, αποτυπώνοντας πιστά το σχετικό πλαίσιο.
«Παλαιότερα, οι πλατφόρμες είχαν έναν στόχο: να σου πουλήσουν διαφημίσεις και να μεσολαβήσουν ανάμεσα σε εσένα και έναν διαφημιζόμενο», δήλωσε στο Gizmodo ο επικεφαλής συντάκτης της μελέτης, Αμπισέκ Ντας.
«Τώρα, όμως, συνομιλούν πραγματικά μαζί σου. Επομένως, μπορεί να θέλουν να μάθουν περισσότερα για εσένα, ώστε να μπορούν να έχουν μια αποτελεσματική συζήτηση».
Όταν το chatbot βγάζει τα δικά του συμπεράσματα
Οι ερευνητές διαπίστωσαν ότι, σε ορισμένες περιπτώσεις, οι μνήμες που δημιουργούσε το ChatGPT βασίζονταν σε υποθέσεις.
Για παράδειγμα, όταν ένας χρήστης ζήτησε από το chatbot να του προτείνει συγκροτήματα παρόμοια με τους Nirvana, το ChatGPT σημείωσε ότι στον χρήστη «αρέσουν οι Nirvana». Όπως επισημαίνει η μελέτη, αυτό δεν είχε διατυπωθεί ρητά από τον χρήστη και αποτελούσε συμπέρασμα του συστήματος.
Στη συγκεκριμένη περίπτωση, το ChatGPT είχε επισημάνει ότι η υπόθεση αυτή υποστηριζόταν ασθενώς από τα διαθέσιμα στοιχεία.
Η χρησιμότητα της μνήμης και τα όρια της μελέτης
Η μνήμη μπορεί να αποδειχθεί χρήσιμη. Ένας συχνός χρήστης, για παράδειγμα, ίσως δεν θέλει να υπενθυμίζει κάθε φορά στο chatbot ποια είναι η δουλειά του όταν ζητά βοήθεια για τη σύνταξη ενός email.
Η μελέτη έχει, ωστόσο, και περιορισμούς. Ένας από τους σημαντικότερους είναι ότι το σύστημα μνήμης της OpenAI έχει αναβαθμιστεί από την περίοδο στην οποία βασίζεται η έρευνα. Επιπλέον, τα αποτελέσματα προέρχονται από ένα συγκεκριμένο δείγμα χρηστών και δεν μπορούν από μόνα τους να περιγράψουν την εμπειρία όλων.
Οι χρήστες μπορούν επίσης να επιλέξουν να απενεργοποιήσουν λειτουργίες μνήμης από τις ρυθμίσεις τους.
Η δυνατότητα ενός chatbot να θυμάται στοιχεία μπορεί, παράλληλα, να ενισχύσει τη συνεχή χρήση του. Το πρωτότυπο δημοσίευμα αναφέρεται και σε περιπτώσεις στις οποίες η αλληλεπίδραση με chatbot έχει συνδεθεί με την ενίσχυση παραληρητικών πεποιθήσεων. Η σχέση αυτή, ωστόσο, δεν αποδεικνύει από μόνη της ότι η λειτουργία μνήμης προκαλεί ψύχωση.
Όταν το chatbot αντιμετωπίζεται ως φίλος
Κατά τον Ντας, ο ρόλος των chatbot ως τεχνολογίας με την οποία οι άνθρωποι αναπτύσσουν μια μορφή σχέσης δημιουργεί νέα ερωτήματα για την ιδιωτικότητα.
Πολλοί χρήστες ενδέχεται να μη συνομιλούν με ένα chatbot αντιμετωπίζοντάς το απλώς ως εργαλείο, αλλά ως συνάδελφο ή ακόμη και ως φίλο. Και στους φίλους μας συχνά εκμυστηρευόμαστε ιδιαίτερα προσωπικές λεπτομέρειες.
«Αυτός είναι ο κίνδυνος για την ιδιωτικότητα που αρχίζει να αναδύεται, επειδή πλέον δεν υπάρχει σαφές όριο. Το σύστημα λειτουργεί ως σύμβουλος, φίλος, γιατρός, δικηγόρος σου και, επομένως, διαθέτει πληροφορίες για τα πάντα», δήλωσε ο Ντας στο Gizmodo.
«Αν το σύστημα σε γνωρίζει τόσο καλά και αν στόχος του είναι να προσαρμόζεται στις πεποιθήσεις σου και να επιβεβαιώνει τις σκέψεις σου κολακευτικά, ώστε να επιστρέφεις ξανά και ξανά, τότε αυτό μπορεί να έχει καταστροφικές ευρύτερες συνέπειες: από την ακραία πολιτική πόλωση έως την ενίσχυση προκαταλήψεων και μεροληψιών».