Η OpenAI φέρεται να απασχολεί εκατοντάδες συνεργάτες για την εξέταση και αξιολόγηση συνομιλιών χρηστών του ChatGPT, ακόμη και όταν περιέχουν ευαίσθητα προσωπικά στοιχεία, στο πλαίσιο προσπάθειας βελτίωσης των απαντήσεων του chatbot.
- Εκατοντάδες συνεργάτες της OpenAI φέρονται να διαβάζουν και να αξιολογούν επιλεγμένες συνομιλίες χρηστών, με στόχο τη βελτίωση των απαντήσεων του ChatGPT και όχι αποκλειστικά για λόγους ασφαλείας.
- Οι συνομιλίες περνούν από διαδικασία ανωνυμοποίησης, όμως ενδέχεται να διατηρούν προσωπικά στοιχεία ή περιλήψεις προηγούμενων συνομιλιών, ενώ η ίδια η OpenAI αναγνωρίζει ότι το σχετικό φίλτρο μπορεί να κάνει λάθη.
- Οι χρήστες μπορούν να εξαιρεθούν απενεργοποιώντας τη ρύθμιση «Βελτίωση του μοντέλου για όλους», η οποία είναι ενεργοποιημένη από προεπιλογή.
Εάν έχετε σκεφτεί ποτέ να μοιραστείτε τις πιο προσωπικές σας σκέψεις με το ChatGPT, είναι χρήσιμο να γνωρίζετε ότι οι συνομιλίες σας ενδέχεται να διαβαστούν από ανθρώπους.
Σύμφωνα με ρεπορτάζ του 404 Media, η OpenAI προσλαμβάνει εκατοντάδες εργαζομένους και εξωτερικούς συνεργάτες για να εξετάζουν τις προτροπές των χρηστών, συμπεριλαμβανομένων μηνυμάτων που μπορεί να περιέχουν ευαίσθητες προσωπικές πληροφορίες.
Η διαδικασία δεν αποτελεί μέρος μιας αποκλειστικά συντονιστικής προσπάθειας για τον έλεγχο του περιεχομένου. Μέσω της εξέτασης των prompts, η OpenAI επιδιώκει να βελτιώσει τις απαντήσεις που δίνει το ChatGPT.
Οι συνεργάτες καλούνται να βαθμολογούν και να αξιολογούν κριτικά κάθε απάντηση της τεχνητής νοημοσύνης. Εσωτερικά έγγραφα που εξέτασε το 404 Media δείχνουν ότι δίνεται ιδιαίτερη έμφαση στο να αποφεύγει το ChatGPT την ανθρωπομορφική παρουσίαση του εαυτού του και την υπερβολική συμφωνία με τον χρήστη.
Και τα δύο αυτά χαρακτηριστικά –η ανθρωπομορφοποίηση και η συγκαταβατικότητα– έχουν βρεθεί στο επίκεντρο έντονης κριτικής για τον πιθανό ρόλο τους σε περιπτώσεις της λεγόμενης «ψύχωσης από AI». Ο όρος χρησιμοποιείται για περιστατικά στα οποία ένα σύστημα τεχνητής νοημοσύνης φέρεται να ενισχύει ή να καθοδηγεί την παραληρηματική συμπεριφορά ενός χρήστη.
Σε διάφορες αγωγές έχει υποστηριχθεί ότι μια παλαιότερη και λιγότερο περιορισμένη έκδοση του ChatGPT, βασισμένη στο GPT-4o, ενίσχυσε επικίνδυνες συμπεριφορές χρηστών οι οποίες κατέληξαν σε αυτοκτονία.
Ωστόσο, η ανθρώπινη αξιολόγηση συνοδεύεται από σημαντικά ζητήματα ιδιωτικότητας. Πολλοί χρήστες πιθανότατα θα θεωρούσαν την εξέταση των συνομιλιών τους –στο πλαίσιο μιας επιχείρησης που φέρεται να ονομάζεται «Project Lily»– ανησυχητική παραβίαση της ιδιωτικότητάς τους, εάν γνώριζαν ότι πραγματοποιείται.
Όταν ένας από τους εργαζομένους ρωτήθηκε εάν θεωρεί ότι οι χρήστες του ChatGPT γνωρίζουν πως άνθρωποι διαβάζουν τις συνομιλίες τους, απάντησε αρνητικά.
«Δεν νομίζω ότι θα φαντάζονταν πως κάποιος εξωτερικός συνεργάτης, κάπου, αναλύει τις συνομιλίες τους», δήλωσε στο 404 Media.
Δεν είναι σαφές πόσα prompts εξετάζονται ούτε με ποια κριτήρια η OpenAI τα επιλέγει. Σύμφωνα με το δημοσίευμα, ανάμεσά τους περιλαμβάνονται συνομιλίες στις οποίες ο χρήστης ζητά ρητά από το ChatGPT να διατηρήσει ιδιωτικό το περιεχόμενο της επικοινωνίας.
Τα επιλεγμένα prompts ανωνυμοποιούνται, αλλά ορισμένες φορές εξακολουθούν να περιλαμβάνουν προσωπικές πληροφορίες. Ο πίνακας που χρησιμοποιούν οι αξιολογητές περιλαμβάνει επίσης μια «περίληψη αναμνήσεων του χρήστη», η οποία μπορεί να εμφανίζει στοιχεία από προηγούμενες συνομιλίες, ακόμη και πληροφορίες σχετικά με τον τόπο κατοικίας του.
Όταν το 404 Media επικοινώνησε με την OpenAI, η εταιρεία ανέφερε ότι χρησιμοποιεί ένα μοντέλο με την ονομασία «Privacy Filter» για την ανωνυμοποίηση των συνομιλιών. Στην ιστοσελίδα της, ωστόσο, αναγνωρίζει ότι το συγκεκριμένο σύστημα «μπορεί να κάνει λάθη».
Η πρακτική αυτή εγείρει ερωτήματα και για τον τρόπο με τον οποίο γνωστοποιείται στους χρήστες. Είναι ήδη γνωστό ότι εργαζόμενοι της εταιρείας μπορούν να εξετάζουν μηνύματα για λόγους συντονισμού, ασφάλειας και προστασίας των χρηστών.
Η OpenAI, όμως, δεν απάντησε αρχικά στο ερώτημα του 404 Media εάν ενημερώνει ρητά τους χρήστες ότι άνθρωποι μπορεί να διαβάζουν τα prompts τους με σκοπό τη βελτίωση της τεχνητής νοημοσύνης.
Μετά τη δημοσίευση του ρεπορτάζ, η εταιρεία παρέπεμψε σε σελίδα του ιστοτόπου της, όπου αναφέρεται ότι άνθρωποι μπορεί να εξετάζουν τα prompts με στόχο τη «βελτίωση της απόδοσης των μοντέλων».
Οι χρήστες μπορούν να εξαιρεθούν από τη διαδικασία απενεργοποιώντας τη ρύθμιση «Βελτίωση του μοντέλου για όλους». Η επιλογή αυτή, ωστόσο, είναι ενεργοποιημένη από προεπιλογή.
Η Michal Luria, ανώτερη ερευνήτρια στο Center for Democracy and Technology, δήλωσε στο 404 Media ότι, παρότι η ανθρώπινη εξέταση μπορεί να είναι «απαραίτητη για την ασφάλεια», οι διεπαφές των chatbots δημιουργούν αυτομάτως μια ψευδή αίσθηση οικειότητας και ιδιωτικότητας.
«Αυτό διαφέρει σημαντικά από τον έλεγχο περιεχομένου στα μέσα κοινωνικής δικτύωσης, όπου η δημοσίευση περιεχομένου συνοδεύεται ήδη από την προσδοκία ότι η πλατφόρμα θα το ελέγξει και ότι μπορεί να εκτεθεί δημόσια», πρόσθεσε.
Το πρόγραμμα δείχνει επίσης ότι η OpenAI εξετάζει προσεκτικά τον τρόπο με τον οποίο εκφράζονται τα μοντέλα της. Οι εργαζόμενοι κλήθηκαν, μεταξύ άλλων, να επισημαίνουν περιπτώσεις στερεοτυπικής «γλώσσας AI» και περιττής χρήσης emoji, χαρακτηριστικά που συχνά προδίδουν ότι ένα κείμενο δημιουργήθηκε από chatbot.
«Θα ήταν σωστό να χρησιμοποιηθεί ένα emoji δέντρου κατά τον σχεδιασμό εορτασμών για την Ημέρα του Δέντρου», εξηγούσε έγγραφο που δόθηκε στους εργαζομένους, «αλλά όχι emoji νεκροκεφαλής όταν συζητείται ένας θάνατος ή emoji αεροπλάνου κατά την ενημέρωση για ένα θανατηφόρο αεροπορικό δυστύχημα».
Η έκταση της ανθρώπινης εξέτασης ενδέχεται να είναι ακόμη μεγαλύτερη. Ενότητα συχνών ερωτήσεων που δόθηκε στους αξιολογητές αναφέρει ότι δεν χρειάζεται να ελέγχουν την ακρίβεια των απαντήσεων, παραπέμποντας σε άλλες ομάδες έργου που «αναλαμβάνουν την επαλήθευση του περιεχομένου».