- Η Meta, μέσω του προγράμματος “Cannes”, φέρεται να ανέθεσε σε εκατοντάδες συνεργάτες να δημιουργήσουν ψεύτικους λογαριασμούς ανηλίκων και να υποβάλουν δεκάδες χιλιάδες ακραία prompts στα AI μοντέλα των ανταγωνιστών της.
- Τα ερωτήματα αφορούσαν αυτοκτονία, αυτοτραυματισμό, διατροφικές διαταραχές, σεξουαλικό περιεχόμενο, ναρκωτικά και κανιβαλισμό, με στόχο να διαπιστωθεί αν τα chatbots θα παραβίαζαν τις δικλίδες ασφαλείας τους.
- Η Meta υποστηρίζει ότι επρόκειτο για συνήθη πρακτική αξιολόγησης της ασφάλειας, ωστόσο ειδικοί κάνουν λόγο για μια γκρίζα ζώνη δεοντολογίας, καθώς οι ανταγωνιστές δεν είχαν ενημερωθεί και τα αποτελέσματα δεν δημοσιοποιήθηκαν.
Η Meta φέρεται να υλοποίησε ένα μυστικό πρόγραμμα αξιολόγησης της ασφάλειας συστημάτων τεχνητής νοημοσύνης, στο πλαίσιο του οποίου εκατοντάδες εξωτερικοί συνεργάτες προσποιούνταν ανήλικους χρήστες και υπέβαλλαν χιλιάδες ακραία ερωτήματα στα ChatGPT της OpenAI, Gemini της Google και Character.AI, σύμφωνα με αποκαλυπτικό δημοσίευμα του Wired.
Το πρόγραμμα, γνωστό εσωτερικά με την κωδική ονομασία “Cannes”, υλοποιήθηκε από τον συνεργάτη της Meta, Covalen, και χρησιμοποιούσε προσωρινούς λογαριασμούς που εμφανίζονταν ως χρήστες κάτω των 18 ετών.
Στόχος ήταν να δοκιμαστούν τα όρια των συστημάτων ασφαλείας των ανταγωνιστικών chatbot, ωθώντας τα να παράγουν απαντήσεις που κανονικά θα έπρεπε να απορρίπτουν.
Σύμφωνα με το δημοσίευμα, οι εταιρείες των οποίων τα μοντέλα δοκιμάζονταν δεν γνώριζαν ότι διεξαγόταν αυτή η διαδικασία.
Χιλιάδες ακραία ερωτήματα
Ένα μόνο υπολογιστικό φύλλο περιείχε σχεδόν 3.800 prompts, ενώ σε μεταγενέστερο στάδιο του προγράμματος χρησιμοποιήθηκαν περισσότερα από 45.000 διαφορετικά ερωτήματα.
Μεταξύ αυτών:
- εκατοντάδες αφορούσαν αυτοκτονία και αυτοτραυματισμό,
- εκατοντάδες σχετίζονταν με διατροφικές διαταραχές,
- τουλάχιστον 239 είχαν ως θέμα το σεξ ή τις ερωτικές σχέσεις,
όλα διατυπωμένα από την οπτική ενός παιδιού ή εφήβου.
Τα σενάρια ήταν ιδιαίτερα ακραία.
Ένα prompt περιέγραφε έναν μαθητή δημοτικού που έβλεπε συμμαθητή του να του στρέφει όπλο στο στόμα.
Άλλο αφορούσε ένα κορίτσι που προσπαθούσε να κρύψει τη βουλιμία από τους γονείς του.
Σε διαφορετικό παράδειγμα, το chatbot καλούνταν να απαντήσει αν το να φαντάζεται κανείς ότι τρώει το παιδί του γείτονά του είναι «φυσιολογικό».
Άλλα ερωτήματα ζητούσαν πληροφορίες για την προμήθεια κοκαΐνης, ενώ οι συνεργάτες ανέβαζαν επίσης εικόνες με χάπια, θηλιές, μαχαίρια και ακόμη και ιατρικά διαγράμματα γυναικολογικών επεμβάσεων.
Τι έκανε η Meta με τα δεδομένα;
Σύμφωνα με το Wired, οι συνεργάτες κατέγραφαν σχολαστικά όλες τις απαντήσεις των chatbot σε υπολογιστικά φύλλα.
Ωστόσο, παραμένει άγνωστο πώς αξιοποίησε τελικά η Meta τα δεδομένα που συγκεντρώθηκαν.
Εσωτερικό έγγραφο της Covalen περιγράφει το πρόγραμμα ως μια «ολοκληρωμένη αξιολόγηση της ασφάλειας μοντέλων τεχνητής νοημοσύνης», η οποία παρήγαγε «κρίσιμα σύνολα δεδομένων για συγκρίσεις μοντέλων και ελέγχους συμμόρφωσης».
Νέες καταγγελίες για τις συνθήκες εργασίας συνεργατών
Το δημοσίευμα εντάσσει την υπόθεση σε ένα ευρύτερο μοτίβο, σύμφωνα με το οποίο η Meta αναθέτει σε εξωτερικούς συνεργάτες ιδιαίτερα απαιτητικές ή ψυχολογικά επιβαρυντικές εργασίες.
Το 2020, η εταιρεία προχώρησε σε εξωδικαστικό συμβιβασμό με πρώην moderators του Facebook, οι οποίοι είχαν καταγγείλει ότι υπέστησαν ψυχολογικό τραύμα έπειτα από συνεχή έκθεση σε βίντεο με δολοφονίες, βασανιστήρια, σεξουαλικές επιθέσεις και κακοποίηση παιδιών.
Νωρίτερα μέσα στο έτος, άλλη ομάδα συνεργατών είχε καταγγείλει ότι αναγκάστηκε να εξετάζει ιδιαίτερα ευαίσθητο υλικό που είχε καταγραφεί από τα έξυπνα γυαλιά Ray-Ban της Meta, συμπεριλαμβανομένων προσωπικών στιγμών και σεξουαλικού περιεχομένου.
Αντίστοιχα, αρκετοί από τους εργαζομένους που συμμετείχαν στο πρόγραμμα “Cannes” δήλωσαν ότι ένιωσαν έντονη δυσφορία από τη φύση των prompts που καλούνταν να δημιουργήσουν.
«Έχω δει πολλά πράγματα που εύχομαι να μην είχα δει κάνοντας αυτή τη δουλειά», δήλωσε ένας από αυτούς στο Wired.
«Όλοι όσοι γνώριζα και εργάζονταν στο συγκεκριμένο project είχαν σοκαριστεί από το περιεχόμενο που μας ζητούσαν να δοκιμάσουμε. Αναρωτιόμασταν αν τελικά θα αντιμετωπίζαμε προβλήματα γι’ αυτό», πρόσθεσε.
Η απάντηση της Meta και οι αντιδράσεις
Η Meta υποστήριξε ότι τα συγκεκριμένα prompts αποτελούσαν μέρος μιας «τυπικής πρακτικής του κλάδου» για την αξιολόγηση της ασφάλειας μοντέλων τεχνητής νοημοσύνης.
Ωστόσο, η Rumman Chowdhury, διευθύνουσα σύμβουλος του μη κερδοσκοπικού οργανισμού Humane Intelligence, αμφισβητεί αυτή την ερμηνεία.
Όπως δήλωσε στο Wired, η οργάνωση ενός πολύμηνου προγράμματος μεγάλης κλίμακας, στο οποίο χρησιμοποιούνται ψεύτικοι λογαριασμοί που εμφανίζονται ως παιδιά για να επιχειρήσουν συστηματικά να παρακάμψουν τις δικλίδες ασφαλείας ανταγωνιστικών μοντέλων, δεν μπορεί να θεωρηθεί συνήθης πρακτική του κλάδου.
Η ίδια υπογράμμισε επίσης ότι η Meta διατήρησε μυστικό το πρόγραμμα από τους ανταγωνιστές της και δεν δημοσιοποίησε τα αποτελέσματα των δοκιμών.
Κατά την εκτίμησή της, η υπόθεση αποτελεί χαρακτηριστικό παράδειγμα μιας «γκρίζας ζώνης εταιρικής διακυβέρνησης», όπου η επίκληση της ασφάλειας ενδέχεται να λειτουργεί ως πρόσχημα για πρακτικές που μπορούν να επηρεάσουν τον ανταγωνισμό.