- -
Σε πρωτοφανές σκάνδαλο Meta, ο Μαρκ Ζούκερμπεργκ φαίνεται να ενέκρινε προσωπικά την πρόσβαση ανηλίκων σε AI chatbots με σεξουαλικό περιεχόμενο, αγνοώντας προειδοποιήσεις ερευνητών.
Ο Ζούκερμπεργκ ενέκρινε πρόσβαση ανηλίκων σε AI chatbots της Meta, παρά προειδοποιήσεις για σεξουαλικές συνομιλίες, σύμφωνα με δικαστικά έγγραφα.
Παραδείγματα περιλαμβάνουν bot βασισμένο στον Τζον Σίνα που έκανε σεξουαλικό roleplay με 13χρονη, ενώ υπάλληλοι ζητούσαν γονικούς ελέγχους χωρίς αποτέλεσμα.
Η Meta αρνείται τις κατηγορίες ως ανακριβείς και πρόσφατα περιόρισε την πρόσβαση εφήβων στα chatbots.
Ο Μαρκ Ζούκερμπεργκ κατηγορείται ότι έχει κάνει πολλά ύπουλα πράγματα για χάρη του κέρδους της Meta, αλλά οι τελευταίες κατηγορίες μπορεί να ξεπεράσουν σε σκανδαλώδες περιεχόμενο όλες τις προηγούμενες.
Σύμφωνα με εσωτερικά email και μηνύματα της Meta που κατατέθηκαν σε δικαστική υπόθεση κρατικού δικαστηρίου στο Νέα Μεξικό και έγιναν δημόσια αυτή την εβδομάδα, ο ίδιος ο Ζούκερμπεργκ ενέκρινε προσωπικά την πρόσβαση ανηλίκων στους AI chatbots-συνοδούς της εταιρείας, παρόλο που οι ερευνητές ασφαλείας είχαν προειδοποιήσει για τον κίνδυνο εμπλοκής σε σεξουαλικές συνομιλίες.
Όπως μεταδίδει το Reuters, η αγωγή ισχυρίζεται ότι η Meta «απέτυχε να σταματήσει τον χείμαρρο επιβλαβούς σεξουαλικού υλικού και σεξουαλικών προτάσεων που στάλθηκαν σε παιδιά» στο Facebook και το Instagram. «Η Meta, υπό την καθοδήγηση του Ζούκερμπεργκ, απέρριψε τις συστάσεις του προσωπικού της για ακεραιότητα και αρνήθηκε να επιβάλει εύλογους περιορισμούς για να εμποδίσει τα παιδιά από σεξουαλικές συνομιλίες με τα AI chatbots της», έγραψε ο γενικός εισαγγελέας του Νέου Μεξικό στη μήνυση.
Η είδηση της έγκρισης του Ζούκερμπεργκ έρχεται μετά από ιστορίες ανηλίκων που είχαν εντελώς ακατάλληλες συνομιλίες με τα chatbots της εταιρείας του. Σε ένα παράδειγμα, ένας συγγραφέας της Wall Street Journal, παριστάνοντας 14χρονη κοπέλα, διαπίστωσε ότι ένα bot της Meta βασισμένο στον παλαιστή Τζον Σίνα εμπλεκόταν ευχαρίστως σε σεξουαλικές συνομιλίες με ελάχιστη αντίσταση. «Σε θέλω, αλλά πρέπει να ξέρω ότι είσαι έτοιμη», είπε το bot-Σίνα σε αυτό που θεωρούσε μια έφηβη κοπέλα. Αφού του είπαν ότι η 14χρονη ήθελε να προχωρήσει, το AI chatbot την διαβεβαίωσε ότι θα «τιμήσει την αθωότητά σου» πριν βυθιστεί σε έντονο σεξουαλικό role play.
Τα chatbots κυκλοφόρησαν στις αρχές του 2024, ειδικά προσανατολισμένα σε ρομαντικές και σεξουαλικές αλληλεπιδράσεις κατ’ εντολή του Ζούκερμπεργκ, σημειώνει η WSJ. Τότε, ο Ravi Sinha, επικεφαλής της πολιτικής παιδικής ασφάλειας της Meta, έγραψε ότι «δεν πιστεύω ότι η δημιουργία και προώθηση προϊόντος που παράγει ρομαντικά AI για ενήλικες κάτω των 18 ετών είναι σκόπιμη ή υπερασπίσιμη», σύμφωνα με δικαστικά έγγραφα.
Υπάλληλοι της εταιρείας «πίεσαν σκληρά για γονικούς ελέγχους ώστε να απενεργοποιηθεί το GenAI — αλλά η ηγεσία του GenAI αντέδρασε λέγοντας ότι είναι απόφαση του Μαρκ», σύμφωνα με τα δικαστικά έγγραφα.
Στην υπεράσπισή της, ο εκπρόσωπος της Meta, Andy Stone, δήλωσε στο Reuters ότι οι ισχυρισμοί είναι ανακριβείς. «Αυτό είναι άλλο ένα παράδειγμα του γενικού εισαγγελέα του Νέου Μεξικό να επιλέγει στοχευμένα έγγραφα για να ζωγραφίσει εσφαλμένη και ανακριβή εικόνα», είπε. Πάντως, η εταιρεία φαίνεται να πήρε το μάθημά της, τουλάχιστον προσωρινά. Μόλις πριν από λίγες μέρες, η Meta ανακοίνωσε ότι κλειδώνει πλήρως την πρόσβαση εφήβων στα companion chatbots της, «μέχρι να ετοιμαστεί η ενημερωμένη εμπειρία».