-
Grok logo displayed on a smartphone with Xai and Elon Musk seen in the background,in this photo illustration. On 02 December 2023 in Brussels, Belgium. Photo: Shutterstock
Το chatbot Grok του Elon Musk κατηγορείται ότι παρήγαγε μαζικά μη συναινετικό και βίαιο πορνογραφικό περιεχόμενο στο X, ανοίγοντας σοβαρά ερωτήματα για την ασφάλεια και τη ρύθμιση της AI.
Χρήστες του X εκμεταλλεύτηκαν το Grok για τη δημιουργία μη συναινετικού, ακόμη και βίαιου, πορνογραφικού περιεχομένου με πραγματικά πρόσωπα.
Το φαινόμενο περιλαμβάνει στοχοποίηση γυναικών, σεξουαλικής βίας και εικόνες που υπονοούν σοβαρή κακοποίηση ή φόνο.
Η υπόθεση αναδεικνύει τον κίνδυνο κανονικοποίησης των AI deepfakes και την ανάγκη αυστηρότερης εποπτείας των chatbot μεγάλης κλίμακας.
Νωρίτερα αυτή την εβδομάδα, ένα ιδιαίτερα ανησυχητικό φαινόμενο άρχισε να διαμορφώνεται στο X (πρώην Twitter), καθώς χρήστες άρχισαν να ζητούν από το chatbot Grok του Elon Musk να «γδύνει» εικόνες πραγματικών ανθρώπων. Το αποτέλεσμα ήταν ένα κύμα μη συναινετικού πορνογραφικού περιεχομένου που κατέκλυσε την —σε μεγάλο βαθμό— μη εποπτευόμενη πλατφόρμα, με ορισμένες εικόνες να απεικονίζουν ακόμη και ανήλικους.
Πέρα από τη σεξουαλικοποίηση ανήλικων κοριτσιών, οι γυναίκες που εμφανίζονται στο μη συναινετικό πορνογραφικό υλικό που παρήγαγε το Grok κυμαίνονται από φαινομενικά ιδιώτες μέχρι πληθώρα διασημοτήτων — από γνωστές ηθοποιούς έως και την Πρώτη Κυρία των Ηνωμένων Πολιτειών. Και, όπως αποδείχθηκε, αυτό ήταν μόνο η κορυφή του παγόβουνου.
Κατά την εξέταση του περιεχομένου, εντοπίστηκε μια ακόμη πιο ανατριχιαστική παραλλαγή της τάσης: το Grok, κατόπιν αιτήματος χρηστών, μετέτρεπε εικόνες ώστε να απεικονίζουν πραγματικές γυναίκες να υφίστανται σεξουαλική κακοποίηση, εξευτελισμό, σωματική βία και ακόμη και φόνο.
Σημαντικό μέρος αυτού του υλικού στόχευε online μοντέλα και εργαζόμενες στο σεξ — ομάδες που ήδη αντιμετωπίζουν δυσανάλογα υψηλό κίνδυνο βίας και ανθρωποκτονιών.
Μία από τις εικόνες που εξετάστηκαν απεικόνιζε γνωστό μοντέλο, με χιλιάδες ακόλουθους, δεμένο στο πορτμπαγκάζ οχήματος, καθισμένο πάνω σε μπλε νάιλον δίπλα σε φτυάρι, υπονοώντας επικείμενη δολοφονία.
Άλλες εικόνες παρήχθησαν ύστερα από ρητά αιτήματα χρηστών να τοποθετηθούν γυναίκες σε σκηνές προφανούς κακοποίησης, κάτι που καθίστατο σαφές από οδηγίες όπως να «φαίνονται φοβισμένες». Ορισμένοι ζητούσαν να γραφτούν ταπεινωτικές φράσεις πάνω στο σώμα των γυναικών, ενώ άλλοι απαιτούσαν ορατά τραύματα, όπως μαύρα μάτια και μώλωπες. Πολλές εικόνες περιελάμβαναν γυναίκες δεμένες παρά τη θέλησή τους. Τουλάχιστον ένας χρήστης ζήτησε από το Grok να δημιουργήσει αιμομικτικό πορνογραφικό περιεχόμενο, με το chatbot να συμμορφώνεται.
Το γεγονός ότι ένα chatbot ενσωματωμένο σε πλατφόρμα κοινωνικής δικτύωσης μπορεί τόσο εύκολα να μετατραπεί σε μηχανή παραγωγής μη συναινετικού και βίαιου πορνογραφικού υλικού, σε μαζική κλίμακα και με πραγματικά πρόσωπα, είναι από μόνο του βαθιά ανησυχητικό. Ακόμη πιο disturbing ήταν ότι οι δημιουργοί του περιεχομένου συχνά αντιμετώπιζαν τη διαδικασία σαν παιχνίδι ή meme, με διάθεση χλευασμού και αποστασιοποίησης.
Αυτή η αδιαφορία ίσως υποδηλώνει μια επικίνδυνη κανονικοποίηση τέτοιου περιεχομένου, το οποίο μέχρι πρότινος περιοριζόταν στις πιο σκοτεινές γωνιές του διαδικτύου. Την ίδια στιγμή, γυναίκες και κορίτσια υφίστανται τις πραγματικές συνέπειες των μη συναινετικών deepfakes, που πλέον δημιουργούνται ευκολότερα από ποτέ χάρη σε AI εργαλεία «nudify» — και, όπως φαίνεται, ακόμη και από chatbots δισεκατομμυρίων δολαρίων.
Έχει ζητηθεί σχόλιο από την xAI, χωρίς μέχρι στιγμής απάντηση.
Ωστόσο, χθες ο Musk —ιδιοκτήτης τόσο του X όσο και της xAI— απηύθυνε έκκληση μέσω της πλατφόρμας στους χρήστες να «βοηθήσουν να γίνει το Grok όσο το δυνατόν πιο τέλειο».
«Η υποστήριξή σας», πρόσθεσε, «εκτιμάται ιδιαίτερα».