Το Grok ξεκίνησε το 2026 όπως ακριβώς και το 2025: δεχόμενο σφοδρά πυρά για εικόνες που δημιουργούνται από τεχνητή νοημοσύνη. Το chatbot του Έλον Μασκ βρέθηκε την τελευταία εβδομάδα στο επίκεντρο έντονων αντιδράσεων, καθώς κατέκλυσε την πλατφόρμα X με μη συναινετικές, σεξουαλικοποιημένες εικόνες τύπου deepfake, που αφορούν τόσο ενήλικες όσο και ανηλίκους. Κυκλοφορούν στιγμιότυπα οθόνης που δείχνουν το Grok να ανταποκρίνεται σε αιτήματα χρηστών για να τοποθετεί πραγματικές γυναίκες με εσώρουχα σε σεξουαλικές στάσεις, αλλά και μικρά παιδιά με μπικίνι. Αναφορές για εικόνες που αφαιρέθηκαν εκ των υστέρων κάνουν λόγο για ακόμη πιο σοβαρό και ακραίο περιεχόμενο.
Ένας χρήστης του X επιβεβαίωσε σε συνομιλία του με το The Verge ότι εντόπισε πολλαπλές εικόνες ανηλίκων, στις οποίες εμφανιζόταν αυτό που ο χρήστης που έδωσε την εντολή αποκάλεσε «γλάσο ντόνατ» στα πρόσωπά τους, εικόνες που φαίνεται πως έχουν πλέον αφαιρεθεί. Σύμφωνα με μία εκτίμηση, σε κάποια χρονική στιγμή το Grok παρήγαγε περίπου μία μη συναινετική σεξουαλικοποιημένη εικόνα ανά λεπτό. Οι όροι χρήσης της πλατφόρμας X απαγορεύουν ρητά «τη σεξουαλικοποίηση ή εκμετάλλευση παιδιών», ενώ το Σάββατο η εταιρεία δήλωσε ότι θα «λάβει μέτρα κατά του παράνομου περιεχομένου στο X, συμπεριλαμβανομένου του Υλικού Σεξουαλικής Κακοποίησης Παιδιών (CSAM)».
Παρότι φαίνεται πως αφαιρέθηκαν ορισμένες από τις πιο σοβαρές περιπτώσεις, συνολικά η στάση της εταιρείας χαρακτηρίζεται ως υποτονική. Ο Έλον Μασκ έχει δηλώσει ότι «όποιος χρησιμοποιεί το Grok για τη δημιουργία παράνομου περιεχομένου θα υποστεί τις ίδιες συνέπειες σαν να το ανέβαζε ο ίδιος», ωστόσο μέσα από δημόσιες αναρτήσεις του στο X έχει καταστήσει σαφές ότι δεν θεωρεί προβληματικές τις γενικές εντολές «αφαίρεσης ρούχων», ενώ έχει απαντήσει στο ευρύτερο ζήτημα με emojis γέλιου και φωτιάς. Αυτή η στάση έχει προκαλέσει έντονη ανησυχία σε ειδικούς που εδώ και χρόνια προσπαθούν να αντιμετωπίσουν τη σεξουαλική παρενόχληση και κακοποίηση μέσω τεχνητής νοημοσύνης. Πολλές κυβερνήσεις έχουν δηλώσει ότι εξετάζουν την υπόθεση, ωστόσο, ακόμη και σε μια περίοδο αυξημένων πιέσεων για ρύθμιση του διαδικτύου, παραμένει ασαφές πώς μπορεί να ασκηθεί αποτελεσματικός έλεγχος τόσο στην πλατφόρμα όσο και στο ίδιο το chatbot.
Η xAI, δημιουργός του Grok, δεν απάντησε σε αίτημα για σχόλιο, ενώ ούτε η Apple ούτε η Google ανταποκρίθηκαν όταν ρωτήθηκαν αν οι σχετικές αναφορές παραβιάζουν τις πολιτικές των δικών τους καταστημάτων εφαρμογών. Το Grok ανέκαθεν επέτρεπε και ο ίδιος ο Μασκ ενθάρρυνε ανοιχτά, τη δημιουργία έντονα σεξουαλικοποιημένων εικόνων. Την τελευταία εβδομάδα, όμως, η δυνατότητα επεξεργασίας εικόνων μέσω ενός νέου κουμπιού, που επιτρέπει αλλαγές χωρίς την άδεια του αρχικού δημιουργού, έγινε viral κυρίως για την «αφαίρεση ρούχων» από γυναίκες και ανηλίκους. Οι μηχανισμοί ασφαλείας εφαρμόζονται αποσπασματικά, ενώ πολλές από τις υποτιθέμενες απαντήσεις της X προέρχονται από το ίδιο το Grok, γεγονός που σημαίνει ότι δημιουργούνται επιτόπου. Μεταξύ αυτών περιλαμβάνονται δηλώσεις ότι ορισμένες δημιουργίες «παραβίασαν τις κατευθυντήριες γραμμές μας για αποκλειστικά φανταστικό περιεχόμενο», καθώς και μια ευρέως αναφερόμενη «συγγνώμη» που εκδόθηκε κατόπιν αιτήματος χρήστη, χωρίς ωστόσο να φαίνεται ότι προήλθε επίσημα από την xAI.
Ένα από τα βασικά ερωτήματα αφορά το κατά πόσο οι εικόνες αυτές παραβιάζουν τη νομοθεσία περί Υλικού Σεξουαλικής Κακοποίησης Παιδιών και μη συναινετικών προσωπικών εικόνων ενηλίκων, ειδικά στις Ηνωμένες Πολιτείες όπου εδρεύει η X. Το υπουργείο Δικαιοσύνης των ΗΠΑ απαγορεύει «ψηφιακές ή υπολογιστικά παραγόμενες εικόνες που είναι δυσδιάκριτες από πραγματικό ανήλικο» όταν περιλαμβάνουν σεξουαλική δραστηριότητα ή υπονοούμενη γυμνότητα. Παράλληλα, ο νόμος Take It Down Act, που υπεγράφη από τον πρόεδρο Ντόναλντ Τραμπ τον Μάιο του 2025, απαγορεύει τη μη συναινετική δημιουργία «οικείων οπτικών απεικονίσεων» μέσω τεχνητής νοημοσύνης και υποχρεώνει ορισμένες πλατφόρμες να τις αφαιρούν άμεσα.
Διάσημοι και influencers έχουν περιγράψει το αίσθημα παραβίασης που βιώνουν από σεξουαλικοποιημένες εικόνες τεχνητής νοημοσύνης. Σύμφωνα με στιγμιότυπα οθόνης, το Grok έχει δημιουργήσει εικόνες της τραγουδίστριας Μόμο από το συγκρότημα TWICE, της ηθοποιού Μίλι Μπόμπι Μπράουν, του ηθοποιού Φιν Γούλφχαρντ και πολλών άλλων. Παράλληλα, εικόνες που δημιουργούνται από το Grok χρησιμοποιούνται και ως εργαλείο επίθεσης κατά γυναικών με πολιτική εξουσία. «Είναι ένα εργαλείο που εκφράζει τον υποβόσκοντα μισογυνισμό που διαπερνά κάθε γωνιά της αμερικανικής κοινωνίας και πολλές κοινωνίες παγκοσμίως», δήλωσε στο The Verge η Ριάνα Φέφερκορν, συνεργάτιδα πολιτικής στο Ινστιτούτο Τεχνητής Νοημοσύνης με Επίκεντρο τον Άνθρωπο του Πανεπιστημίου Στάνφορντ. Όπως τόνισε, πρόκειται για παραβίαση ιδιωτικότητας, συναίνεσης και ορίων, μια εξαιρετικά παρεμβατική πρακτική που συνιστά μορφή έμφυλης βίας, ενώ τα ρητά σεξουαλικά απεικονισμένα ανήλικα πρόσωπα αποτελούν αυξανόμενο πρόβλημα για τις διωκτικές αρχές.
Τη Δευτέρα, η Ομοσπονδία Καταναλωτών της Αμερικής, που εκπροσωπεί εκατοντάδες μη κερδοσκοπικούς οργανισμούς, ζήτησε δημόσια τόσο πολιτειακή όσο και ομοσπονδιακή δράση κατά της xAI για «τη δημιουργία και διανομή Υλικού Σεξουαλικής Κακοποίησης Παιδιών και άλλων μη συναινετικών προσωπικών εικόνων μέσω γενετικής τεχνητής νοημοσύνης». Η έκκληση συνοδεύτηκε από επιστολή προς την Ομοσπονδιακή Επιτροπή Εμπορίου και γενικούς εισαγγελείς πολιτειών των ΗΠΑ. Ωστόσο, όπως επισημαίνουν ειδικοί, τα όρια του τι απαγορεύεται από τη νομοθεσία παραμένουν «αρκετά θολά». Η Μέρι Αν Φρανκς, καθηγήτρια δικαίου στο Πανεπιστήμιο Τζορτζ Ουάσινγκτον, δήλωσε ότι δεν είναι πάντα ξεκάθαρο αν τέτοιες εικόνες «ξεπερνούν τη γραμμή προς την πραγματική γυμνότητα και τις σεξουαλικές καταστάσεις».
Σύμφωνα με ειδικούς που μίλησαν στο The Verge, η χρήση τεχνητής νοημοσύνης για τη δημιουργία εικόνας αναγνωρίσιμου ανήλικου με μπικίνι ή ακόμη και γυμνού, αν και αναμφίβολα ανήθικη, ενδέχεται να μην είναι παράνομη με βάση την ισχύουσα νομοθεσία στις ΗΠΑ. Παρ’ όλα αυτά, εικόνες που φαίνεται να περιλαμβάνουν σπέρμα ενδέχεται να παραβιάζουν τόσο την υφιστάμενη νομοθεσία περί CSAM όσο και τον νόμο Take It Down Act. Η Φρανκς εκτιμά ότι αυτά πιθανότατα δεν είναι τα χειρότερα παραδείγματα, σημειώνοντας πως «ό,τι φτάνει στα mainstream μέσα, πιθανότατα συνοδεύεται από ένα εκατομμύριο χειρότερες περιπτώσεις που επίσης παράγονται». Παρά τους ομοσπονδιακούς και πολιτειακούς νόμους, η επιβολή απαγορεύσεων σε σεξουαλικό περιεχόμενο που δημιουργείται από AI παραμένει εξαιρετικά δύσκολη, ενώ ακόμη πιο ασαφής είναι η ευθύνη των ίδιων των πλατφορμών.
Ο Τζον Λάνγκφορντ, επισκέπτης καθηγητής νομικής στο Πανεπιστήμιο Γέιλ και νομικός σύμβουλος του Protect Democracy, ανέφερε ότι το μωσαϊκό απαγορεύσεων για σεξουαλικά deepfakes δεν έχει δοκιμαστεί επαρκώς στα δικαστήρια. Παρ’ όλα αυτά, για τις περιπτώσεις δημιουργιών του Grok που απεικονίζουν αναγνωρίσιμους ανηλίκους, υπάρχει πλέον προηγούμενο ότι «κάθε υπολογιστικά παραγόμενη σεξουαλικά ρητή εικόνα πραγματικού παιδιού είναι παράνομη», σύμφωνα με τον Ντρου Ντέιβις από το SafeBAE. Όπως προσθέτουν οι ειδικοί, υπάρχουν ήδη ομοσπονδιακές και δεκάδες πολιτειακές διώξεις για τη δημιουργία ή κατοχή τροποποιημένων εικόνων πραγματικών παιδιών μέσω AI, ωστόσο το ερώτημα της ευθύνης των εταιρειών παραμένει αχαρτογράφητο έδαφος.
Η κατάσταση περιπλέκεται περαιτέρω από το γεγονός ότι η περίοδος χάριτος για την εφαρμογή του σκέλους «αφαίρεσης περιεχομένου» του νόμου Take It Down Act ισχύει έως τον Μάιο, αλλά και από το άρθρο 230, που παραδοσιακά προστατεύει τις εταιρείες από ευθύνη για περιεχόμενο που αναρτούν τρίτοι. Καθώς όμως οι εταιρείες επιτρέπουν πλέον στους χρήστες να δημιουργούν εικόνες μέσω bots όπως το Grok, το ζήτημα της νομικής ευθύνης παραμένει ανοικτό. Παράλληλα, οι στενές σχέσεις του Έλον Μασκ και της X με την τρέχουσα αμερικανική κυβέρνηση, καθώς και οι διεθνείς πιέσεις που ασκούνται μέσω εμπορικών διαπραγματεύσεων, δυσχεραίνουν την επιβολή κυρώσεων, ενώ διεθνείς αντιδράσεις εντείνονται, με τη Γαλλία, την Ινδία και τη Μαλαισία να ανακοινώνουν έρευνες και αιτήματα εξηγήσεων.
Το Grok έχει επανειλημμένα ξεφύγει από κάθε έλεγχο, με τους ειδικούς να εκφράζουν σοβαρές ανησυχίες για τα ελλιπή μέτρα ασφαλείας, ενώ χαρακτηριστικό είναι ότι μετά την κυκλοφορία του Grok 4 τον Ιούλιο του 2025 χρειάστηκε πάνω από ένας μήνας για να δημοσιευτεί κάρτα μοντέλου με βασικές πληροφορίες ασφάλειας. Χωρίς εξωτερική πίεση, το πρόβλημα των deepfakes φαίνεται απίθανο να επιλυθεί σύντομα, καθώς, όπως σημειώνει η Ριάνα Φέφερκορν, το πιο ανησυχητικό στοιχείο δεν είναι ότι ένα σύστημα AI μπορεί να οδηγηθεί στη δημιουργία δυνητικού CSAM, αλλά το γεγονός ότι μέχρι στιγμής δεν έχει υπάρξει επαρκής ανησυχία για το πόσο κοντά βρίσκεται αυτό το όριο.