- -
The Grok X AI app displays on a mobile phone with the Grok X AI logo, as seen in this photo illustration in Brussels, Belgium, on February 16, 2025. (Photo by Jonathan Raa/NurPhoto) (Photo by Jonathan Raa / NurPhoto / NurPhoto via AFP) Photo: AFP
Επιζήσασα κατηγορεί το chatbot Grok ότι χρησιμοποίησε πραγματικές φωτογραφίες από την παιδική της κακοποίηση για να παράγει νέες παράνομες εικόνες.
Επιζήσασα σεξουαλικής κακοποίησης παιδιών κατέθεσε αγωγή κατά της εταιρείας τεχνητής νοημοσύνης του Έλον Μασκ, ισχυριζόμενη ότι το chatbot της χρησιμοποίησε φωτογραφίες από τη δική της κακοποίηση για να δημιουργήσει νέες παράνομες πορνογραφικές εικόνες που απεικονίζουν την ίδια.
«Χρησιμοποιώντας πραγματικές εικόνες της ενάγουσας και των μελών της ομάδας, το Grok δημιούργησε παιδική πορνογραφία που απεικονίζει την ενάγουσα και τα μέλη της ομάδας», αναφέρεται στην προσφυγή, η οποία κατατέθηκε την περασμένη εβδομάδα σε ομοσπονδιακό δικαστήριο των ΗΠΑ στην Καλιφόρνια, σύμφωνα με τον Guardian.
Οι δικηγόροι της ενάγουσας, η οποία αναφέρεται ως Jane Doe για την προστασία της ταυτότητάς της, κατηγορούν την xAI τόσο για τη δημιουργία υλικού σεξουαλικής κακοποίησης παιδιών (CSAM) της εντολέως τους όσο και για την εισαγωγή εικόνων σεξουαλικής κακοποίησης παιδιών που την απεικονίζουν στα σύνολα δεδομένων της εταιρείας, αφού νέες εικόνες δημοσιεύθηκαν δημόσια.
Στην αγωγή υποστηρίζεται ότι η xAI αγνόησε τις καθιερωμένες μεθόδους του κλάδου για την προστασία από υλικό σεξουαλικής κακοποίησης, με αποτέλεσμα το παραγόμενο από τεχνητή νοημοσύνη υλικό σεξουαλικής κακοποίησης παιδιών να εμφανίζεται και να εξαπλώνεται στην πλατφόρμα κοινωνικής δικτύωσης X, πρώην Twitter.
Οι νομικές κινήσεις της xAI και η διαφορά από προηγούμενες υποθέσεις
Παρόλο που ο Μασκ αρνήθηκε τον Ιανουάριο ότι γνώριζε πως το Grok είχε παράγει ποτέ «γυμνές εικόνες ανηλίκων», η εταιρεία του μήνυσε στα τέλη Αυγούστου δύο δικούς της χρήστες, οι οποίοι αντιμετωπίζουν ποινικές διώξεις επειδή φέρονται να έκαναν ακριβώς αυτό. Η xAI ζητά από τους δύο άνδρες να καλύψουν τα έξοδα των αγωγών που έχουν καταθέσει τα θύματά τους κατά της εταιρείας.
Η συγκεκριμένη υπόθεση διαφέρει από αρκετές άλλες αγωγές που σχετίζονται με σεξουαλική κακοποίηση παιδιών κατά της xAI, καθώς κατηγορεί την τεχνητή νοημοσύνη της εταιρείας ότι χρησιμοποίησε προϋπάρχον CSAM για την παραγωγή και διανομή νέων εικόνων. Προηγούμενες προσφυγές, όπως μια υπόθεση που αφορούσε μια ομάδα εφήβων από το Τενεσί, κατηγορούν το Grok ότι πήρε μη προκλητικές φωτογραφίες ανηλίκων και τις χρησιμοποίησε για τη δημιουργία υλικού σεξουαλικής κακοποίησης, τις περισσότερες φορές αφαιρώντας τα ρούχα τους
Το ψηφιακό αποτύπωμα και η ταυτοποίηση του θύματος
Η διαφοροποίηση σχετικά με τη χρήση προϋπάρχοντος CSAM είναι σημαντική, διότι οι αρχές επιβολής του νόμου και οι οργανώσεις προστασίας παιδιών συχνά δίνουν σε αυτά τα παράνομα υλικά ένα είδος ψηφιακού αποτυπώματος – γνωστό ως hash – το οποίο τους επιτρέπει να εντοπίζουν εικόνες και βίντεο όταν εμφανίζονται στο διαδίκτυο. Στη συγκεκριμένη υπόθεση, οι δικηγόροι της ενάγουσας δήλωσαν ότι το Καναδικό Κέντρο Προστασίας Παιδιών (Canadian Centre for Child Protection) χρησιμοποίησε τα ψηφιακά αποτυπώματα των εικόνων για να εντοπίσει στο X υλικό CSAM δημιουργημένο από AI που απεικόνιζε την εντολέα τους.
Η ενάγουσα στην υπόθεση ήταν σε προσχολική ηλικία όταν βιάστηκε κατ’ επανάληψη και εξαναγκάστηκε να παράγει υλικό CSAM από έναν ενήλικα άνδρα, σύμφωνα με την προσφυγή. Αυτή η σειρά υλικού κυκλοφορεί στο διαδίκτυο για περίπου 20 χρόνια, δήλωσαν οι δικηγόροι της, και είναι εξαιρετικά γνωστή τόσο στις αρχές όσο και στις ομάδες προστασίας παιδιών.
«Η διαφορά εδώ, σε σύγκριση με πολλές ποινικές υποθέσεις που θα δείτε με υλικό δημιουργημένο από AI, είναι ότι δεν μπορείτε να αποδείξετε ότι το παιδί στο υλικό είναι πραγματικό», δήλωσε η Μάργκαρετ Μέιμπι, δικηγόρος της ενάγουσας. «Αλλά εδώ, επειδή μπορείτε να το συσχετίσετε με τη συγκεκριμένη σειρά, γνωρίζουμε ότι πρόκειται για ένα ταυτοποιήσιμο θύμα που βρίσκεται εν ζωή και ήταν ένα πραγματικό παιδί στη φωτογραφία».
Η σιωπή των εταιρειών και η οικονομική γιγάντωση
Ούτε η xAI ούτε η SpaceX, η οποία εξαγόρασε την εταιρεία τον Φεβρουάριο, ανταποκρίθηκαν σε αιτήματα για σχολιασμό σχετικά με την αγωγή. Η SpaceX εισήχθη στο χρηματιστήριο νωρίτερα φέτος με μια αρχική δημόσια προσφορά (IPO) που αποτίμησε την εταιρεία στα 1,7 τρισεκατομμύρια δολάρια περίπου, καθιστώντας για ένα διάστημα τον Μασκ τον μοναδικό τρισεκατομμυριούχο στον κόσμο.
Η xAI αντιμετωπίζει πολυπληθείς αγωγές που την κατηγορούν για τη δημιουργία και διανομή υλικού σεξουαλικής κακοποίησης παιδιών. Πολλές από τις προσφυγές προέρχονται από μια περίοδο στις αρχές του τρέχοντος έτους, όταν οι χαλαρές ασφαλιστικές δικλείδες του Grok επέτρεπαν στους χρήστες να το κατευθύνουν ώστε να αφαιρεί ρούχα από φωτογραφίες και να παράγει σεξουαλικές εικόνες κατά παραγγελία μέσω του X. Ο Μασκ δήλωσε τον Ιανουάριο ότι η λειτουργία NSFW του Grok προοριζόταν να επιτρέπει το «γυμνό στο πάνω μέρος του σώματος φανταστικών ενηλίκων». Το bot παρήγαγε εκατομμύρια σεξουαλικές εικόνες μέσα σε διάστημα λίγων εβδομάδων, συμπεριλαμβανομένων χιλιάδων που απεικόνιζαν παιδιά, σύμφωνα με ερευνητές του Center for Countering Digital Hate.
Νέες αόρατες απειλές για τα θύματα
Αν και η συλλογική αγωγή που κατατέθηκε την περασμένη εβδομάδα επικεντρώνεται στην ανώνυμη κύρια ενάγουσα, στην προσφυγή αναφέρεται ότι η ομάδα των πληγέντων ενδέχεται να αποτελείται από «τουλάχιστον χιλιάδες ανηλίκους» που υπέστησαν παρόμοιες βλάβες. Η χρήση της τεχνητής νοημοσύνης για την παραγωγή υλικού σεξουαλικής κακοποίησης παιδιών δημιουργεί ένα νέο πεδίο απειλών για την ασφάλεια και την ψυχική υγεία των θυμάτων, δήλωσαν οι δικηγόροι, εκθέτοντάς τα σε απρόβλεπτη βλάβη και επαναματαιώνοντάς τα με κάθε νέα εικόνα που δημιουργείται.
«Το πρόβλημα εδώ είναι ότι, τουλάχιστον για την εντολέα μας, τα τελευταία 20 χρόνια το σύμπαν των εικόνων της ήταν πεπερασμένο», δήλωσε η Μέιμπι. «Ο φόβος τώρα είναι ότι νέες εγκληματικές πράξεις, νέα προσβλητική συμπεριφορά, νέες ιδέες για το τι μπορεί να τους συμβεί μπορούν πλέον να δημιουργηθούν με τη χρήση AI. Μπορούν να παράγουν νέα κακοποίηση».
Το Καναδικό Κέντρο Προστασίας Παιδιών αρνήθηκε να σχολιάσει την υπόθεση.