Η ρυθμιστική αρχή μέσων ενημέρωσης της Βρετανίας ξεκίνησε έρευνα για το X του Ίλον Μασκ, λόγω ανησυχιών ότι το chatbot Grok AI δημιουργούσε εικόνες σεξουαλικού περιεχομένου deepfake, παραβιάζοντας το προβλεπόμενο καθήκον της να προστατεύει τους ανθρώπους στο Ηνωμένο Βασίλειο από παράνομο περιεχόμενο.
Η έρευνα της Ofcom ασκεί πρόσθετη πίεση στην πλατφόρμα κοινωνικής δικτύωσης του πλουσιότερου ανθρώπου στον κόσμο, η οποία ήδη αντιμετωπίζει αυξανόμενη δημόσια κατακραυγή, καθώς και ποινικές και κανονιστικές έρευνες σε όλο τον κόσμο, από τη Γαλλία έως την Ινδία.
«Οι αναφορές για χρήση του Grok για τη δημιουργία και την κοινοποίηση παράνομων μη συναινετικών εικόνων προσωπικού περιεχομένου και υλικού σεξουαλικής κακοποίησης παιδιών στο X είναι βαθιά ανησυχητικές», ανέφερε σε ανακοίνωσή της.
Οι πλατφόρμες πρέπει να προστατεύουν τους πολίτες της Βρετανίας από παράνομο περιεχόμενο, δήλωσε η ρυθμιστική αρχή, προσθέτοντας ότι «δεν θα διστάσει να διερευνήσει περιπτώσεις όπου υπάρχει υποψία ότι οι εταιρείες δεν εκπληρώνουν τις υποχρεώσεις τους, ιδίως όταν υπάρχει κίνδυνος βλάβης των παιδιών».
Από την πλευρά του το X παρέπεμψε σε προηγούμενη δήλωση στην οποία ανέφερε ότι λαμβάνει μέτρα κατά του παράνομου περιεχομένου στην πλατφόρμα, συμπεριλαμβανομένου του υλικού σεξουαλικής κακοποίησης παιδιών, αφαιρώντας το, αναστέλλοντας μόνιμα λογαριασμούς και συνεργαζόμενος με τις τοπικές αρχές και τις αρχές επιβολής του νόμου, όπως απαιτείται.
«Όποιος χρησιμοποιεί ή ωθεί το Grok να δημιουργήσει παράνομο περιεχόμενο θα υποστεί τις ίδιες συνέπειες σαν να ανέβαζε παράνομο περιεχόμενο», κατέληξε η πλατφόρμα.
Η ρυθμιστική αρχή βρίσκεται υπό πίεση να αναλάβει δράση, μετά την δήλωση του πρωθυπουργού της Βρετανία, Κιρ Στάρμερ, την Πέμπτη ότι οι εικόνες που παράγει το Grok είναι «αηδιαστικές» και «παράνομες». Η πλατφόρμα X του Μασκ πρέπει να πάρει τον έλεγχο του Grok, ανέφερε.
Μετά την αρχική δράση κατά των πορνογραφικών ιστότοπων που δεν είχαν αποτελεσματικούς ελέγχους ηλικίας, η υπόθεση Grok θα είναι πιθανώς η πρώτη μεγάλη δοκιμασία του βρετανικού νόμου για την ασφάλεια στο διαδίκτυο, ο οποίος θεσπίστηκε το 2023 αλλά εφαρμόζεται σταδιακά από την Ofcom.
Ερωτηθείς τη Δευτέρα αν το X θα μπορούσε να απαγορευτεί, ο υπουργός Επιχειρήσεων Πίτερ Κάιλ απάντησε: «Ναι, φυσικά», αλλά σημείωσε ότι η εξουσία να το πράξει ανήκει στην Ofcom.
Ο Μασκ έγραψε στο X το Σάββατο ότι, εστιάζοντας στο Grok και το X, η βρετανική κυβέρνηση «απλά θέλει να καταστείλει την ελευθερία του λόγου».
Εκπρόσωπος του Βρετανού πρωθυπουργού απέρριψε τον ισχυρισμό αυτό, λέγοντας ότι η κυβέρνηση ανησυχεί για εικόνες σεξουαλικής κακοποίησης παιδιών και βίας κατά γυναικών και κοριτσιών. «Είναι λάθος, είναι παράνομο και δεν πρόκειται να το ανεχθούμε», δήλωσε ο εκπρόσωπος.
Η υπουργός Τεχνολογίας Λιζ Κένταλ χαιρέτισε την επίσημη έρευνα της Ofcom, προσθέτοντας ότι πρέπει να ολοκληρωθεί γρήγορα.
Η δημιουργία ή η κοινοποίηση μη συναινετικών εικόνων προσωπικού περιεχομένου ή υλικού σεξουαλικής κακοποίησης παιδιών, συμπεριλαμβανομένων σεξουαλικών εικόνων που δημιουργούνται από τεχνητή νοημοσύνη, είναι παράνομη στη Βρετανία.
Επιπλέον, οι τεχνολογικές πλατφόρμες πρέπει να αποτρέπουν τους Βρετανούς χρήστες από το να συναντούν παράνομο περιεχόμενο και να το αφαιρούν μόλις το αντιληφθούν.
Αυξανόμενη διεθνής καταγραυγή
Το X έχει καταδικαστεί σε άλλες χώρες για το συγκεκριμένο χαρακτηριστικό, το οποίο μπορεί να παράγει εικόνες γυναικών και ανηλίκων με στενά ρούχα, αναφέρει το Reuters.
Γάλλοι αξιωματούχοι έχουν καταγγείλει το X σε εισαγγελείς και ρυθμιστικές αρχές, χαρακτηρίζοντας το περιεχόμενο «προφανώς παράνομο», ενώ οι ινδικές αρχές έχουν επίσης ζητήσει εξηγήσεις. Η Ινδονησία και η Μαλαισία μπλόκαραν προσωρινά το Grok το Σαββατοκύριακο.
Το X δήλωσε ότι έχει περιορίσει τα αιτήματα για «γδύσιμο» ατόμων σε εικόνες μόνο για χρήστες επί πληρωμή.
Η Ofcom θα διερευνήσει εάν η X δεν αξιολόγησε τον κίνδυνο να δουν άνθρωποι στη Βρετανία παράνομο περιεχόμενο και εάν έλαβε υπόψη τον κίνδυνο για τα παιδιά.
Στις πιο σοβαρές περιπτώσεις μη συμμόρφωσης, η Ofcom έχει την αρμοδιότητα να να ζητήσει από δικαστήριο να απαιτήσει από «τους παρόχους πληρωμών ή τους διαφημιστές να αποσύρουν τις υπηρεσίες τους από μια πλατφόρμα» ή να υποχρεώσει τους παρόχους υπηρεσιών διαδικτύου να μπλοκάρουν την πρόσβαση σε έναν ιστότοπο στη Βρετανία.