Έρευνα σουηδικών εφημερίδων αποκαλύπτει ότι ευαίσθητα βίντεο από τα smart glasses της Meta εξετάζονται από εργολάβους στην Κένυα για την εκπαίδευση AI μοντέλων, προκαλώντας έντονες αντιδράσεις για ζητήματα ιδιωτικότητας και παρακολούθησης.
Ευαίσθητα βίντεο που καταγράφονται από τα smart glasses της Meta φέρεται να εξετάζονται από εργολάβους στην Κένυα για την εκπαίδευση AI μοντέλων.
Οι εργαζόμενοι ανέφεραν ότι τα συστήματα ανωνυμοποίησης συχνά αποτυγχάνουν, επιτρέποντας την προβολή πολύ προσωπικών στιγμών των χρηστών.
Η υπόθεση αναζωπυρώνει τη συζήτηση για ιδιωτικότητα, παρακολούθηση και τον ρόλο της ανθρώπινης εργασίας στην εκπαίδευση των AI συστημάτων.
Σε μια ανησυχητική δημοσιογραφική έρευνα, οι σουηδικές εφημερίδες Svenska Dagbladet και Göteborgs-Posten αποκάλυψαν ότι ιδιαίτερα ευαίσθητα βίντεο που καταγράφονται από χρήστες των έξυπνων γυαλιών Meta Ray-Ban αποστέλλονται σε υπεργολάβους της εταιρείας στο Ναϊρόμπι της Κένυας για επεξεργασία δεδομένων (data annotation).
Εργολάβοι που μίλησαν στις εφημερίδες ανέφεραν ότι παρακολουθούσαν ανθρώπους «να πηγαίνουν στην τουαλέτα ή να γδύνονται», ενώ πολλές φορές τα άτομα που καταγράφονταν δεν γνώριζαν καν ότι γινόταν καταγραφή.
Σύμφωνα με τους εργαζόμενους, τα αυτοματοποιημένα συστήματα που υποτίθεται ότι θολώνουν πρόσωπα και ευαίσθητα στοιχεία συχνά αποτύγχαναν, δίνοντάς τους ουσιαστικά πρόσβαση σε εξαιρετικά προσωπικές στιγμές των χρηστών.
«Δεν νομίζω ότι το γνωρίζουν — γιατί αν το γνώριζαν, δεν θα κατέγραφαν», δήλωσε ένας από τους εργολάβους.
Η αποκάλυψη αυτή αναδεικνύει ένα λιγότερο ορατό κόστος της τεχνητής νοημοσύνης: παρά την αυτοματοποίηση, οι τεχνολογικές εταιρείες εξακολουθούν να βασίζονται σε ανθρώπους που εξετάζουν προσωπικά δεδομένα για να εκπαιδεύσουν AI μοντέλα.
Η χρήση ανθρώπινων annotators από τη Meta δημιουργεί επίσης τον κίνδυνο ευαίσθητα δεδομένα να καταλήξουν σε λάθος χέρια, κάτι που θα μπορούσε να εκθέσει τους χρήστες της εταιρείας.
Το ζήτημα της παρακολούθησης (surveillance) βρίσκεται ήδη στο επίκεντρο της συζήτησης στη βιομηχανία της τεχνητής νοημοσύνης.
Ο CEO της Anthropic, Dario Amodei, έχει χαρακτηρίσει τη μαζική παρακολούθηση πολιτών στις ΗΠΑ ως μία από τις δύο “κόκκινες γραμμές” που δεν είναι διατεθειμένος να παραβιάσει στη συνεργασία του με το Υπουργείο Άμυνας.
Παράλληλα, η στρατιωτικοποίηση των υπηρεσιών επιβολής νόμου στις ΗΠΑ έχει προκαλέσει αντιδράσεις, καθώς υπηρεσίες όπως η Immigration and Customs Enforcement (ICE) χρησιμοποιούν εκτεταμένες βάσεις δεδομένων και παρακολούθηση social media για την ταυτοποίηση πολιτών.
Οι αποκαλύψεις για τους υπεργολάβους της Meta προκάλεσαν έντονη αντίδραση στα κοινωνικά δίκτυα, όπου πολλοί χρήστες εξέφρασαν ανησυχία για την πιθανότητα να καταγράφονται κρυφά από τα διακριτικά στην εμφάνιση έξυπνα γυαλιά της εταιρείας.
Πολλοί υιοθέτησαν μάλιστα έναν χαρακτηρισμό για τη συσκευή που πιθανότατα δεν θα άρεσε ιδιαίτερα στον CEO της Meta, Mark Zuckerberg: «pervert glasses» (γυαλιά των διεστραμμένων).
«Θα πω κάτι που ίσως με ακυρώσει: δεν υπάρχει κανένας λόγος να υπάρχουν τα “pervert glasses”», έγραψε ένας χρήστης.
Άλλος σχολίασε: «Χαίρομαι που ο κόσμος καταλήγει στον όρο “γυαλιά των διεστραμμένων” — μπόνους αν το γράφεις δίπλα σε φωτογραφία του Mark Zuckerberg».
Ένας ακόμη χρήστης ανέφερε: «Δεν είμαι καθόλου φαν των “γυαλιά των διεστραμμένων” του Mark Zuckerberg. Θα προτιμούσα η τεχνολογία να δυσκολεύει τη δράση των επίδοξων “κρυφοκοιταχτών”, όχι να τους τη διευκολύνει».
Ορισμένοι χρήστες υπενθύμισαν επίσης ένα πρόσφατο περιστατικό όπου η Microsoft απαγόρευσε τον υποτιμητικό όρο “Microslop” σε ένα κανάλι της στο Discord, πριν τελικά αναγκαστεί να κλείσει ολόκληρο τον server μετά από έντονες αντιδράσεις.
«Γι’ αυτό πρέπει να συνεχίσουμε να τα λέμε “γυαλιά των διεστραμμένων”, μέχρι να αρχίσουν να τα αποκαλούν έτσι και οι θείες μας στο Facebook», σχολίασε ένας άλλος χρήστης.
Η απειλή ότι απλά έξυπνα γυαλιά μπορούν να χρησιμοποιηθούν για παρακολούθηση δεν είναι πλέον σενάριο επιστημονικής φαντασίας.
Ερευνητές έχουν ήδη δείξει ότι τα smart glasses της Meta μπορούν να χρησιμοποιηθούν για άμεση ταυτοποίηση αγνώστων σε δημόσιους χώρους, μια τεχνολογία που — σύμφωνα με πληροφορίες — η ίδια η εταιρεία εξετάζει.
Συνολικά, τα έξυπνα γυαλιά αποτελούν μια κατηγορία προϊόντων με έντονες ανησυχίες γύρω από την ιδιωτικότητα, ιδιαίτερα όταν χρησιμοποιούνται παρουσία άλλων ανθρώπων που ενδέχεται να μην γνωρίζουν ότι καταγράφονται.
Όπως έγραψε ο Boone Ashworth του Wired στην κριτική του για τη δεύτερη γενιά των smart glasses της Meta:
«Πέρα από το ζήτημα της μόδας, αυτές οι συσκευές βρίσκονται σε μια δύσκολη θέση. Τα δικαιώματα ιδιωτικότητας και η έκρηξη της τεχνολογίας παρακολούθησης είναι πλέον αδύνατο να αγνοηθούν».
Και συμπλήρωσε: «Δεν λέω ότι είναι γυαλιά για “περίεργους”, αλλά δεν μπορώ να μην νιώθω λίγο έτσι όταν τα φοράω».
Μετά τη δημοσίευση του ρεπορτάζ, η Meta απέστειλε δήλωση: «Τα γυαλιά Ray-Ban Meta επιτρέπουν στους χρήστες να χρησιμοποιούν AI hands-free για να απαντούν σε ερωτήσεις σχετικά με τον κόσμο γύρω τους. Εκτός αν οι χρήστες επιλέξουν να μοιραστούν τα βίντεο που καταγράφουν με τη Meta ή άλλους, το υλικό παραμένει στη συσκευή τους.
Όταν οι χρήστες μοιράζονται περιεχόμενο με το Meta AI, μερικές φορές χρησιμοποιούμε εργολάβους για την αξιολόγηση αυτών των δεδομένων, με στόχο τη βελτίωση της εμπειρίας — όπως κάνουν και πολλές άλλες εταιρείες.
Λαμβάνουμε επίσης μέτρα φιλτραρίσματος των δεδομένων ώστε να προστατεύεται η ιδιωτικότητα και να αποτρέπεται η εξέταση στοιχείων που μπορούν να ταυτοποιήσουν άτομα».
ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:
- Μαρκ Ζούκερμπεργκ – Πρισίλα Τσαν: Νέα εποχή στη φιλανθρωπία με επίκεντρο την επιστήμη και την τεχνητή νοημοσύνη
- Το superyacht των 300 εκατ. δολαρίων του Ζούκερμπεργκ έκανε 80 μέρες «σέρβις» στη Γαλλία και επιστρέφει στις θάλασσες
- Τραμπ: Ο Ζούκερμπεργκ μου έδειξε data center Τεχνητής Νοημοσύνης «μεγέθους Μανχάταν»