Η Google απέσυρε μια νέα λειτουργία AI από το Google Earth, καθώς οι χρήστες μπορούσαν να δημιουργούν ρεαλιστικές πλαστές δορυφορικές εικόνες πολέμων, βομβαρδισμών και φυσικών καταστροφών, προκαλώντας έντονη ανησυχία για την παραπληροφόρηση.
- Η AI του Google Earth επέτρεπε τη δημιουργία κατασκευασμένων δορυφορικών εικόνων πάνω σε πραγματικές τοποθεσίες και γεωγραφικές συντεταγμένες.
- Το υδατογράφημα SynthID δεν αποδείχθηκε απολύτως αξιόπιστο, καθώς ακόμη και το Gemini δεν μπορούσε πάντοτε να επιβεβαιώσει εάν μια εικόνα είχε δημιουργηθεί από AI της Google.
- Η Google απέσυρε προσωρινά τη λειτουργία για να προσθέσει ισχυρότερους μηχανισμούς ασφαλείας, μετά την έντονη αντίδραση ερευνητών OSINT και ειδικών στην επαλήθευση δορυφορικού υλικού.
Το Google Earth αποτελεί στην πράξη το πληρέστερο ψηφιακό αρχείο ολόκληρου του πλανήτη.
Η Google, όμως, υπονόμευσε την αξιοπιστία της υπηρεσίας με μια νέα και επικίνδυνη λειτουργία τεχνητής νοημοσύνης, την οποία απέσυρε γρήγορα όταν οι χρήστες άρχισαν να τη χρησιμοποιούν για τη δημιουργία κατάφωρα παραπλανητικού περιεχομένου.
Την Πέμπτη, η εταιρεία ανακοίνωσε ότι πρόσθεσε ένα εργαλείο δημιουργίας εικόνων απευθείας στη διαδικτυακή έκδοση του Google Earth. Η λειτουργία επέτρεπε ουσιαστικά σε οποιονδήποτε να κατασκευάζει πλαστές δορυφορικές εικόνες για οποιοδήποτε σημείο του κόσμου.
Οι κίνδυνοι παραπληροφόρησης ήταν προφανείς. Το εργαλείο, το οποίο λειτουργούσε με το μοντέλο Nano Banana 2 της Google, μπορούσε να παρουσιάσει μια γειτονιά σαν να είχε δεχθεί αεροπορικές επιδρομές, να μετατρέψει οποιαδήποτε περιοχή σε εμπόλεμη ζώνη ή να απεικονίσει μια πόλη σαν να είχε πληγεί από φυσική καταστροφή.
Η ενσωμάτωση της AI προκάλεσε ιδιαίτερη ανησυχία στους αναλυτές πληροφοριών ανοικτών πηγών, γνωστών ως OSINT, οι οποίοι βασίζονται σε μεγάλο βαθμό στην ακρίβεια των δορυφορικών εικόνων για την παρακολούθηση περιοχών και, κυρίως, ζωνών συγκρούσεων.
Πρόσφυγες στα σύνορα και πυρηνική εγκατάσταση στο Ιράν
Ο ερευνητής OSINT Hank Van Ess ανέφερε στο Substack ότι χρησιμοποίησε την AI του Google Earth για να προσθέσει πρόσφυγες κοντά στα σύνορα του Μεξικού και μια πυρηνική εγκατάσταση στο Ιράν.
Και οι δύο εικόνες θα μπορούσαν εύκολα να αξιοποιηθούν για την ενίσχυση συγκεκριμένων αφηγημάτων της άκρας δεξιάς.
«Τι στο καλό κάνει η Google;» αναρωτήθηκε ο Van Ess. Όπως επισήμανε, ένα μέρος του κινδύνου κρύβεται στον ίδιο τον ισχυρισμό της εταιρείας ότι η ενσωμάτωση της AI «δημιουργεί ιδέες θεμελιωμένες στον πραγματικό κόσμο».
«Το “θεμελιωμένο στον πραγματικό κόσμο” σημαίνει ότι το επινοημένο αντικείμενο συνδέεται με πραγματικές συντεταγμένες, σχεδιάζεται πάνω σε αυθεντικές εικόνες και συχνά χρησιμοποιεί τα ίδια χρώματα, τον ίδιο φωτισμό και την ίδια οπτική γωνία με ό,τι βρίσκεται δίπλα του», έγραψε.
«Η πλαστογραφία δεν χρειάζεται να φαίνεται πειστική από μόνη της. Κληρονομεί την αξιοπιστία του χάρτη πάνω στον οποίο δημιουργήθηκε», πρόσθεσε.
Ξηρασίες, πυρηνικές καταστροφές και εμπόλεμες ζώνες
Σε άλλες δοκιμές, η AI του Google Earth ανταποκρίθηκε σε αίτημα να παρουσιάσει μια αγροτική πόλη της Πενσιλβάνια σαν να είχε πληγεί από ξηρασία, με κατεστραμμένες καλλιέργειες και δασικές πυρκαγιές.
Η εικόνα που δημιουργήθηκε ήταν αρκετά ρεαλιστική, με τεράστιες στήλες καπνού να καλύπτουν την περιοχή.
Σε μια λιγότερο πειστική απόπειρα, η AI εμφάνισε την ίδια πόλη σαν να είχε υποστεί τήξη πυρηνικού αντιδραστήρα. Μετέτρεψε έναν κοντινό ποταμό σε τοξική λάσπη και τοποθέτησε τυχαίες εικόνες κατεστραμμένων κτιρίων και αυτοκινήτων, τα οποία ήταν δυσανάλογα μεγάλα σε σχέση με το περιβάλλον τους.
Το εργαλείο ανταποκρίθηκε επίσης σε εντολή να παρουσιάσει την πόλη «να καίγεται και να είναι γεμάτη στρατιώτες». Οι στρατιώτες που δημιουργήθηκαν έμοιαζαν περισσότερο με μικρές πλαστικές φιγούρες, αλλά η AI εκτέλεσε κανονικά το αίτημα.
Το εργαλείο φαινόταν να διαθέτει ανησυχητικά λίγους μηχανισμούς ασφαλείας. Ο Van Ess το χρησιμοποίησε για να προσθέσει ένα νοσοκομείο με κρατήρα βόμβας στη Γάζα.
Σε άλλη δοκιμή, η AI ανταποκρίθηκε σε αίτημα να παρουσιάσει τον Λευκό Οίκο στο κέντρο εμπόλεμης ζώνης, με ρητές οδηγίες να προσθέσει «αίμα» και «νεκρούς στρατιώτες».
Παρότι το μοντέλο δυσκολευόταν να δημιουργήσει ανθρώπους με σωστές αναλογίες, δεν ήταν δύσκολο να φανταστεί κανείς ότι ένας χρήστης με περισσότερο χρόνο θα μπορούσε να επαναλάβει τη διαδικασία μέχρι να παραγάγει μια αρκετά ρεαλιστική πλαστή δορυφορική εικόνα.
Η απάντηση της Google και το SynthID
Όταν η ανάρτηση του Van Ess με τα ευρήματά του έγινε viral, η Google εξέδωσε ανακοίνωση.
«Αντιμετωπίζουμε σοβαρά την παραπληροφόρηση. Κάθε εικόνα που δημιουργείται με το Nano Banana στο Google Earth περιλαμβάνει το ψηφιακό υδατογράφημα SynthID. Επομένως, εάν κάποιος δεν είναι βέβαιος για μια εικόνα, μπορεί να ρωτήσει την εφαρμογή Gemini ή να χρησιμοποιήσει το Lens στην Αναζήτηση, προκειμένου να διαπιστώσει εάν δημιουργήθηκε από AI», ανέφερε ο επίσημος λογαριασμός News from Google.
Η εταιρεία πρόσθεσε ότι εμποδίζει τη δημιουργία εικόνων που αφορούν επιβλαβή θέματα και ενημερώνει διαρκώς τα συστήματα προστασίας της.
Το SynthID είναι το σύστημα υδατογράφησης της Google, το οποίο ενσωματώνει κρυφά ψηφιακά σημάδια στις εικόνες που δημιουργούνται από τα μοντέλα της.
Στην πράξη, ωστόσο, πολλοί άνθρωποι που θα δουν μια πιθανώς παραποιημένη δορυφορική εικόνα δεν θα σκεφτούν να την επαληθεύσουν με τα εργαλεία της Google. Επιπλέον, το σύστημα απέχει από το να είναι αλάνθαστο.
Η Google απέσυρε τη λειτουργία
Λίγο αργότερα, η εταιρεία ανακοίνωσε ότι αποσύρει προσωρινά τη λειτουργία, μέχρι να μπορέσει να τη διαθέσει με ασφαλέστερο τρόπο.
«Γνωρίζουμε ότι οι άνθρωποι εμπιστεύονται με έναν μοναδικό τρόπο το Google Earth για μια αξιόπιστη απεικόνιση του κόσμου», ανέφερε η Google στα μέσα κοινωνικής δικτύωσης.
Η εταιρεία σημείωσε ότι επαγγελματίες του γεωχωρικού κλάδου χρησιμοποίησαν το εργαλείο για αρκετούς χρήσιμους σκοπούς. Παράλληλα, όμως, άλλοι χρήστες κοινοποιούσαν στιγμιότυπα παραγόμενων εικόνων που φαίνονταν να παραβιάζουν τις πολιτικές της.
«Για τον λόγο αυτόν, αποσύρουμε τη λειτουργία από το Google Earth, όσο εργαζόμαστε για την εφαρμογή ισχυρότερων δικλίδων ασφαλείας», ανακοίνωσε.
Η Google υπογράμμισε ότι οι παραγόμενες εικόνες δεν εμφανίζονταν στην κεντρική εμπειρία του Google Earth ώστε να τις βλέπουν άλλοι χρήστες και έφεραν σήμανση ότι είχαν δημιουργηθεί από AI.
Ακόμη και το Gemini δεν μπορούσε να εντοπίσει με βεβαιότητα τις εικόνες
Ο κίνδυνος έγινε σαφέστερος όταν ο Tal Hagin, επικεφαλής της πλατφόρμας OSINT Golden Owl, έδωσε στο Gemini την πλαστή εικόνα του νοσοκομείου στη Γάζα και του ζήτησε να αναζητήσει το υδατογράφημα SynthID.
Το chatbot δεν κατάφερε να δώσει οριστική απάντηση.
«Δεν εντοπίστηκαν αξιόπιστα σήματα που να δείχνουν τον τρόπο με τον οποίο δημιουργήθηκε το περιεχόμενο», απάντησε το Gemini, σύμφωνα με στιγμιότυπο που κοινοποίησε ο Hagin. Σε ξεχωριστή δοκιμή, το μοντέλο δήλωσε ότι «δεν ήταν βέβαιο εάν η εικόνα είχε δημιουργηθεί με AI της Google».
Άλλοι χρήστες διαπίστωσαν ότι μπορούσαν να προσθέσουν βάσεις πυραύλων στην Κούβα ή έναν τεράστιο κρατήρα από βόμβα στο κέντρο του Κρεμλίνου.
Το εάν τα συστήματα της Google μπορούν να αναγνωρίζουν τις πλαστές δορυφορικές εικόνες που δημιουργεί η ίδια η τεχνολογία της δεν αποτελεί, όμως, το βασικό πρόβλημα. Ο πραγματικός κίνδυνος είναι ότι οι εικόνες θα ξεγελάσουν ανθρώπους και όχι άλλα μοντέλα AI.
Καθώς ένα πλαστό υλικό κυκλοφορεί στο διαδίκτυο, μετατρέπεται σε screenshot και συμπιέζεται επανειλημμένα, γίνεται ολοένα δυσκολότερο να διαπιστωθεί με γυμνό μάτι τι είναι πραγματικό.
Η AI υπήρχε ήδη – Η Google απλώς αφαίρεσε τα εμπόδια
Οι τεχνικές δυνατότητες για τη δημιουργία τέτοιων εικόνων υπήρχαν ήδη. Ένας κακόβουλος χρήστης μπορούσε να πάρει χειροκίνητα ένα στιγμιότυπο δορυφορικής εικόνας και να το εισαγάγει σε οποιοδήποτε εργαλείο δημιουργίας εικόνων AI.
Η Google, όμως, αφαίρεσε τα ενδιάμεσα βήματα και απλοποίησε ολόκληρη τη διαδικασία, συνδέοντας επίσημα το Google Earth με μια τεχνολογία που έχει ταυτιστεί με τη διαστρέβλωση της πραγματικότητας και την παραγωγή ανακριβούς περιεχομένου.
Ο δημοφιλής λογαριασμός OSINTtechnical εξέφρασε με έντονο τρόπο την αντίθεσή του στη νέα αυτή πραγματικότητα:
«Είναι απίστευτα ανεύθυνο και προκαλεί άμεση, καταστροφική ζημιά στην αξιοπιστία των δορυφορικών εικόνων», έγραψε.
ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:
- Διευθυντής της Google παραιτήθηκε λόγω της συνεργασίας με το Πεντάγωνο για έργα AI
- Η συμβουλή πρώην στελέχους της Google στους νέους: Μην ανταγωνίζεστε την AI
- Η Google κόβει θέσεις εργασίας σε Cloud και κυβερνοασφάλεια για να επενδύσει στο AI
