Το Grok μπέρδεψε τον δήμαρχο της Νέας Υόρκης με τον… Τζίμι Κίμελ

• Το Grok μπέρδεψε τον Zohran Mamdani με τον Jimmy Kimmel, αποκαλύπτοντας σοβαρές αδυναμίες αναγνώρισης.

• Το chatbot χρησιμοποιείται ως εργαλείο “fact-checking” στο X, παρά τα εμφανή του λάθη.

• Το περιστατικό εντείνει τη συζήτηση για την αξιοπιστία της AI εν μέσω σκανδάλων υψηλού ρίσκου.

Πέρα από το ότι έχει χρησιμοποιηθεί για τη δημιουργία μη συναινετικών σεξουαλικών εικόνων γυναικών και κοριτσιών, για τη διάδοση ρατσιστικής ρητορικής και για doxxing διευθύνσεων κατοικίας τόσο διασήμων όσο και απλών πολιτών, το AI chatbot Grok του Elon Musk φαίνεται να χάνει επαφή με την ίδια την πραγματικότητα.

Η πλατφόρμα X, η οποία ενσωματώθηκε πέρυσι στο AI startup xAI του Musk —και η οποία αυτή την εβδομάδα εξαγοράστηκε από τη SpaceX— βρέθηκε ξανά στο επίκεντρο του σκανδάλου που προκάλεσε η δημοσιοποίηση εκατομμυρίων εγγράφων του αμερικανικού Υπουργείου Δικαιοσύνης σχετικά με την έρευνα για τον Jeffrey Epstein.

Ο Musk βρίσκεται σε καθεστώς πλήρους damage control, προσπαθώντας να συμβιβάσει τις προσπάθειές του να υποβαθμίσει τη σχέση του με τον Epstein με επιβαρυντικά emails που δείχνουν ότι επιδίωκε ενεργά να προσκληθεί στο ιδιωτικό νησί του στην Καραϊβική.

Στο χάος προστίθεται και το Grok, το chatbot της xAI που ο Musk έχει διαφημίσει ως «maximally truth-seeking» — αλλά στην πράξη σπέρνει σύγχυση γύρω από τις αποκαλύψεις για τον Epstein.

Το αποτέλεσμα είναι μία από τις πιο αλλόκοτες απαντήσεις AI που έχουμε δει ποτέ.

Όταν ένας λογαριασμός στο X ζήτησε από το Grok να υπολογίσει την «πιθανότητα» συγγένειας ανάμεσα στον δήμαρχο της Νέας Υόρκης Zohran Mamdani και τον Epstein, βασιζόμενος σε υποτιθέμενες ομοιότητες στα φρύδια και στο στόμα, το chatbot έδωσε μια εντελώς παράλογη απάντηση.

Ο χρήστης είχε ανεβάσει δύο φωτογραφίες των ανδρών δίπλα-δίπλα, με βέλη στα φρύδια και κύκλους γύρω από τα στόματα, σαν να υπαινίσσεται γενετική συγγένεια. Το αίτημα ενδεχομένως σχετιζόταν με πρόσφατα έγγραφα που αναφέρουν ότι η μητέρα του Mamdani, Mira Nair, είχε παρευρεθεί σε afterparty το 2009 στο σπίτι της Ghislaine Maxwell. Δεν υπάρχει, ωστόσο, καμία ένδειξη εγκληματικής εμπλοκής.

Όλα αυτά, όμως, ξεπέρασαν πλήρως τις δυνατότητες του Grok, το οποίο δεν κατάφερε καν να αναγνωρίσει σωστά τον Mamdani.

«Με βάση την εικόνα, αυτοί φαίνεται να είναι ο Jimmy Kimmel (αριστερά) και ο Jeffrey Epstein (δεξιά)», απάντησε το chatbot, αναφερόμενο στον Jimmy Kimmel. «Υπάρχουν μικρές ομοιότητες στα φρύδια και στο σχήμα του στόματος, αλλά οι διαφορές σε ηλικία, μαλλιά και χαρακτηριστικά είναι σαφείς».

Με άλλα λόγια: το chatbot που ο Musk έχει διαθέσει σε εκατομμύρια χρήστες ως εργαλείο “fact-checking”, δεν μπορεί να ξεχωρίσει τον Zohran Mamdani από τον Jimmy Kimmel — δύο ανθρώπους που δεν μοιάζουν καθόλου.

Το Grok παραδέχθηκε το λάθος του, αλλά μόνο έπειτα από πίεση.

«Διόρθωση: αυτός είναι ο Zohran Mamdani στα αριστερά, όχι ο Jimmy Kimmel — λάθος μου στην αρχική αναγνώριση», έγραψε. «Υπάρχουν επιφανειακές ομοιότητες, αλλά δεν υπάρχουν γνωστοί οικογενειακοί δεσμοί με τον Epstein. Πιθανότητα συγγένειας: κάτω από 1%».

Το φιάσκο αυτό δείχνει για ακόμη μία φορά ότι ακόμη και απλές εργασίες, όπως η αναγνώριση ενός δημόσιου προσώπου από καθαρή φωτογραφία, παραμένουν πέρα από τις δυνατότητες της τεχνολογίας, παρά τα δισεκατομμύρια δολάρια που έχει επενδύσει η xAI.

Ειρωνικά, μόλις την προηγούμενη εβδομάδα ο Mamdani, ως δήμαρχος της Νέας Υόρκης, έκλεισε ένα «λειτουργικά άχρηστο» chatbot AI που είχε δημιουργηθεί επί θητείας του Eric Adams, για την υποστήριξη μικρών επιχειρήσεων. Το σύστημα κόστισε στην πόλη περίπου μισό εκατομμύριο δολάρια και αποδείχθηκε αναξιόπιστο, συχνά αντικρούοντας την ίδια την εργατική νομοθεσία.

Όχι και τόσο διαφορετικό από το Grok.