Η Meta κατοχύρωσε πατέντα που θα επέτρεπε σε AI να “αναστήσει” ψηφιακά νεκρούς χρήστες μέσω των social media, όμως η ιδέα προκάλεσε έντονες αντιδράσεις και άνοιξε έναν νέο, σκοτεινό διάλογο για τα όρια της τεχνητής νοημοσύνης και της ψηφιακής μνήμης.
-
Η Meta κατοχύρωσε πατέντα για AI που θα “προσομοιώνει” αποθανόντες χρήστες, διατηρώντας ενεργούς τους λογαριασμούς τους.
-
Η ιδέα εγείρει σοβαρά ηθικά, ψυχολογικά και επιχειρηματικά ερωτήματα, ιδιαίτερα σε μια εποχή κορεσμού από AI περιεχόμενο.
-
Παρότι η εταιρεία δηλώνει ότι δεν θα προχωρήσει, η ύπαρξη της πατέντας δείχνει πόσο μακριά είναι διατεθειμένες να φτάσουν οι Big Tech στην αναζήτηση engagement και δεδομένων.
Το τι συμβαίνει με τους λογαριασμούς κοινωνικής δικτύωσης ανθρώπων που έχουν φύγει από τη ζωή αποτελεί αντικείμενο συζήτησης από τότε που η τεχνολογία έγινε mainstream. Πρέπει οι ανενεργοί λογαριασμοί να παραμένουν ως έχουν ή θα έπρεπε οι συγγενείς να αποκτούν πρόσβαση ώστε να τους διατηρούν ως ψηφιακά μνημεία;
Για τη Meta, ωστόσο, φαίνεται πως υπήρξε μια πιο μακάβρια εναλλακτική: η εκπαίδευση ενός μοντέλου τεχνητής νοημοσύνης πάνω στις αναρτήσεις ενός αποθανόντος χρήστη, ώστε ο λογαριασμός του να παραμένει ενεργός ακόμη και μετά τον θάνατό του, με νέο περιεχόμενο γραμμένο «στη φωνή» του.
Όπως αποκάλυψε το Business Insider, η εταιρεία έλαβε πατέντα το 2023 για αυτή την ιδέα, περιγράφοντας πώς ένα μεγάλο γλωσσικό μοντέλο (LLM) θα μπορούσε να «προσομοιώνει» τη δραστηριότητα ενός χρήστη στα social media.
«Το γλωσσικό μοντέλο μπορεί να χρησιμοποιηθεί για την προσομοίωση του χρήστη όταν αυτός απουσιάζει από το κοινωνικό δίκτυο, για παράδειγμα όταν κάνει ένα μεγάλο διάλειμμα ή αν έχει αποβιώσει», αναφέρει η πατέντα, η οποία φέρει ως βασικό συντάκτη τον CTO της εταιρείας, Andrew Bosworth.
Ωστόσο, η συζήτηση φαίνεται να έχει αλλάξει δραματικά τα τελευταία τρία χρόνια, ιδιαίτερα καθώς το περιεχόμενο χαμηλής ποιότητας που παράγεται από AI έχει κατακλύσει πλατφόρμες όπως το Facebook και το Instagram. Πλέον, η Meta δηλώνει ότι δεν σκοπεύει να προχωρήσει με την ιδέα.
«Δεν έχουμε σχέδια να προχωρήσουμε με αυτό το παράδειγμα», δήλωσε εκπρόσωπος της εταιρείας στο Business Insider.
Η ιδέα της «ψηφιακής ανάστασης» δεν είναι μεμονωμένο φαινόμενο. Ήδη υπάρχουν παραδείγματα χρήσης AI για την προσομοίωση νεκρών ανθρώπων — από γιαγιά που «επανήλθε» ως AI μοντέλο στην ίδια της την κηδεία, μέχρι startups του λεγόμενου “grief tech” που επιτρέπουν σε συγγενείς να εκπαιδεύουν μοντέλα πάνω σε φωτογραφίες, ηχογραφήσεις και βίντεο των εκλιπόντων.
Στην ίδια την πατέντα, η Meta αναγνώριζε τον κίνδυνο: «Ο αντίκτυπος στους χρήστες είναι πολύ πιο σοβαρός και μόνιμος όταν ο χρήστης έχει αποβιώσει και δεν μπορεί ποτέ να επιστρέψει στην πλατφόρμα».
Σύμφωνα με το έγγραφο, ένα τέτοιο ψηφιακό κλώνο θα μπορούσε να αλληλεπιδρά με άλλους μέσω likes, σχολίων — ακόμη και προσωπικών μηνυμάτων.
Παρότι η εταιρεία έχει αποστασιοποιηθεί από την ιδέα, η ύπαρξη της πατέντας αποκαλύπτει πόσο επιθετικά οι εταιρείες τεχνολογίας αναζητούν νέες εφαρμογές για τα LLMs — και πόσο μακριά είναι διατεθειμένες να φτάσουν.
Την προηγούμενη χρονιά, ο CEO της Meta, Mark Zuckerberg, είχε μάλιστα προτείνει ότι μοναχικοί χρήστες θα μπορούσαν να γίνουν φίλοι με bots της εταιρείας αντί με πραγματικούς ανθρώπους. Σε συνέντευξή του το 2023 στον podcaster Lex Fridman, άφησε να εννοηθεί ότι εικονικά avatars θα μπορούσαν να αναλάβουν λογαριασμούς αποθανόντων.
«Αν κάποιος έχει χάσει ένα αγαπημένο πρόσωπο και πενθεί, ίσως η δυνατότητα αλληλεπίδρασης ή αναβίωσης ορισμένων αναμνήσεων να είναι βοηθητική», είχε δηλώσει τότε.
Ωστόσο, παραδέχτηκε και την άλλη όψη: «Υπάρχει πιθανώς ένα όριο πέρα από το οποίο μπορεί να γίνει ανθυγιεινό. Δεν είμαι ειδικός σε αυτό, οπότε θα πρέπει να το μελετήσουμε και να το κατανοήσουμε καλύτερα».
«Έχουμε ήδη σημαντική εμπειρία στο πώς διαχειριζόμαστε τον θάνατο, την ταυτότητα και το ψηφιακό περιεχόμενο των ανθρώπων στα social media», πρόσθεσε.
Δεν είναι δύσκολο να υποθέσει κανείς ότι η δημιουργία ψηφιακών avatars νεκρών χρηστών θα μπορούσε να εξυπηρετεί και επιχειρηματικούς σκοπούς. Το Facebook έχει εξελιχθεί σε ένα είδος ψηφιακού «νεκροταφείου» ανενεργών λογαριασμών, ατελείωτων διαφημίσεων και ξεχασμένων ειδοποιήσεων γενεθλίων. Την ίδια στιγμή, τα feeds γεμίζουν με τοξικό, μαζικά παραγόμενο AI περιεχόμενο.
Καθώς η εμπλοκή των χρηστών μειώνεται, το βασικό επιχειρηματικό μοντέλο της εταιρείας — η πώληση διαφημίσεων — θα μπορούσε να δεχθεί πλήγμα.
«Περισσότερη εμπλοκή, περισσότερο περιεχόμενο, περισσότερα δεδομένα — περισσότερα δεδομένα για το παρόν και το μέλλον της AI», δήλωσε η καθηγήτρια νομικής του Πανεπιστημίου του Birmingham, Edina Harbinja, στο Business Insider. «Μπορώ να δω το επιχειρηματικό κίνητρο. Αναρωτιέμαι απλώς πώς, πότε και αν θα εφαρμοστεί αυτή η καινοτομία».
Άλλοι ειδικοί εμφανίστηκαν έντονα επιφυλακτικοί. Ο καθηγητής κοινωνιολογίας του Πανεπιστημίου της Βιρτζίνια, Joseph Davis, τόνισε: «Ένα από τα καθήκοντα του πένθους είναι να αντιμετωπίσεις την πραγματική απώλεια. Αφήστε τους νεκρούς να παραμείνουν νεκροί».
ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:
- Μαρκ Ζούκερμπεργκ – Πρισίλα Τσαν: Νέα εποχή στη φιλανθρωπία με επίκεντρο την επιστήμη και την τεχνητή νοημοσύνη
- Το superyacht των 300 εκατ. δολαρίων του Ζούκερμπεργκ έκανε 80 μέρες «σέρβις» στη Γαλλία και επιστρέφει στις θάλασσες
- Τραμπ: Ο Ζούκερμπεργκ μου έδειξε data center Τεχνητής Νοημοσύνης «μεγέθους Μανχάταν»