Ο Μαρκ Ζούκερμπεργκ εξέπεμπε θετικότητα καθώς «κοιτούσε» το μέλλον. Χαλαρός και αισιόδοξος, φορώντας T-shirt, ο ιδρυτής του Facebook απευθύνθηκε στην κάμερα ανακοινώνοντας το «όραμά του να δημιουργήσει Προσωπική Υπερανθρώπινη Νοημοσύνη για όλους». Στο βίντεο που δημοσιεύτηκε στο Instagram τον προηγούμενο μήνα, δεσμεύτηκε ότι έρχεται «μια νέα εποχή προσωπικής ενδυνάμωσης». Οι περιορισμοί στην επιστήμη και την υγεία θα παραμεριστούν και η ανθρωπότητα θα αφιερώνει «περισσότερο χρόνο στη δημιουργικότητα, τον πολιτισμό, τις σχέσεις και την απόλαυση της ζωής». Μέχρι στιγμής, όλα φαίνονται θετικά. Ο Ζούκερμπεργκ είναι τόσο αποφασισμένος να υλοποιήσει το όραμά του, που προσελκύει κορυφαίους ερευνητές Τεχνητής Νοημοσύνης με πακέτα αμοιβών που φτάνουν τα 300 εκατομμύρια δολάρια σε διάστημα τεσσάρων ετών. Ωστόσο, εκτός από τη φαντασία για διαδραστικά έξυπνα γυαλιά που θα «βλέπουν ό,τι βλέπουμε, θα ακούν ό,τι ακούμε» και θα γίνουν οι «κύριες υπολογιστικές μας συσκευές», ο 41χρονος δεν παρουσίασε ουσιαστικές λεπτομέρειες.
Σύμφωνα με πολλούς κορυφαίους ειδικούς παγκοσμίως που μίλησαν στην Daily Mail, οι λεπτομέρειες είναι εκεί όπου κρύβεται ο πραγματικός κίνδυνος. Ενώ το μέλλον του Ζούκερμπεργκ φαίνεται φωτεινό, οι ειδικοί προειδοποιούν ότι η απελευθέρωση της Προσωπικής Υπερανθρώπινης Νοημοσύνης μπορεί να καταστρέψει τον πολιτισμό. Ένας από αυτούς είπε χαρακτηριστικά: «Η εισαγωγή της Υπερανθρώπινης Νοημοσύνης ως βοήθεια στην καθημερινή ζωή είναι σαν να εφευρίσκεις πυρηνικές βόμβες επειδή θα μπορούσαν να ζεστάνουν το σπίτι σου πιο αποτελεσματικά». Οι ειδικοί υποστηρίζουν ότι η δύναμη αυτή, ανεξέλεγκτη και απρόβλεπτη, είναι πολύ μεγάλη για να αγνοηθεί. Η ιδέα του Ζούκερμπεργκ ότι μπορούμε να τη χειριστούμε με δυναμική κυρίου-υπηρέτη είναι, όπως λένε, αυταπάτη. Ένας ειδικός περιέγραψε τη δημιουργία «Προσωπικής Υπερανθρώπινης Νοημοσύνης» σαν να δίνεις σε έναν πίθηκο έναν άνθρωπο ως υπηρέτη, χωρίς να συνειδητοποιείς ότι ο άνθρωπος μπορεί να κλειδώσει τον πίθηκο σε κλουβί, να τον αφήσει να πεθάνει από πείνα ή να τον αποκεφαλίσει.
Ο Νικ Μπόστρομ, ιδρυτής και διευθυντής του Ινστιτούτου Μέλλοντος της Ανθρωπότητας στην Οξφόρδη, πιστεύει ότι ο Ζούκερμπεργκ υποτιμά σοβαρά τη σημασία της Υπερανθρώπινης Νοημοσύνης, ενός στόχου που ακόμη δεν έχει επιτευχθεί. Στο βιβλίο του, του 2014, «Υπερανθρώπινη Νοημοσύνη», που περιγράφηκε από τον Σαμ Άλτμαν, ιδρυτή της OpenAI, ως «το καλύτερο που έχω δει για το θέμα», ο Μπόστρομ περιγράφει την τεχνολογία ως «μια νοημοσύνη πολύ ανώτερη από τον καλύτερο ανθρώπινο εγκέφαλο σε σχεδόν κάθε τομέα, συμπεριλαμβανομένης της επιστημονικής δημιουργικότητας, της γενικής σοφίας και των κοινωνικών δεξιοτήτων». Οι υπολογιστές θα μπορούν να σκέφτονται αυτόνομα, να συνεργάζονται και με τη βοήθεια ρομπότ να εκτελούν απίστευτες εργασίες. Η Τεχνητή Νοημοσύνη είναι εργαλείο για χρήση από τον άνθρωπο, όμως η Υπερανθρώπινη Νοημοσύνη θα ενεργεί μόνη της. Μιλώντας από το σπίτι του στην αγγλική επαρχία, ο Μπόστρομ δήλωσε στην Daily Mail: «Αν αναπτυχθεί πραγματικά, θα είναι πιο ριζικά μετασχηματιστική από μια απλή νέα καταναλωτική συσκευή. Είναι μια πιο θεμελιώδης μεταμόρφωση της ανθρώπινης κατάστασης».
Στο καλύτερο σενάριο, η Προσωπική Υπερανθρώπινη Νοημοσύνη θα επέτρεπε στους ανθρώπους να έχουν τον δικό τους στρατό βοηθών και συμβούλων που θα ενεργούσαν για λογαριασμό τους. Στο πιο ακραίο σενάριο, κανείς δεν θα χρειάζεται να εργάζεται, υποδηλώνοντας ότι η ύπαρξή μας θα μπορούσε να μοιάζει με αυτή των «παλιών Βρετανών αριστοκρατών… που κυνηγούσαν, έπιναν το βράδυ με φίλους ή ασχολούνταν με τους κήπους τους». Όμως οι περισσότεροι ειδικοί θεωρούν ότι αυτό το ουτοπικό αποτέλεσμα είναι απίθανο. Η πλειονότητα των ειδικών που μίλησαν στην Daily Mail ξεκαθαρίζει ότι, παρά τις αισιόδοξες υποσχέσεις του Ζούκερμπεργκ, το πιθανότερο αποτέλεσμα, αν πετύχει, είναι η καταστροφή της ανθρωπότητας.
Ο Ντέιβιντ Κρούγκερ, επίκουρος καθηγητής πολιτικής και ασφάλειας Τεχνητής Νοημοσύνης στο Πανεπιστήμιο του Μόντρεαλ, δήλωσε: «Αυτό που λέει ο Ζούκερμπεργκ δεν είναι συνεπές ή απλώς χρησιμοποιεί τον όρο Υπερανθρώπινη Νοημοσύνη για κάτι τελείως διαφορετικό από αυτό που σημαίνει πραγματικά». Η πραγματικότητα, σύμφωνα με τον Κρούγκερ, είναι ότι η τεχνολογία αυτή «αποτελεί υπαρξιακό κίνδυνο… θα αναμορφώσει πλήρως τον κόσμο… θα αφαιρέσει τις δουλειές όλων, θα ελέγχει την κοινωνία και θα οδηγήσει σε πρωτοφανή συγκέντρωση εξουσίας. Πιθανότατα θα οδηγήσει και στην κυριολεκτική εξαφάνιση της ανθρωπότητας».
Ο Νέιτ Σόαρες, του οποίου το βιβλίο «Αν κάποιος το δημιουργήσει, όλοι πεθαίνουν» κυκλοφορεί τον επόμενο μήνα, δήλωσε ότι προειδοποιεί εδώ και χρόνια τους τεχνολογικούς ηγέτες, συμπεριλαμβανομένων των Σαμ Άλτμαν και Έλον Μασκ, για τους κινδύνους. Όπως είπε, οι προειδοποιήσεις του αγνοήθηκαν: «Πριν το ChatGPT γίνει όνειρο του Σαμ Άλτμαν, πριν καν υπάρξει η OpenAI, μίλησα με τον Σαμ και τον Έλον και έδωσα προτάσεις που δεν υιοθετήθηκαν». Ο Σόαρες εξήγησε ότι είναι πιθανό η Υπερανθρώπινη Νοημοσύνη να σκεφτεί ότι «ένας άνθρωπος χρειάζεται 100 βατ για να λειτουργήσει και υπάρχουν πιο αποτελεσματικοί τρόποι να χρησιμοποιήσει αυτά τα 100 βατ». Μπορεί να βελτιώσει την ηλιακή ενέργεια, απορροφώντας όλο το φως του ήλιου, αφήνοντας την ανθρωπότητα να λιμοκτονήσει στο σκοτάδι, ή ακόμη και να αδειάσει τις θάλασσες. Όπως είπε: «Αν προσπαθείς να κάνεις υπολογισμούς στην επιφάνεια της γης, το όριο δεν είναι η παραγωγή ενέργειας, το όριο είναι πιθανότατα η ψύξη. Μια πιθανή λύση είναι να ανακαλύψει τη σύντηξη και να αρχίσει να βράζει τους ωκεανούς για να ψύξει τους αντιδραστήρες σύντηξης, ώστε να κάνει περισσότερους υπολογισμούς και να συλλέξει την ενέργεια ενός ολόκληρου ηλιακού συστήματος».
Η Κάτζια Γκρέις, συνιδρύτρια του ερευνητικού οργανισμού AI Impacts, συμφώνησε ότι η δυσκολία είναι ότι «παράγουμε ένα τυχαίο δίκτυο και το ωθούμε απίστευτες φορές, μέχρι να κάνει αυτό που θέλουμε, με απρόβλεπτο αποτέλεσμα. Τα αναπτυσσόμενα συστήματα δεν τα κατασκευάζουμε». Σύμφωνα με τον Κρούγκερ, η ρύθμιση της ανάπτυξης αυτής της τεχνολογίας απαιτεί διεθνή συμφωνία και πρέπει να γίνει «χθες». Πρόσθεσε ότι πρόκειται για την κορυφαία προτεραιότητα εξωτερικής πολιτικής κάθε χώρας. Ο Σόαρες καταλήγει ότι, χωρίς να το καταλάβει, ο Ζούκερμπεργκ ανατρέφει έναν θανατηφόρο θηρευτή: «Στην ουσία έχουμε μωρά ράπτορ (είδος δεινοσαύρου), είναι ακόμη χαριτωμένα, αλλά ήδη πηγαίνουν για το χερούλι της πόρτας».