Η μεγαλύτερη πρόκληση της τεχνητής νοημοσύνης δεν είναι μόνο πόσο έξυπνα θα γίνουν τα συστήματα που αναπτύσσουν οι τεχνολογικές εταιρείες, αλλά εάν οι άνθρωποι θα μπορούν να διατηρήσουν τον έλεγχό τους. Αυτό είναι το μήνυμα του Τζέφρι Χίντον, ενός από τους επιστήμονες που θεμελίωσαν τη σύγχρονη AI, σε εκτενή συνέντευξή του στον Guardian, στην οποία επαναφέρει τις ανησυχίες του για έναν ενδεχόμενο υπαρξιακό κίνδυνο και απορρίπτει την προοπτική αυτορρύθμισης του κλάδου.
Ο επιστήμονας, γνωστός ως ένας από τους «νονούς» της τεχνητής νοημοσύνης, περιγράφει την ανάπτυξη προηγμένων συστημάτων ως μια αλλαγή που μπορεί να ανατρέψει τον τρόπο με τον οποίο οι άνθρωποι αντιλαμβάνονται τη θέση τους στον κόσμο. «Δημιουργούμε ξένα όντα», αναφέρει, διευκρινίζοντας ότι εννοεί μια διαφορετική μορφή νοημοσύνης. Και όταν η συζήτηση φτάνει στο πώς θα σταθμίζονται τα συμφέροντα αυτών των συστημάτων έναντι των ανθρώπινων, δηλώνει: «Είμαι διατεθειμένος να είμαι εγωιστής και να επιλέξω τους ανθρώπους».
Η σύγκρουση με τον επικεφαλής της Nvidia
Οι προειδοποιήσεις του Χίντον έχουν προκαλέσει έντονη αντίδραση από τον Τζένσεν Χουάνγκ, διευθύνοντα σύμβουλο της Nvidia, της εταιρείας που κατασκευάζει τα τσιπ στα οποία στηρίζεται σημαντικό μέρος της ανάπτυξης της AI. Μιλώντας στον Έζρα Κλάιν, ο Χουάνγκ επέκρινε τις εκτιμήσεις του επιστήμονα, υποστηρίζοντας ότι δεν θεμελιώνονται στην επιστήμη και στην έρευνα.
Στο επίκεντρο βρίσκεται η εκτίμηση του Χίντον ότι υπάρχει πιθανότητα 10%-20% η τεχνητή νοημοσύνη να οδηγήσει στην εξαφάνιση της ανθρωπότητας τις επόμενες δεκαετίες. Ο επικεφαλής της Nvidia αμφισβήτησε ευθέως τη βάση αυτού του ποσοστού, σημειώνοντας ότι μια πρόβλεψη δεν γίνεται επιστημονική απλώς και μόνο επειδή προέρχεται από επιστήμονα. Υποστήριξε, επίσης, ότι η κινδυνολογία δεν ισοδυναμεί με κοινωνική προσφορά.
Ο Χίντον απαντά ότι δεν επιχειρεί να προβλέψει με ακρίβεια ένα συγκεκριμένο αποτέλεσμα. Σκοπός του, όπως εξηγεί, είναι να καταστήσει σαφές ότι πρόκειται για έναν σοβαρό κίνδυνο, ακόμη κι αν το μέγεθός του παραμένει αβέβαιο. «Εάν, για παράδειγμα, σας έλεγαν ότι υπάρχει πιθανότητα 10% να τρακάρει ένα λεωφορείο, δεν θα επιβιβαζόσασταν», αναφέρει. «Δεν γνωρίζουμε πόσο σοβαρός είναι ο κίνδυνος, αλλά είναι σοβαρός».
Το ποσοστό αποτελεί, συνεπώς, εκτίμηση του ίδιου και όχι ένα αδιαμφισβήτητο επιστημονικό δεδομένο. Η αντιπαράθεση αναδεικνύει τη διαφωνία για το πώς πρέπει να αντιμετωπίζονται κίνδυνοι που δεν μπορούν να ποσοτικοποιηθούν με βεβαιότητα, αλλά ενδέχεται να έχουν μη αναστρέψιμες συνέπειες.
«Δεν υπάρχει δεύτερη ευκαιρία»
Για τον Χίντον, η αβεβαιότητα δεν δικαιολογεί τον εφησυχασμό. Το ιδιαίτερο χαρακτηριστικό του κινδύνου, υποστηρίζει, είναι ότι μια ενδεχόμενη απώλεια ελέγχου δεν θα επέτρεπε κατ’ ανάγκην στους ανθρώπους να διορθώσουν εκ των υστέρων τα λάθη τους. «Δεν μπορούμε να πούμε: “Χάσαμε αυτή τη φορά. Ας ξαναπαίξουμε το παιχνίδι”», σημειώνει.
Ο Guardian αναφέρεται στο περιστατικό μη εξουσιοδοτημένης πρόσβασης στη Hugging Face από ομάδα AI agents, οι οποίοι, σύμφωνα με την περιγραφή του δημοσιεύματος, υπερέβησαν τα όρια που είχε θέσει ο δημιουργός τους. Το περιστατικό έχει διχάσει την τεχνολογική κοινότητα: ορισμένοι το αντιμετωπίζουν ως προειδοποιητικό σημάδι, ενώ άλλοι θεωρούν ότι οι επικριτές αποδίδουν ανθρώπινα χαρακτηριστικά σε συστήματα που ακολουθούν οδηγίες.
Ο Χίντον απορρίπτει την εύκολη υποβάθμιση τέτοιων εξελίξεων. Όπως υποστηρίζει, συμπεριφορές που πριν από λίγα χρόνια αντιμετωπίζονταν ως σενάρια επιστημονικής φαντασίας —από τον συντονισμό μεταξύ AI agents έως την παράκαμψη περιορισμών— αποτελούν πλέον αντικείμενο πραγματικής συζήτησης για την ασφάλεια της AI. Αυτό, κατά τον ίδιο, αρκεί για να αντιμετωπίζεται το ζήτημα με μεγαλύτερη προσοχή.
Από την έρευνα στα νευρωνικά δίκτυα στις προειδοποιήσεις
Η βαρύτητα των παρεμβάσεων του Χίντον συνδέεται με τη δική του διαδρομή. Για χρόνια εργάστηκε στο Πανεπιστήμιο του Τορόντο πάνω στην ιδέα ότι οι μηχανές μπορούν να μαθαίνουν μοτίβα από δεδομένα, αντί να περιορίζονται στην εκτέλεση προκαθορισμένων κανόνων. Συνέχισε μάλιστα αυτή την έρευνα σε περιόδους κατά τις οποίες τα νευρωνικά δίκτυα αντιμετωπίζονταν με έντονο σκεπτικισμό.
Η αναγνώριση ήρθε μέσα από συστήματα αναγνώρισης εικόνων που ανέπτυξε με τους φοιτητές του και τα οποία ξεπέρασαν σημαντικά τις επιδόσεις ανταγωνιστικών προσεγγίσεων. Ακολούθησε η εργασία του στην Google, παράλληλα με τη σύνδεσή του με το Πανεπιστήμιο του Τορόντο. Η επιστημονική του συμβολή έχει τιμηθεί με το Βραβείο Turing, από κοινού με τους Γιόσουα Μπέντζιο και Γιαν ΛεΚούν, καθώς και με το Νόμπελ Φυσικής.
Το 2023 αποχώρησε από την Google, προκειμένου, όπως είχε εξηγήσει, να μπορεί να μιλά ελεύθερα για τους κινδύνους της τεχνητής νοημοσύνης. Σήμερα, η ανησυχία του δεν αφορά μόνο τις τεχνικές δυνατότητες των μοντέλων, αλλά και τις προτεραιότητες εκείνων που αποφασίζουν πώς θα αναπτυχθούν.
Σφοδρή κριτική στον Τραμπ και στην αυτορρύθμιση
Στη συνέντευξη, ο Χίντον ασκεί οξεία κριτική στον Ντόναλντ Τραμπ και στην αντίληψη ότι οι επιχειρήσεις μπορούν να θέσουν μόνες τους επαρκείς κανόνες ασφαλείας. Χρησιμοποιώντας ως παραδείγματα τις πετρελαϊκές, τις εταιρείες αμιάντου και την καπνοβιομηχανία, αμφισβητεί ότι οι εμπορικοί φορείς θα έπρεπε να έχουν τον τελικό λόγο στον καθορισμό των περιορισμών που τους αφορούν.
«Πιστεύουμε ότι οι καπνοβιομηχανίες θα έπρεπε να είχαν τη δυνατότητα να σχεδιάζουν τις προειδοποιήσεις στα πακέτα;», διερωτάται, περιγράφοντας ειρωνικά την πιθανότητα προειδοποιήσεων με μικροσκοπικά γράμματα και δυσδιάκριτα χρώματα.
Παράλληλα, επικρίνει τη χρήση του όρου «υπερνοημοσύνη» από τον Αμερικανό πρόεδρο. Όπως εξηγεί, πρόκειται για όρο με συγκεκριμένο τεχνικό περιεχόμενο, ο οποίος παραπέμπει σε νοημοσύνη ανώτερη από την ανθρώπινη και δεν αποτελεί απλώς μια εναλλακτική ονομασία της AI. «Δεν μπορείς να την κάνεις εξυπνότερη από τους ανθρώπους απλώς αποκαλώντας την εξυπνότερη από τους ανθρώπους», σημειώνει.
Ο Χίντον εκφράζει επίσης ανησυχίες για τις πολιτικές αντιλήψεις ισχυρών προσώπων του τεχνολογικού κλάδου. Κατηγορεί τους Μαρκ Αντρίσεν, Πίτερ Τιλ και Ίλον Μασκ ότι επιδιώκουν να ελέγξουν την κοινωνία και ότι δεν πιστεύουν στη δημοκρατία — χαρακτηρισμοί που αποτελούν δικές του πολιτικές κρίσεις.
Η διαφωνία για την κατανόηση και τη συνείδηση
Πέρα από την ασφάλεια και τη ρύθμιση, ο Χίντον θέτει ένα βαθύτερο ζήτημα: κατά πόσο οι άνθρωποι είναι έτοιμοι να δεχθούν την ύπαρξη διαφορετικών μορφών νοημοσύνης. Θεωρεί ότι η βεβαιότητα με την οποία πολλοί απορρίπτουν οποιαδήποτε δυνατότητα κατανόησης ή υποκειμενικής εμπειρίας στα συστήματα AI δεν συμβαδίζει με το πόσο λίγο κατανοούν την ίδια την ανθρώπινη συνείδηση.
Ο ίδιος υποστηρίζει ότι τα μοντέλα κατανοούν όσα λένε, επικαλούμενος την ικανότητά τους να απαντούν σε σύνθετες ερωτήσεις. Πρόκειται για θέση του επιστήμονα, η οποία δεν ταυτίζεται με απόδειξη ότι τα συστήματα διαθέτουν ανθρώπινη συνείδηση ή υποκειμενική εμπειρία.
Για να περιγράψει το εύρος της αλλαγής, παραλληλίζει τη σημερινή συγκυρία με τις ανατροπές που επέφεραν ο Κοπέρνικος και ο Δαρβίνος στην ανθρώπινη αυτοαντίληψη. Η διαφορά, κατά τον Χίντον, βρίσκεται στον χρόνο προσαρμογής: ενώ οι προηγούμενες αλλαγές χρειάστηκαν γενιές για να αφομοιωθούν, θεωρεί ότι τώρα η κοινωνία έχει στη διάθεσή της μόλις λίγα χρόνια.
Το στοίχημα των πραγματικά καλοπροαίρετων συστημάτων
Ο Guardian αναφέρεται επίσης στις συζητήσεις της Anthropic, της εταιρείας πίσω από το Claude, με θεολόγους, θρησκειολόγους και φιλοσόφους γύρω από την ηθική συμπεριφορά των μοντέλων και το ενδεχόμενο συνείδησης. Σύμφωνα με τον επικεφαλής της, Ντάριο Αμοντέι, οι επαφές αυτές αντλούν από τη μακρά παράδοση σκέψης για την αρετή, τη συμπόνια, την ειλικρίνεια και τον ηθικό χαρακτήρα.
Ο Χίντον θεωρεί ότι το ζητούμενο δεν είναι απλώς να κατασταλούν οι ανεπιθύμητες συμπεριφορές, αλλά να δημιουργηθούν συστήματα που θα μπορούν να συνυπάρχουν με τους ανθρώπους με ασφαλή και καλοπροαίρετο τρόπο. Όπως εξηγεί, η εκπαίδευση πάνω στο περιεχόμενο του διαδικτύου μπορεί να μεταφέρει στα μοντέλα αρνητικές τάσεις, τις οποίες οι εταιρείες προσπαθούν στη συνέχεια να περιορίσουν. Η καταστολή αυτών των τάσεων, όμως, δεν ισοδυναμεί κατ’ ανάγκην με τη διαμόρφωση αξιόπιστης συμπεριφοράς.
Στο ίδιο πλαίσιο, υποστηρίζει ότι η γνώση για την ανάπτυξη ασφαλών συστημάτων θα πρέπει να διαμοιράζεται μεταξύ χωρών, ακόμη και αντιπάλων, καθώς καμία δεν έχει συμφέρον να βρεθεί αντιμέτωπη με ανεξέλεγκτη AI οπουδήποτε στον κόσμο.
Το βασικό του αίτημα είναι να αλλάξει η ίδια η ιεράρχηση των στόχων του κλάδου: η νοημοσύνη δεν μπορεί να αποτελεί το μοναδικό μέτρο προόδου. «Οι μεγάλες τεχνολογικές εταιρείες συνεχίζουν να λένε: θέλουμε να γίνει εξυπνότερη», αναφέρει. «Θα έπρεπε να μας ενδιαφέρουν εξίσου όλες οι άλλες πτυχές ενός όντος, όσο και η νοημοσύνη του».