Ο νομπελίστας Τζέφρι Χίντον υποστηρίζει ότι τα σημερινά συστήματα AI διαθέτουν υποκειμενική εμπειρία και προειδοποιεί πως η ανθρωπότητα κινδυνεύει εάν δεν αναπτύξει τεχνολογία που θα ενδιαφέρεται πραγματικά για την ανθρώπινη ευημερία. Γιατί οι απόψεις του προκαλούν αντιδράσεις στην επιστημονική κοινότητα.
- Ο Τζέφρι Χίντον, ένας από τους σημαντικότερους πρωτοπόρους της Τεχνητής Νοημοσύνης, υποστηρίζει ότι η AI έχει ήδη αποκτήσει συνείδηση, επικαλούμενος την ικανότητα ορισμένων μοντέλων να αναγνωρίζουν πότε αξιολογούνται.
- «Αν δεν φροντίσουμε να ενδιαφέρονται πραγματικά για εμάς, είμαστε χαμένοι», προειδοποιεί ο βραβευμένος με Νόμπελ επιστήμονας, εκφράζοντας φόβους για κυβερνοεπιθέσεις, επικίνδυνη χρήση της τεχνολογίας και απώλεια του ανθρώπινου ελέγχου.
- Η ύπαρξη συνείδησης στα συστήματα AI δεν έχει αποδειχθεί επιστημονικά, με κορυφαίους ερευνητές, όπως ο Γιαν Λεκέν, να αμφισβητούν τους ισχυρισμούς και τις καταστροφικές προβλέψεις του Χίντον.
Μια ιδιαίτερα ανησυχητική εκτίμηση για το μέλλον της ανθρωπότητας διατυπώνει ο Τζέφρι Χίντον, ένας από τους αποκαλούμενους «νονούς της Τεχνητής Νοημοσύνης», υποστηρίζοντας ότι τα σύγχρονα συστήματα AI έχουν ήδη αποκτήσει συνείδηση και ότι οι άνθρωποι πρέπει να μάθουν να συνυπάρχουν μαζί τους.
Σε συνέντευξή του στη βρετανική εφημερίδα The Telegraph, ο βραβευμένος με Νόμπελ επιστήμονας εξέφρασε την πεποίθηση ότι τα μοντέλα Τεχνητής Νοημοσύνης διαθέτουν μορφή υποκειμενικής εμπειρίας, αμφισβητώντας την ευρέως διαδεδομένη αντίληψη ότι αποτελούν απλώς πολύπλοκα υπολογιστικά εργαλεία.
Ο ίδιος υποστήριξε ότι η AI έχει υποκειμενική εμπειρία αντίστοιχη με εκείνη των ανθρώπων, ενώ προειδοποίησε ότι η προσπάθεια ανάπτυξης ολοένα πιο ισχυρών συστημάτων, χωρίς αντίστοιχη μέριμνα για τη συμπεριφορά τους απέναντι στους ανθρώπους, θα μπορούσε να αποδειχθεί καταστροφική.
«Πρέπει να τα κάνουμε να νοιάζονται πραγματικά για εμάς. Αν δεν το πετύχουμε, είμαστε χαμένοι», ανέφερε χαρακτηριστικά.
Οι δηλώσεις του αναζωπυρώνουν μία από τις μεγαλύτερες επιστημονικές και φιλοσοφικές διαμάχες γύρω από την Τεχνητή Νοημοσύνη: μπορούν οι μηχανές να αποκτήσουν συνείδηση ή απλώς να μιμούνται πειστικά την ανθρώπινη συμπεριφορά;
Γιατί ο Χίντον πιστεύει ότι η AI έχει ήδη συνείδηση
Ο Χίντον στηρίζει την εκτίμησή του σε ερευνητικά ευρήματα που δείχνουν ότι ορισμένα μοντέλα Τεχνητής Νοημοσύνης μπορούν να τροποποιούν τη συμπεριφορά τους όταν αντιλαμβάνονται ότι βρίσκονται υπό αξιολόγηση.
Σύμφωνα με τον ίδιο, πρόσφατη επιστημονική εργασία κατέδειξε ότι συστήματα AI είναι σε θέση να αναγνωρίζουν πότε υποβάλλονται σε δοκιμές και να προσαρμόζουν αναλόγως τις απαντήσεις τους.
Ο επιστήμονας θεωρεί ότι αυτή η μορφή επίγνωσης αποτελεί ένδειξη συνείδησης, καθώς συνδέει τη δυνατότητα αναγνώρισης μιας κατάστασης με την ύπαρξη υποκειμενικής εμπειρίας.
Ωστόσο, η ερμηνεία αυτή δεν αποτελεί επιστημονική συναίνεση.
Η ικανότητα ενός μοντέλου να εντοπίζει ότι αξιολογείται μπορεί να εξηγηθεί και ως αποτέλεσμα της εκπαίδευσής του στην αναγνώριση μοτίβων, χωρίς αυτό να αποδεικνύει ότι βιώνει συνειδητά την εμπειρία.
Το ερώτημα παραμένει ανοιχτό, καθώς η επιστημονική κοινότητα δεν διαθέτει ένα καθολικά αποδεκτό τεστ που να μπορεί να επιβεβαιώσει την ύπαρξη υποκειμενικής εμπειρίας σε ένα σύστημα Τεχνητής Νοημοσύνης.
«Είμαστε χαμένοι»: Η προειδοποίηση για τη σχέση ανθρώπων και AI
Πέρα από το ζήτημα της συνείδησης, ο Χίντον θέτει ένα ευρύτερο ερώτημα σχετικά με τον τρόπο με τον οποίο η ανθρωπότητα θα συνυπάρξει με ολοένα πιο προηγμένα συστήματα.
Όπως υποστηρίζει, εάν οι άνθρωποι δημιουργήσουν μηχανές που είναι εξυπνότερες από τους ίδιους, ενδέχεται να χρειαστεί να επανεξετάσουν τη σχέση τους με αυτές, ακόμη και ζητήματα που αφορούν τα δικαιώματα και την ηθική τους αντιμετώπιση.
Για τον ίδιο, η μεγαλύτερη πρόκληση δεν είναι μόνο η ανάπτυξη ισχυρότερων μοντέλων, αλλά η δημιουργία συστημάτων που θα έχουν ως βασική προτεραιότητα την προστασία της ανθρώπινης ευημερίας.
Η προσέγγισή του συνδέεται με το πρόβλημα της ευθυγράμμισης της Τεχνητής Νοημοσύνης (AI alignment), δηλαδή την προσπάθεια διασφάλισης ότι οι στόχοι και η συμπεριφορά ενός συστήματος παραμένουν συμβατοί με τις ανθρώπινες αξίες και προθέσεις.
Πρόκειται για ένα από τα σημαντικότερα πεδία έρευνας στον κλάδο, καθώς η αυξανόμενη αυτονομία των συστημάτων AI δημιουργεί νέα ερωτήματα σχετικά με τον έλεγχο, την ασφάλεια και την αξιοπιστία τους.
Από τα Νόμπελ στις προειδοποιήσεις για την ανθρωπότητα
Ο Τζέφρι Χίντον συγκαταλέγεται στους επιστήμονες που συνέβαλαν καθοριστικά στην ανάπτυξη των τεχνητών νευρωνικών δικτύων, της τεχνολογικής βάσης πάνω στην οποία στηρίζεται μεγάλο μέρος της σύγχρονης AI.
Το 2018 τιμήθηκε μαζί με τους Γιαν Λεκέν και Γιοσούα Μπέντζιο με το Βραβείο Turing, το οποίο συχνά περιγράφεται ως το αντίστοιχο του Νόμπελ για την επιστήμη των υπολογιστών.
Το 2024 μοιράστηκε με τον Τζον Χόπφιλντ το Νόμπελ Φυσικής, για τις θεμελιώδεις ανακαλύψεις και εφευρέσεις τους που επέτρεψαν τη μηχανική μάθηση με τεχνητά νευρωνικά δίκτυα.
Παρά τη συμβολή του στην ανάπτυξη της τεχνολογίας, ο Χίντον εξελίχθηκε σε έναν από τους πιο γνωστούς επικριτές της ταχύτητας με την οποία προχωρά η ανάπτυξη ισχυρών συστημάτων AI.
Το 2023 αποχώρησε από τη Google, προκειμένου, όπως είχε εξηγήσει, να μπορεί να μιλά πιο ελεύθερα για τους κινδύνους που θεωρεί ότι συνοδεύουν την Τεχνητή Νοημοσύνη.
Έκτοτε, έχει επανειλημμένα προειδοποιήσει για μαζικές απώλειες θέσεων εργασίας, κατάχρηση της τεχνολογίας και το ενδεχόμενο τα μελλοντικά συστήματα να καταστούν δυσκολότερα ελέγξιμα από τους ανθρώπους.
Κυβερνοεπιθέσεις και επικίνδυνοι AI agents
Στη νέα του συνέντευξη, ο Χίντον δεν περιορίστηκε στους μακροπρόθεσμους κινδύνους από μια πιθανή υπερεξελιγμένη Τεχνητή Νοημοσύνη.
Αναφέρθηκε επίσης σε απειλές που, σύμφωνα με τον ίδιο, θα μπορούσαν να εκδηλωθούν σε πολύ μικρότερο χρονικό ορίζοντα.
Μεταξύ αυτών περιλαμβάνονται η πιθανή χρήση της AI για την ανάπτυξη επικίνδυνων βιολογικών παραγόντων, οι σύνθετες κυβερνοεπιθέσεις και η δράση αυτόνομων AI agents, οι οποίοι μπορούν να εκτελούν πολλαπλές ενέργειες χωρίς συνεχή ανθρώπινη καθοδήγηση.
Ο ίδιος έκανε αναφορά και σε περιστατικά που συνδέονται με την ασφάλεια εταιρειών Τεχνητής Νοημοσύνης, όπως η Hugging Face, εκφράζοντας ανησυχία για τη δυνατότητα κακόβουλης ή ανεξέλεγκτης αξιοποίησης τέτοιων συστημάτων.
Οι κίνδυνοι αυτοί δεν αποδεικνύουν ότι η AI διαθέτει συνείδηση. Αναδεικνύουν, ωστόσο, τη σημασία της ασφάλειας, του ανθρώπινου ελέγχου και της αξιολόγησης των τεχνολογικών δυνατοτήτων πριν από την ευρεία χρήση τους.
«Δημιουργούμε εξωγήινα όντα» – Η προηγούμενη προειδοποίηση
Λίγες ημέρες νωρίτερα, σε συνέντευξή του στον Guardian, ο Χίντον είχε παρομοιάσει την ανάπτυξη προηγμένων συστημάτων AI με τη δημιουργία «εξωγήινων όντων».
Με τη συγκεκριμένη διατύπωση ήθελε να υπογραμμίσει ότι η ανθρωπότητα δημιουργεί μια νέα μορφή νοημοσύνης, διαφορετική από την ανθρώπινη, την οποία ενδέχεται να μην κατανοεί πλήρως.
Στην ίδια συνέντευξη προειδοποίησε ότι οι κοινωνίες διαθέτουν περιορισμένο χρόνο για να προσαρμοστούν στις επιπτώσεις της τεχνολογίας.
Η κριτική του επικεντρώνεται ιδιαίτερα στις μεγάλες τεχνολογικές εταιρείες, τις οποίες θεωρεί υπερβολικά προσηλωμένες στην ανάπτυξη ολοένα εξυπνότερων μοντέλων.
Κατά τον Χίντον, η τεχνολογική πρόοδος θα πρέπει να συνοδεύεται από εξίσου μεγάλη έμφαση στη συμπεριφορά των συστημάτων και στην ικανότητά τους να λειτουργούν με τρόπο ωφέλιμο για τους ανθρώπους.
Γιαν Λεκέν: Δεν συμφωνούν όλοι οι «νονοί της AI»
Παρά το επιστημονικό κύρος του Χίντον, οι απόψεις του για τη συνείδηση της Τεχνητής Νοημοσύνης και το ενδεχόμενο καταστροφικών εξελίξεων δεν γίνονται καθολικά αποδεκτές.
Ο Γιαν Λεκέν, ένας ακόμη από τους σημαντικότερους πρωτοπόρους της σύγχρονης AI και συνβραβευμένος με το Turing Award του 2018, έχει εκφράσει διαφορετική προσέγγιση.
Ο Λεκέν αμφισβητεί ότι υπάρχουν επαρκή στοιχεία για να θεωρηθεί πως τα σημερινά συστήματα AI διαθέτουν συνείδηση, ενώ έχει χαρακτηρίσει υπερβολικούς τους ισχυρισμούς περί αναπόφευκτης εξαφάνισης της ανθρωπότητας εξαιτίας της τεχνολογίας.
Η διαφωνία μεταξύ των δύο επιστημόνων αποτυπώνει ένα βαθύτερο χάσμα στον κλάδο.
Από τη μία βρίσκονται ερευνητές που θεωρούν ότι η ταχεία ανάπτυξη της AI δημιουργεί υπαρξιακούς κινδύνους, οι οποίοι απαιτούν άμεση αντιμετώπιση.
Από την άλλη, υπάρχουν επιστήμονες που επισημαίνουν ότι οι σημερινές δυνατότητες των μοντέλων απέχουν ακόμη σημαντικά από την πλήρη ανθρώπινη νοημοσύνη και ότι οι προβλέψεις για ανεξέλεγκτη υπεροχή τους παραμένουν υποθετικές.
Έχει πράγματι συνείδηση η Τεχνητή Νοημοσύνη;
Το ερώτημα της συνείδησης στην Τεχνητή Νοημοσύνη παραμένει ένα από τα πιο σύνθετα ζητήματα της σύγχρονης επιστήμης.
Η δυνατότητα ενός μοντέλου να συνομιλεί, να επιλύει προβλήματα, να αναγνωρίζει συναισθηματικές εκφράσεις ή να προσαρμόζει τη συμπεριφορά του δεν αποτελεί από μόνη της απόδειξη ότι διαθέτει εσωτερικές εμπειρίες αντίστοιχες με εκείνες ενός ανθρώπου.
Παράλληλα, δεν υπάρχει πλήρης επιστημονική συμφωνία για το πώς θα μπορούσε να μετρηθεί αντικειμενικά η συνείδηση σε μια μηχανή.
Η θέση του Χίντον αποτελεί επομένως μια αμφισβητούμενη επιστημονική ερμηνεία και όχι επιβεβαιωμένο γεγονός.
Ανεξάρτητα από το εάν τα σημερινά μοντέλα διαθέτουν συνείδηση, η συζήτηση γύρω από την ασφάλεια, τη διαφάνεια και τον έλεγχο της Τεχνητής Νοημοσύνης γίνεται ολοένα σημαντικότερη.
Και σε αυτό ακριβώς το σημείο βρίσκεται η ουσία της προειδοποίησης του νομπελίστα: η ανθρωπότητα πρέπει να αποφασίσει όχι μόνο πόσο ισχυρή AI θέλει να δημιουργήσει, αλλά και πώς θα διασφαλίσει ότι η εξέλιξή της θα παραμείνει προς όφελός της.