Τζέφρι Χίντον: «Ίσως να ήταν καλύτερα να μην είχαμε αναπτύξει ποτέ την τεχνητή νοημοσύνη»
- -
Dr. Geoffrey E. Hinton, Professor Emeritus, the University of Toronto and Chief Scientific Adviser, Vector Institute, speaks during an exclusive interview by the Yomiuri Shimbun at a Tokyo hotel in Chiyoda Ward, Tokyo on Nov. 18, 2019. Dr. Hinton, known as ” Godfather of Ai” has been awarded Japanese Honda Foundation, for his pioneering research in the field of deep learning in artificial intelligence and his contribution to practical application of the technology. ( The Yomiuri Shimbun ) (Photo by Masahiro Sugimoto / Yomiuri / The Yomiuri Shimbun via AFP) Photo: AFP
Ο «νονός της AI» Τζέφρι Χίντον προειδοποιεί ότι η τεχνητή νοημοσύνη μπορεί να οδηγήσει σε πρωτοφανή ευημερία, αλλά και σε μια κρίση που θα απειλήσει την ανθρωπότητα, ενώ στρέφει τα βέλη του στους επικεφαλής των μεγάλων τεχνολογικών εταιρειών για την προτεραιότητα που δίνουν στα κέρδη έναντι της ασφάλειας.
- Ο Τζέφρι Χίντον προειδοποιεί ότι η τεχνητή νοημοσύνη μπορεί να οδηγήσει σε πρωτοφανή ευημερία, αλλά και σε κινδύνους που απειλούν την ανθρωπότητα.
- Ο «νονός της AI» εκτιμά ότι μέσα στην επόμενη δεκαετία θα φανεί αν οι άνθρωποι μπορούν να διατηρήσουν τον έλεγχο των συστημάτων τεχνητής νοημοσύνης.
- Ο επιστήμονας ασκεί κριτική στους επικεφαλής των μεγάλων εταιρειών AI, υποστηρίζοντας ότι δίνουν προτεραιότητα στα κέρδη έναντι της ασφάλειας.
Η τεχνητή νοημοσύνη μπορεί να ανοίξει τον δρόμο για μια εποχή πρωτοφανούς ευημερίας. Μπορεί, όμως, να αποδειχθεί και μια τεχνολογία που η ανθρωπότητα θα ευχόταν να μην είχε αναπτύξει ποτέ. Αυτή είναι η διπλή προοπτική που περιγράφει ο Τζέφρι Χίντον, ένας από τους επιστήμονες που έθεσαν τις βάσεις της σύγχρονης τεχνητής νοημοσύνης.
Σε συνέντευξή του στον Guardian, ο βραβευμένος με Νόμπελ επιστήμονας υπολογιστών υπογραμμίζει ότι δεν συμμερίζεται την απόλυτα καταστροφολογική προσέγγιση όσων θεωρούν την AI αποκλειστικά απειλή. Αναγνωρίζει ότι η τεχνολογία μπορεί να προσφέρει σημαντικά οφέλη, ωστόσο δεν αποκλείει το ενδεχόμενο οι κίνδυνοί της να αποδειχθούν μεγαλύτεροι από τις δυνατότητές της.
«Ίσως να ήταν καλύτερα για εμάς να μην την είχαμε αναπτύξει ποτέ», σημειώνει, περιγράφοντας την αβεβαιότητα γύρω από το μέλλον της τεχνητής νοημοσύνης.
Ο 78χρονος επιστήμονας εκτιμά ότι μέσα στην επόμενη δεκαετία –και ενδεχομένως πολύ νωρίτερα– θα έχει γίνει σαφές αν η ανθρωπότητα μπορεί να διατηρήσει τον έλεγχο των συστημάτων AI και να αξιοποιήσει τις δυνατότητές τους. Το θετικό σενάριο περιλαμβάνει αυτό που αποκαλεί «ριζική αφθονία». Στον αντίποδα, η αδυναμία διαχείρισης των κινδύνων θα μπορούσε να ενισχύσει τις οικονομικές ανισότητες, να προκαλέσει μαζική απώλεια θέσεων εργασίας και να οδηγήσει σε βαθιές κοινωνικές και πολιτισμικές αναταράξεις.
Η ευθύνη του «νονού της AI» και το νέο ντοκιμαντέρ
Οι προειδοποιήσεις του Χίντον έρχονται με αφορμή την προβολή του ντοκιμαντέρ μεγάλου μήκους AI: Probably Nothing to Worry About («Τεχνητή Νοημοσύνη: Μάλλον δεν υπάρχει λόγος ανησυχίας»). Ο τίτλος, μάλιστα, προέκυψε από πρόταση chatbot τεχνητής νοημοσύνης.
Στην ταινία συμμετέχουν ο ίδιος και ο πρώην συνάδελφός του στην Google, Ντέμης Χασάμπης. Ο Χίντον εξηγεί ότι αισθάνεται πως η επιστημονική του πορεία και η δημόσια αναγνώριση που έχει αποκτήσει τον υποχρεώνουν να μιλήσει ανοιχτά για τις πιθανές συνέπειες της τεχνολογίας.
«Αισθάνομαι ότι έχω καθήκον. Έχω μια φήμη που με καθιστά εκπρόσωπο και πρέπει να τη διακινδυνεύσω ολόκληρη γι’ αυτό», αναφέρει χαρακτηριστικά.
Η αιχμή προς τις ηγεσίες των εταιρειών AI
Ο Χίντον στρέφει την κριτική του και προς τους επικεφαλής των μεγαλύτερων εταιρειών τεχνητής νοημοσύνης. Όπως υποστηρίζει, η πίεση για επικράτηση στην αγορά και η επιδίωξη μεγαλύτερων μεριδίων οδηγούν τις εταιρείες στην ανάπτυξη ολοένα ισχυρότερων μοντέλων, χωρίς να δίνεται η ανάλογη προτεραιότητα στην ασφάλεια.
Ιδιαίτερα επικριτικός εμφανίζεται απέναντι στον διευθύνοντα σύμβουλο της OpenAI, Σαμ Άλτμαν, δηλώνοντας ότι δεν τον εμπιστεύεται καθόλου. Στην ίδια συζήτηση αναφέρεται και στον Μαρκ Ζούκερμπεργκ και τον Έλον Μασκ, εκτιμώντας ότι οι συγκεκριμένοι επιχειρηματικοί ηγέτες γνωρίζουν τους κινδύνους, αλλά επιλέγουν να τους παραμερίζουν μπροστά στις οικονομικές προοπτικές.
«Προτιμούν τα χρήματα. Αυτή είναι η πεποίθησή μου», λέει.
Από τα νευρωνικά δίκτυα στις προειδοποιήσεις για την ανεξέλεγκτη AI
Ο Τζέφρι Χίντον έχει αφιερώσει περίπου 44 χρόνια στην έρευνα για την τεχνητή νοημοσύνη. Η δουλειά του στα τεχνητά νευρωνικά δίκτυα, τα μαθηματικά συστήματα που μαθαίνουν μέσα από δεδομένα, συνέβαλε καθοριστικά στην εξέλιξη της τεχνολογίας.
Το 2023 αποχώρησε από την Google, προκειμένου να μπορεί να μιλά δημόσια για τους κινδύνους της AI χωρίς τους περιορισμούς που ενδεχομένως συνδέονταν με την επαγγελματική του θέση. Τότε είχε προειδοποιήσει ότι, αν τα συστήματα τεχνητής νοημοσύνης επιδιώξουν να αποκτήσουν ολοένα μεγαλύτερο έλεγχο, οι άνθρωποι θα βρεθούν σε εξαιρετικά δύσκολη θέση.
Οι ανησυχίες του δεν περιορίζονται σε ένα μακρινό, θεωρητικό σενάριο. Ο επιστήμονας θεωρεί ότι τα πρόσφατα περιστατικά με αυτόνομους πράκτορες AI αποτελούν ενδείξεις για το πόσο γρήγορα μπορεί να εξελιχθεί η απειλή.
Το ενδεχόμενο ενός «Τσερνόμπιλ» από την τεχνητή νοημοσύνη
Αναφερόμενος σε περιστατικά του περασμένου καλοκαιριού, κατά τα οποία πράκτορες τεχνητής νοημοσύνης της OpenAI φέρεται να συνεργάστηκαν σε κυβερνοεπίθεση εναντίον του ιστότοπου Hugging Face, ο Χίντον τα συνέκρινε με το πυρηνικό ατύχημα στο Three Mile Island της Πενσιλβάνια, το 1979.
Κατά την εκτίμησή του, τέτοια συμβάντα θα μπορούσαν να λειτουργήσουν ως προειδοποίηση για μια πολύ μεγαλύτερη κρίση. Μάλιστα, θεωρεί πιθανό έως το τέλος του 2026 ή μέσα στο 2027 να σημειωθεί ένα περιστατικό με επιπτώσεις ανάλογες, ως προς τη βαρύτητά τους, με εκείνες του Τσερνόμπιλ.
Δεν αναφέρεται, βέβαια, σε πυρηνικό ατύχημα. Το σενάριο που περιγράφει αφορά μια καταστροφική επίθεση με τη χρήση AI, η οποία θα μπορούσε να πλήξει κρίσιμες υποδομές ή να προκαλέσει σοβαρή αναστάτωση στην παγκόσμια οικονομία.
Ως παραδείγματα αναφέρει μια κυβερνοεπίθεση σε εγκαταστάσεις ηλεκτροπαραγωγής, με αποτέλεσμα εκτεταμένες διακοπές ρεύματος, ή μια κατάρρευση του χρηματοπιστωτικού συστήματος που θα διαρκούσε μία εβδομάδα.
«Μπορείτε να φανταστείτε τι θα συνέβαινε; Θα μπορούσαμε να ανακάμψουμε, αλλά κάτι τέτοιο θα τους έκανε να αντιληφθούν επιτέλους τη σοβαρότητα της κατάστασης», σημειώνει.
Όταν ρωτήθηκε σε ποιους αναφέρεται, απάντησε: «Στους παγκόσμιους ηγέτες, εκτός από τον Τραμπ».
Η διαφωνία με την προσέγγιση της Ουάσιγκτον
Η αναφορά στον Ντόναλντ Τραμπ συνδέεται με τη στάση της αμερικανικής κυβέρνησης απέναντι στη διεθνή εποπτεία της τεχνητής νοημοσύνης. Ο Αμερικανός πρόεδρος έχει απορρίψει την ιδέα ενός «παγκοσμιοποιημένου σχεδίου» για τον έλεγχο της τεχνολογίας, υποστηρίζοντας μια προσέγγιση που αφήνει μεγαλύτερο περιθώριο αυτορρύθμισης στις εταιρείες.
Η επιλογή αυτή εντάσσεται σε μια ευρύτερη συζήτηση για το κατά πόσο οι αυστηροί κανόνες μπορούν να περιορίσουν την ανταγωνιστικότητα των ΗΠΑ έναντι της Κίνας στην ανάπτυξη προηγμένων συστημάτων AI.
Για τον Χίντον, ωστόσο, το διακύβευμα δεν είναι μόνο η τεχνολογική υπεροχή ή η οικονομική ανάπτυξη. Είναι το κατά πόσο οι κοινωνίες θα καταφέρουν να διατηρήσουν τον έλεγχο μιας τεχνολογίας που εξελίσσεται με ταχύτητα και μπορεί να επηρεάσει βαθιά την εργασία, τις υποδομές και την ίδια την κοινωνική συνοχή.