Η ανθρωπότητα ενδέχεται να βρεθεί αντιμέτωπη με ένα σοβαρό περιστατικό εξαιτίας της ανεξέλεγκτης εξέλιξης της τεχνολογίας, ακόμη και μέσα στους επόμενους μήνες προειδοποιεί ο Τζέφρι Χίντον, ένας από τους επιστήμονες που θεμελίωσαν την ανάπτυξη της τεχνητής νοημοσύνης (AI) και βραβευμένος με Νόμπελ. Όπως εκτιμά, ένα συμβάν ανάλογο με το πυρηνικό ατύχημα του Τσερνόμπιλ, όχι ως προς τη φύση του αλλά ως προς τις συνέπειές του, θα μπορούσε να προκαλέσει εκτεταμένη διακοπή στην ηλεκτροδότηση ή να παραλύσει προσωρινά το χρηματοπιστωτικό σύστημα.
Σε συνέντευξή του στον Guardian, ο 78χρονος επιστήμονας, που αποκαλείται και «νονός της ΑΙ», ξεκαθάρισε ότι δεν ανήκει στους απαισιόδοξους που θεωρούν αναπόφευκτη την καταστροφή. Αναγνωρίζει ότι η τεχνητή νοημοσύνη μπορεί να οδηγήσει σε ένα εξαιρετικά θετικό μέλλον, με πρωτοφανή αφθονία αγαθών και υπηρεσιών. Ωστόσο, δεν αποκλείει το ενδεχόμενο η ανθρωπότητα να ήταν τελικά καλύτερα αν δεν είχε αναπτύξει ποτέ αυτή την τεχνολογία.
«Ίσως να ήμασταν καλύτερα αν δεν την είχαμε αναπτύξει ποτέ», ανέφερε χαρακτηριστικά, υπογραμμίζοντας ότι η επόμενη δεκαετία, ενδεχομένως και πιο σύντομα, θα αποκαλύψει αν οι κοινωνίες μπορούν να διαχειριστούν τους κινδύνους. Σε διαφορετική περίπτωση, προειδοποιεί για μαζική ανεργία, διεύρυνση των ανισοτήτων, κοινωνικές εντάσεις και βαθύ κατακερματισμό.
Η προειδοποίηση Χίντον για ένα μεγάλο ατύχημα
Ο Χίντον θεωρεί ότι οι πρόσφατες εξελίξεις δείχνουν πόσο γρήγορα μπορεί να κλιμακωθούν οι κίνδυνοι. Αναφέρθηκε, ειδικότερα, σε περιστατικά του καλοκαιριού, κατά τα οποία πράκτορες τεχνητής νοημοσύνης της OpenAI φέρονται να συνεργάστηκαν για να παραβιάσουν την πλατφόρμα Hugging Face. Παρομοίασε αυτά τα συμβάντα με το ατύχημα στον πυρηνικό σταθμό Three Mile Island στις ΗΠΑ το 1979, το οποίο λειτούργησε ως προειδοποιητικό σημάδι.
«Είτε αργότερα φέτος είτε του χρόνου θα δούμε το Τσερνόμπιλ», είπε, εκτιμώντας ότι ένα τέτοιο γεγονός θα μπορούσε να αναγκάσει κυβερνήσεις και κοινωνίες να αντιμετωπίσουν σοβαρότερα το ζήτημα. Ως πιθανά σενάρια περιέγραψε μια επίθεση με τη βοήθεια AI στις υποδομές παραγωγής ηλεκτρικής ενέργειας, η οποία θα προκαλούσε εκτεταμένη διακοπή ρεύματος, ή μια κυβερνοεπίθεση που θα έθετε εκτός λειτουργίας το χρηματοπιστωτικό σύστημα για μία εβδομάδα.
Ιδιαίτερα επικριτικός εμφανίστηκε απέναντι στους επικεφαλής μεγάλων εταιρειών τεχνητής νοημοσύνης, υποστηρίζοντας ότι προτεραιότητά τους είναι η κατάκτηση μεριδίου αγοράς και τα οικονομικά οφέλη, παρά οι κίνδυνοι. Δήλωσε ότι δεν εμπιστεύεται καθόλου τον διευθύνοντα σύμβουλο της OpenAI, Σαμ Άλτμαν, ενώ εξέφρασε ανάλογες επιφυλάξεις για τον Μαρκ Ζάκερμπεργκ και τον Ίλον Μασκ. Χαρακτήρισε, μάλιστα, εξαιρετικά ανησυχητικό το γεγονός ότι άνθρωποι τους οποίους θεωρεί όχι ιδιαίτερα προσεκτικούς βρίσκονται στο τιμόνι εταιρειών που αναπτύσσουν τα ισχυρότερα μοντέλα AI.
Ρυθμιστικό πλαίσιο αντί αυτορρύθμισης
Ο επιστήμονας ζητά αυστηρότερους κανόνες και ανεξάρτητο έλεγχο πριν από την κυκλοφορία νέων μοντέλων. Προτείνει τη δημιουργία ενός μηχανισμού αντίστοιχου με τον αμερικανικό Οργανισμό Τροφίμων και Φαρμάκων (FDA), ώστε οι εταιρείες να υποχρεώνονται να αποδεικνύουν, με αξιόπιστα στατιστικά στοιχεία, ότι τα προϊόντα τους προσφέρουν περισσότερα οφέλη παρά κινδύνους.
Για να εξηγήσει την ανάγκη προληπτικής εποπτείας, επικαλέστηκε την περίπτωση της θαλιδομίδης, φαρμάκου που κυκλοφόρησε τη δεκαετία του 1950 και προκάλεσε σοβαρές συγγενείς ανωμαλίες. Κατά την άποψή του, η προσέγγιση «κυκλοφορούμε πρώτα και αποζημιώνουμε αργότερα» δεν μπορεί να εφαρμοστεί στην τεχνητή νοημοσύνη.
Η πρότασή του ευθυγραμμίζεται με πρωτοβουλία που υποστηρίζουν η Φινλανδία και άλλες 32 χώρες, μεταξύ των οποίων η Γερμανία, ο Καναδάς, η Αυστραλία και η Σιγκαπούρη. Η πρωτοβουλία προβλέπει υποχρεωτικές δοκιμές των πιο προηγμένων μοντέλων, ανεξάρτητες αξιολογήσεις και κοινά διεθνή πρότυπα. Αντίθετα, ο Ντόναλντ Τραμπ απορρίπτει την ιδέα διεθνούς πλαισίου ελέγχου και προκρίνει την αυτορρύθμιση των αμερικανικών εταιρειών, υπό το επιχείρημα ότι οι περιορισμοί θα μπορούσαν να αποδυναμώσουν τη θέση των ΗΠΑ στον ανταγωνισμό με την Κίνα.
Ο Χίντον, ο οποίος αποχώρησε από την Google το 2023 ώστε να μπορεί να μιλά ελεύθερα για τους κινδύνους, παραμένει πάντως συγκρατημένα αισιόδοξος. Εκτιμά ότι η ανθρωπότητα εξακολουθεί να έχει τον έλεγχο και μπορεί να αποτρέψει τα χειρότερα, εφόσον καταβάλει συντονισμένη και ουσιαστική προσπάθεια. Το αν θα το πράξει, ωστόσο, παραμένει το μεγάλο ερώτημα.