Πάνω από 850 κορυφαίες προσωπικότητες, ανάμεσά τους οι Richard Branson, Steve Wozniak και οι “νονοί της AI” Geoff Hinton και Yoshua Bengio, ζητούν παγκόσμιο πάγωμα στην ανάπτυξη “υπερνοημοσύνης”.
Μια ομάδα περισσότερων από 850 προσωπικοτήτων, ανάμεσά τους κορυφαίοι επιστήμονες, επιχειρηματίες και πολιτικοί, ζητά να σταματήσει κάθε προσπάθεια ανάπτυξης “υπερνοημοσύνης” — μιας μορφής Τεχνητής Νοημοσύνης που θα μπορούσε να ξεπεράσει τις ανθρώπινες γνωστικές ικανότητες σχεδόν σε όλα τα επίπεδα.
Στη λίστα των υπογραφών περιλαμβάνονται ο ιδρυτής του Virgin Group, Richard Branson, και ο συνιδρυτής της Apple, Steve Wozniak, ενώ το κοινό ανακοινωθέν δημοσιεύθηκε την Τετάρτη, ζητώντας πάγωμα της έρευνας και ανάπτυξης σε αυτό το πεδίο.
Ανάμεσα στους πρώτους υπογράφοντες βρίσκονται και οι “νονοί της σύγχρονης AI”, οι επιστήμονες Yoshua Bengio και Geoff Hinton, καθώς και ο Stuart Russell του Πανεπιστημίου UC Berkeley — ορισμένοι από τους σημαντικότερους ερευνητές παγκοσμίως στον τομέα.
Το κύμα ανησυχίας για την “υπερνοημοσύνη”
Η “υπερνοημοσύνη” έχει εξελιχθεί σε buzzword του τεχνολογικού οικοσυστήματος, καθώς εταιρείες όπως η xAI του Elon Musk και η OpenAI του Sam Altman ανταγωνίζονται για να λανσάρουν όλο και πιο εξελιγμένα μοντέλα γλωσσικής AI.
Η Meta, μάλιστα, έχει φτάσει στο σημείο να ονομάσει το ερευνητικό της τμήμα “Meta Superintelligence Labs”.
Ωστόσο, οι υπογράφοντες της δήλωσης προειδοποιούν ότι η προοπτική της υπερνοημοσύνης εγείρει σοβαρούς κινδύνους — από την οικονομική απαξίωση των ανθρώπων, την απώλεια ελευθεριών και αξιοπρέπειας, μέχρι απειλές για την εθνική ασφάλεια και τον ίδιο τον αφανισμό του ανθρώπινου είδους.
Το κείμενο ζητά απαγόρευση της ανάπτυξης υπερνοημοσύνης, έως ότου υπάρξει σαφής επιστημονική συναίνεση και ευρεία δημόσια υποστήριξη ότι η τεχνολογία μπορεί να κατασκευαστεί και να ελεγχθεί με ασφάλεια.
Από πολιτικούς έως… πρίγκιπες στη λίστα των υπογραφών
Η πρωτοβουλία ενώνει πολιτικούς από διαφορετικά κόμματα, επικεφαλής οργανισμών, πανεπιστημιακούς αλλά και δημόσιες φιγούρες. Μεταξύ των ονομάτων ξεχωρίζουν ο πρώην αρχηγός των Ενόπλων Δυνάμεων των ΗΠΑ, Mike Mullen, και η πρώην σύμβουλος Εθνικής Ασφαλείας, Susan Rice.
Εκπλήξεις προκάλεσε η παρουσία του Steve Bannon και του Glenn Beck, δύο ισχυρών υποστηρικτών του Donald Trump, καθώς και η συμμετοχή των Πρίγκιπα Harry και Meghan Markle, Δούκισσας του Sussex.
Στη λίστα προστέθηκε και η Mary Robinson, πρώην πρόεδρος της Ιρλανδίας, ενώ οι υπογραφές αυξάνονταν συνεχώς μέχρι το βράδυ της Τετάρτης.
Η μάχη “AI doomers” vs “AI boomers”
Η κοινότητα της τεχνολογίας φαίνεται βαθιά διχασμένη: από τη μία, όσοι βλέπουν την AI ως εργαλείο προόδου και ευημερίας, και από την άλλη, όσοι τη θεωρούν υπαρξιακή απειλή που χρειάζεται αυστηρή ρύθμιση.
Το ίδιο το site της πρωτοβουλίας “Statement on Superintelligence” υπενθυμίζει πως ακόμη και οι ηγέτες των μεγαλύτερων AI εταιρειών, όπως ο Musk και ο Altman, έχουν προειδοποιήσει για τους κινδύνους.
Το 2015, ο Altman είχε γράψει ότι η ανάπτυξη “υπερανθρώπινης μηχανικής νοημοσύνης” είναι «ίσως η μεγαλύτερη απειλή για τη συνέχιση της ανθρώπινης ύπαρξης».
Από την πλευρά του, ο Musk είπε φέτος σε podcast ότι η πιθανότητα “ολοκληρωτικής καταστροφής” από προχωρημένη AI είναι “μόλις 20%”.
Οι πολίτες δεν θέλουν ανεξέλεγκτη ανάπτυξη AI
Η δήλωση επικαλείται έρευνα του Future of Life Institute, σύμφωνα με την οποία μόλις το 5% των Αμερικανών υποστηρίζει τη συνέχιση της “ταχείας και χωρίς ρύθμιση” ανάπτυξης υπερνοημοσύνης.
Η ίδια έρευνα, σε δείγμα 2.000 ενηλίκων, έδειξε ότι η πλειονότητα θέλει αυστηρούς κανόνες και αποδείξεις ασφάλειας πριν δημιουργηθούν “υπερανθρώπινα” συστήματα AI.
Ο Yoshua Bengio, ένας από τους βασικούς συντάκτες της δήλωσης, δήλωσε: «Μέσα στα επόμενα χρόνια, τα συστήματα AI μπορεί να ξεπεράσουν τους ανθρώπους στις περισσότερες γνωστικές λειτουργίες. Αυτό θα μπορούσε να βοηθήσει στην επίλυση μεγάλων παγκόσμιων προκλήσεων — αλλά συνοδεύεται από τεράστιους κινδύνους».
Και πρόσθεσε: «Για να προχωρήσουμε με ασφάλεια, πρέπει να σχεδιάσουμε συστήματα που να είναι εκ φύσεως ανίκανα να βλάψουν ανθρώπους. Και το κοινό πρέπει να έχει πολύ ισχυρότερη φωνή στις αποφάσεις που καθορίζουν το συλλογικό μας μέλλον».
ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:
- Πώς η Ελλάδα επιχειρεί να γίνει το σημείο αναφοράς για την Τεχνητή Νοημοσύνη στη ΝΑ Ευρώπη
- Το μέλλον της τεχνητής νοημοσύνης είναι… ερωτικό;
- Τεχνολογικές «μάχες» για τα ταλέντα της Τεχνητής Νοημοσύνης