Ο συνιδρυτής της Google DeepMind προτείνει έναν ευέλικτο φορέα αμερικανικής εποπτείας, με εξουσίες ελέγχου στα ισχυρότερα μοντέλα AI πριν από τη διάθεσή τους
- Ο Ντέμις Χασάμπις προτείνει τη δημιουργία ανεξάρτητου φορέα που θα ελέγχει την ασφάλεια των ισχυρότερων μοντέλων τεχνητής νοημοσύνης πριν από την κυκλοφορία τους.
- Το μοντέλο εποπτείας θα βασίζεται στη δομή της αμερικανικής FINRA, θα χρηματοδοτείται από τον κλάδο και θα λειτουργεί με κρατικά εκχωρημένες αρμοδιότητες.
- Τα μοντέλα θα χαρακτηρίζονται «frontier» βάσει των πραγματικών δυνατοτήτων τους και όχι μόνο της υπολογιστικής ισχύος που χρησιμοποιήθηκε για την εκπαίδευσή τους.
Ένα πιο συγκεκριμένο σχέδιο για τη ρύθμιση των πλέον προηγμένων συστημάτων τεχνητής νοημοσύνης παρουσίασε ο συνιδρυτής της Google DeepMind, Σερ Ντέμις Χασάμπις, υποστηρίζοντας ότι οι Ηνωμένες Πολιτείες πρέπει να αναλάβουν ηγετικό ρόλο στη διαμόρφωση ενός ασφαλούς και προβλέψιμου κανονιστικού πλαισίου.
Η πρότασή του προβλέπει τη δημιουργία ενός νέου ανεξάρτητου φορέα, ο οποίος θα αξιολογεί την ασφάλεια των ισχυρότερων μοντέλων AI πριν από την κυκλοφορία τους.
Ο φορέας δεν θα ήταν μια συμβατική κυβερνητική υπηρεσία, καθώς, σύμφωνα με τον Χασάμπις, οι παραδοσιακές δημόσιες δομές ενδέχεται να μην μπορούν να κινηθούν με την απαιτούμενη ταχύτητα ούτε να προσελκύσουν τους απαραίτητους επιστήμονες και τεχνικούς.
Αντίθετα, προτείνει ένα υβριδικό μοντέλο, εμπνευσμένο από τη Financial Industry Regulatory Authority των ΗΠΑ, έναν ιδιωτικό οργανισμό αυτορρύθμισης που εποπτεύει χρηματιστηριακές εταιρείες και χρηματοπιστωτικές αγορές με αρμοδιότητες που του έχουν παραχωρηθεί από το κράτος.
Γιατί ο Χασάμπις θεωρεί επείγουσα τη ρύθμιση της AI
Η πρόταση έρχεται σε μια περίοδο κατά την οποία οι μεγαλύτερες δυνάμεις στην τεχνητή νοημοσύνη επιχειρούν να ελέγξουν αυστηρότερα την πρόσβαση στα πιο προηγμένα μοντέλα.
Οι κυβερνήσεις αντιμετωπίζουν πλέον τα συστήματα αιχμής όχι μόνο ως εμπορικές τεχνολογίες, αλλά και ως στρατηγικά περιουσιακά στοιχεία που μπορούν να επηρεάσουν την εθνική ασφάλεια, την κυβερνοάμυνα και την οικονομική ισχύ.
Η αυξανόμενη γεωπολιτική διάσταση της τεχνητής νοημοσύνης ενισχύει, κατά τον επικεφαλής της Google DeepMind, την ανάγκη για ένα σταθερό πλαίσιο, το οποίο θα προσφέρει στις εταιρείες σαφείς κανόνες και στις κυβερνήσεις τη δυνατότητα να παρεμβαίνουν πριν εμφανιστούν σοβαρές απειλές.
Ο Χασάμπις εκτιμά ότι δεν υπάρχει πλέον αρκετός χρόνος για πολυετείς διαπραγματεύσεις με στόχο μια πλήρη διεθνή συμφωνία πριν αναληφθεί δράση.
Η δική του προσέγγιση προβλέπει ότι οι ΗΠΑ θα δημιουργήσουν πρώτες το σύστημα εποπτείας και οι υπόλοιπες χώρες θα έχουν ισχυρό κίνητρο να το ακολουθήσουν, προκειμένου να συνεχίσουν να έχουν πρόσβαση στην αμερικανική αγορά και στις πλέον προηγμένες τεχνολογίες.
Ένας φορέας στα πρότυπα της FINRA
Το προτεινόμενο σχήμα θα είναι ανεξάρτητο από τις εταιρείες τεχνητής νοημοσύνης, χωρίς όμως να λειτουργεί ως κλασική δημόσια υπηρεσία.
Κατά τον Χασάμπις, ένας εξειδικευμένος φορέας θα μπορούσε να κινηθεί ταχύτερα από μια κυβερνητική γραφειοκρατία, να προσαρμόζει τα πρότυπά του καθώς εξελίσσεται η τεχνολογία και να προσλαμβάνει προσωπικό με υψηλή τεχνική εξειδίκευση.
Η λειτουργία του θα χρηματοδοτείται από τις ίδιες τις επιχειρήσεις του κλάδου, όπως συμβαίνει και σε άλλους εποπτευόμενους τομείς.
Στα αρχικά στάδια, βασική προτεραιότητα θα ήταν η στελέχωση με κορυφαίους ερευνητές, μηχανικούς, ειδικούς κυβερνοασφάλειας και επιστήμονες που μπορούν να αξιολογούν σύνθετα μοντέλα AI.
Υφιστάμενοι οργανισμοί ασφάλειας της τεχνητής νοημοσύνης θα μπορούσαν να παρέχουν προσωρινά υποστήριξη μέχρι να αποκτήσει ο νέος φορέας πλήρη επιχειρησιακή δυνατότητα.
Από την εθελοντική συμμετοχή στην υποχρεωτική εποπτεία
Ο Χασάμπις θεωρεί ότι το σύστημα θα μπορούσε αρχικά να λειτουργήσει σε εθελοντική βάση, επιτρέποντας στα κορυφαία εργαστήρια AI να συμμετάσχουν στη διαμόρφωση των πρώτων προτύπων.
Ωστόσο, εκτιμά ότι μακροπρόθεσμα η συμμόρφωση θα πρέπει να γίνει υποχρεωτική.
Όπως συμβαίνει με τη FINRA, ο φορέας θα μπορούσε να αποκτήσει ισχυρές εξουσίες επιβολής, οι οποίες θα του εκχωρούνταν από το κράτος.
Αυτό θα σήμαινε ότι τα εργαστήρια που αναπτύσσουν τα ισχυρότερα μοντέλα δεν θα μπορούσαν να τα διαθέτουν χωρίς προηγούμενη αξιολόγηση, εφόσον αυτά υπερέβαιναν συγκεκριμένα όρια δυνατοτήτων ή επικινδυνότητας.
Ποια μοντέλα θα θεωρούνται «frontier AI»
Ένα από τα σημαντικότερα στοιχεία της πρότασης είναι ο τρόπος με τον οποίο θα προσδιορίζονται τα μοντέλα που απαιτούν αυστηρότερη εποπτεία.
Προηγούμενα κανονιστικά σχέδια στις ΗΠΑ και στην Ευρωπαϊκή Ένωση χρησιμοποιούσαν κυρίως την υπολογιστική ισχύ που δαπανήθηκε για την εκπαίδευση ενός μοντέλου ως ένδειξη της ισχύος και του πιθανού κινδύνου του.
Ο Χασάμπις προτείνει διαφορετική προσέγγιση. Ένα σύστημα θα χαρακτηρίζεται «frontier» εφόσον ξεπερνά προκαθορισμένα όρια σε μια επιλεγμένη σειρά δοκιμών και δεικτών αξιολόγησης.
Το βασικό κριτήριο δεν θα είναι, επομένως, το κόστος ή το μέγεθος της διαδικασίας εκπαίδευσης, αλλά οι πραγματικές δυνατότητες του μοντέλου.
Τα εργαστήρια που δημιουργούν τέτοια συστήματα θα χαρακτηρίζονται «frontier labs» και θα αναλαμβάνουν πρόσθετες υποχρεώσεις ασφάλειας, διαφάνειας και ελέγχου.
Η προσέγγιση αυτή επιτρέπει, σύμφωνα με τον Χασάμπις, να αντιμετωπιστεί και το δύσκολο ζήτημα των ακαδημαϊκών ή ανοικτού κώδικα μοντέλων. Δεν θα έχει σημασία ποιος ανέπτυξε το σύστημα ή με ποιο επιχειρηματικό μοντέλο διατίθεται, αλλά το τι μπορεί πραγματικά να κάνει.
Οι δοκιμές ασφαλείας που λείπουν σήμερα
Η επιλογή των κατάλληλων δοκιμών θα αποτελούσε μία από τις σημαντικότερες αρμοδιότητες του νέου εποπτικού φορέα.
Σήμερα, οι περισσότερες αξιολογήσεις των μοντέλων AI επικεντρώνονται στις εμπορικές τους επιδόσεις, όπως η ικανότητα προγραμματισμού, η επίλυση προβλημάτων, η γενική γνώση και η παραγωγή κειμένου.
Ωστόσο, αυτές οι δοκιμές δεν επαρκούν για την αποτίμηση των κινδύνων που μπορεί να εμφανίσουν τα ισχυρότερα συστήματα.
Ορισμένοι οργανισμοί έχουν αρχίσει να αναπτύσσουν πιο εξειδικευμένες αξιολογήσεις. Το βρετανικό AI Security Institute, για παράδειγμα, έχει δημιουργήσει δοκιμές κυβερνοασφάλειας που εξετάζουν αν ένα μοντέλο μπορεί να υποστηρίξει την παραβίαση κρίσιμων υποδομών.
Παραμένουν όμως σημαντικά κενά στην αξιολόγηση άλλων συμπεριφορών, όπως:
- η προθυμία ενός μοντέλου να αγνοήσει κανόνες και οδηγίες,
- η δυνατότητά του να αποκρύπτει τις πραγματικές του ικανότητες,
- η ικανότητα σχεδιασμού σύνθετων κυβερνοεπιθέσεων,
- η χειραγώγηση χρηστών ή άλλων συστημάτων,
- η αυτόνομη εκτέλεση μακροχρόνιων και επικίνδυνων ενεργειών.
Ο νέος φορέας θα έπρεπε να αναπτύξει τυποποιημένες δοκιμές για τέτοιες δυνατότητες και να καθορίσει τα όρια πέρα από τα οποία ένα μοντέλο δεν θα μπορούσε να κυκλοφορήσει χωρίς πρόσθετα μέτρα προστασίας.
Οι διαφορές με την πρόταση του Σαμ Άλτμαν
Η πρόταση του Χασάμπις παρουσιάζει αρκετά κοινά στοιχεία με τις θέσεις του διευθύνοντος συμβούλου της OpenAI, Σαμ Άλτμαν.
Και οι δύο υποστηρίζουν τη δημιουργία ενός φορέα που θα θεσπίζει πρότυπα, θα αναλύει τους κινδύνους και θα ελέγχει ποια κράτη και οργανισμοί μπορούν να αποκτούν πρόσβαση στην πιο προηγμένη τεχνολογία AI.
Η βασική διαφορά αφορά τη διεθνή διάσταση του εγχειρήματος.
Ο Άλτμαν έχει ταχθεί υπέρ μιας διεθνούς πρωτοβουλίας, η οποία θα συντονίζεται από τις Ηνωμένες Πολιτείες. Ο Χασάμπις θεωρεί πιο ρεαλιστικό να δημιουργηθεί πρώτα ένας αμερικανικός μηχανισμός, ο οποίος στη συνέχεια θα μπορούσε να εξελιχθεί σε ευρύτερο διεθνές πρότυπο.
Κατά την εκτίμησή του, ακόμη και η Κίνα θα μπορούσε μελλοντικά να συμμετάσχει ή να ευθυγραμμιστεί με ένα τέτοιο πλαίσιο, εφόσον η συμμόρφωση αποτελούσε προϋπόθεση πρόσβασης σε κρίσιμες αγορές και τεχνολογίες.
Η πρόκληση της εφαρμογής
Παρά τη λεπτομερή του προσέγγιση, ο Χασάμπις αναγνωρίζει ότι ακόμη και ένα καλοσχεδιασμένο σύστημα μπορεί να αποτύχει στην πράξη.
Ένας ανεξάρτητος εποπτικός φορέας θα μπορούσε να καταστεί αναποτελεσματικός, εάν δεν διέθετε επαρκές προσωπικό, σαφείς εξουσίες ή αξιόπιστες μεθόδους αξιολόγησης.
Θα έπρεπε επίσης να αποφευχθεί το ενδεχόμενο της «ρυθμιστικής αιχμαλωσίας», κατά την οποία ο φορέας θα εξαρτιόταν υπερβολικά από τις εταιρείες που καλείται να ελέγξει.
Ιδιαίτερα δύσκολη θα είναι και η εξασφάλιση ευρείας στήριξης από τον κλάδο, καθώς η κοινότητα της τεχνητής νοημοσύνης εμφανίζεται ολοένα και πιο διχασμένη γύρω από την ταχύτητα ανάπτυξης, τη διαφάνεια και το εύρος της κρατικής παρέμβασης.
«Ο χρόνος τελειώνει»
Ο συνιδρυτής της Google DeepMind υποστηρίζει ότι η ανάγκη δράσης είναι πλέον άμεση.
Οι κυβερνοαπειλές που σχετίζονται με την τεχνητή νοημοσύνη αποτελούν, κατά την άποψή του, μόνο μία πρώτη ένδειξη των κινδύνων που μπορεί να εμφανιστούν καθώς τα μοντέλα αποκτούν μεγαλύτερες δυνατότητες αυτονομίας και επίλυσης σύνθετων προβλημάτων.
Η βασική του θέση είναι ότι το κανονιστικό πλαίσιο πρέπει να δημιουργηθεί πριν τα συστήματα αιχμής φθάσουν σε επίπεδα που θα καθιστούν τον έλεγχο πολύ δυσκολότερο.
Για τον Χασάμπις, το δίλημμα δεν είναι πλέον αν πρέπει να υπάρξει εποπτεία, αλλά πόσο γρήγορα και με ποιον τρόπο μπορεί να δημιουργηθεί ένας μηχανισμός αρκετά ευέλικτος ώστε να ακολουθεί τις τεχνολογικές εξελίξεις και αρκετά ισχυρός ώστε να επιβάλλει πραγματικούς κανόνες.
ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:
- Το κινεζικό AI κερδίζει τη Δύση: Γιατί κολοσσοί εγκαταλείπουν τα αμερικανικά μοντέλα
- Η McLaren φέρνει την AI στη Formula 1 με τη βοήθεια του Google Gemini
- Η AI εισβάλλει στα hedge funds: Οι αναλυτές δίνουν τη θέση τους στους αλγόριθμους
