Σίλικον Βάλεϊ: Σε ισχύ ο πρώτος νόμος για την Τεχνητή Νοημοσύνη με αυστηρές υποχρεώσεις διαφάνειας

Η Καλιφόρνια, έδρα των τεχνολογικών κολοσσών Google, Meta, OpenAI (ChatGPT) και Anthropic, έθεσε χθες Δευτέρα σε ισχύ έναν σημαντικό νόμο για τη ρύθμιση της τεχνητής νοημοσύνης (ΤΝ, AI), έναν χρόνο αφότου προηγούμενο κείμενο είχε απορριφθεί ως υπερβολικά περιοριστικό για την καινοτομία. Ο Δημοκρατικός κυβερνήτης της, Γκάβιν Νιούσομ, ανακοίνωσε ότι επικύρωσε τον νόμο SB 53, με το επιχείρημα ότι βρέθηκε μια ισορροπία «που βοηθά την πολιτεία της Καλιφόρνιας να ενθαρρύνει την καινοτομία προστατεύοντας ταυτοχρόνως τη δημόσια ασφάλεια».

Ο νόμος αυτός ανακοινώνεται την ώρα που δεκάδες δισεκατομμύρια δολάρια επενδύσεων στην ΤΝ συρρέουν στην Σίλικον Βάλεϊ, όπου αυξάνονται παράλληλα οι ανησυχίες για τις πιθανές παρεκκλίσεις των πιο προηγμένων μοντέλων.
Από τον νόμο αυτόν προβλέπονται σχεδόν άνευ προηγουμένου υποχρεώσεις διαφάνειας για τις επιχειρήσεις που αναπτύσσουν τα πιο περίπλοκα μοντέλα της τεχνητής νοημοσύνης. Αυτές υποχρεώνονται να δημοσιοποιούν τα πρωτόκολλά τους ασφαλείας, να αναφέρουν τα σοβαρά περιστατικά σε λιγότερο από 15 ημέρες και να προστατεύουν τους μάρτυρες δημοσίου συμφέροντος.

Ο νόμος, ο οποίος χαρακτηρίζεται από αυτούς που τον υποστήριξαν ως άνευ προηγουμένου σε παγκόσμιο επίπεδο, υποχρεώνει επίσης τις επιχειρήσεις να αναφέρουν τις επικίνδυνες παραπλανητικές συμπεριφορές της ΤΝ στη διάρκεια των δοκιμών.
Για παράδειγμα, αν ένα μοντέλο ψεύδεται όσον αφορά την επάρκεια των ελέγχων που αποσκοπούν να το εμποδίσουν να συμβάλει στην κατασκευή βιολογικών ή πυρηνικών όπλων, αυτοί που το αναπτύσσουν οφείλουν να αποκαλύψουν το περιστατικό εφόσον αυξάνει σημαντικά τους κινδύνους πρόκλησης βλαβών.

«Οι αναφορές των ίδιων των επιχειρήσεων τεχνολογίας αιχμής της ΤΝ αποκαλύπτουν ανησυχητικές προόδους σε όλες τις κατηγορίες απειλών», υπογράμμιζε τον Ιούνιο η ομάδα σκέψης που συνέστησε ο κυβερνήτης για τη βελτίωση του κειμένου υπό την αιγίδα γνωστών εμπειρογνωμόνων, μεταξύ των οποίων η Φέι-Φέι Λι του πανεπιστημίου Στάνφορντ, γνωστή και ως η «νονά της ΤΝ».

Ο Δημοκρατικός Γερουσιαστής της Καλιφόρνιας Σκοτ Βίνερ, που είναι αυτός που συνέταξε τον νόμο, είχε δει το προηγούμενό του σχέδιο νόμου να απορρίπτεται την τελευταία στιγμή πέρυσι με βέτο του κυβερνήτη. Το πρώτο κείμενό του είχε διχάσει βαθιά την Σίλικον Βάλεϊ, κατηγορούμενο από ορισμένα ηγετικά στελέχη της ότι εγκυμονεί τον κίνδυνο να τραπούν σε φυγή οι καινοτόμοι ήδη από την αρχή της «επανάστασης της ΤΝ».

Ο νέος νόμος της Καλιφόρνια τέθηκε εξάλλου τώρα σε ισχύ μετά την αποτυχία της κυβέρνησης Τραμπ να αποκλείσει κάθε ρύθμιση της ΤΝ από τις αμερικανικές πολιτείες, με το σκεπτικό ότι θα καθυστερούσε τη χώρα όσον αφορά τον ανταγωνισμό της με την Κίνα.
Σύμφωνα με τον γερουσιαστή Βίνερ, ο νόμος του έχει επίσης το πλεονέκτημα ότι τα πρωτόκολλα ασφαλείας δημοσιοποιούνται, ενώ το κείμενο αναφοράς της Ευρωπαϊκής Ένωσης, αν και είναι ασφαλώς πιο δεσμευτικό, περιορίζει τη διαβίβασή τους στις αρχές.

Πριν από την επικύρωση του κειμένου, πολλοί κολοσσοί της ΤΝ στην Καλιφόρνια, μεταξύ των οποίων οι Meta, Google, OpenAI και Anthropic (μοντέλο Claude) είχαν εκουσίως δεσμευτεί για τη διεξαγωγή δοκιμών ασφαλείας και για τη δημιουργία ισχυρών πρωτοκόλλων. Ο νέος νόμος κωδικοποιεί και επεκτείνει τις δεσμεύσεις αυτές.

ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:

• Πώς ο Jensen Huang της Nvidia έγινε ο κορυφαίος salesman της Τεχνητής Νοημοσύνης παγκοσμίως
• AI επανάσταση: Έρχονται τα world models, μια αγορά 100 τρισ. δολαρίων
• ChatGPT Pulse: Το νέο εργαλείο που έρχεται να «κοντράρει» το Google