- -
Ο Λευκός Οίκος ζητά τα νέα μοντέλα AI των αμερικανικών εταιρειών να ελέγχονται πρώτα από τις αμερικανικές αρχές, πριν διατεθούν στο βρετανικό AI Security Institute.
- Οι ΗΠΑ ζητούν από OpenAI και Anthropic να υποβάλλουν πρώτα τα νέα μοντέλα τεχνητής νοημοσύνης σε αμερικανικό έλεγχο.
- Η Anthropic δεν έδωσε στο βρετανικό AI Security Institute πρόσβαση στο νέο μοντέλο Claude Mythos 5.1.
- Η απόφαση του Λευκού Οίκου επηρεάζει την πρόσβαση της Βρετανίας στα πιο προηγμένα μοντέλα AI και εντείνει τη συζήτηση για την ασφάλεια της τεχνητής νοημοσύνης.
Νέα δεδομένα στην πρόσβαση της Βρετανίας στα πιο προηγμένα μοντέλα τεχνητής νοημοσύνης δημιουργεί ο Λευκός Οίκος, ζητώντας από τις OpenAI και Anthropic να μην τα διαθέτουν στο βρετανικό AI Security Institute (AISI) πριν περάσουν πρώτα από έλεγχο των αμερικανικών αρχών.
Το αίτημα, σύμφωνα με πρόσωπο που γνωρίζει την υπόθεση και Αμερικανό αξιωματούχο, προήλθε από το Office of the National Cyber Director. Η Ουάσιγκτον θέλει να ελέγχει πρώτα τα νέα μοντέλα και να λαμβάνει μέτρα για την ασφάλεια των αμερικανικών συστημάτων, πριν αυτά διατεθούν σε συμμάχους των ΗΠΑ.
Η εξέλιξη επηρεάζει μια πρακτική που είχε αναπτυχθεί τα προηγούμενα χρόνια, καθώς το βρετανικό AISI είχε αποκτήσει στενές σχέσεις με τις μεγαλύτερες εταιρείες AI και συχνά είχε πρόσβαση σε νέα μοντέλα πριν από την επίσημη κυκλοφορία τους.
Η Anthropic περιόρισε την πρόσβαση στο νέο μοντέλο
Η νέα αμερικανική γραμμή φαίνεται ήδη να έχει πρακτικές συνέπειες.
Η Anthropic δεν έδωσε στο AISI πρόσβαση στο νέο μοντέλο Claude Mythos 5.1, εξηγώντας ότι αρχικά ήταν διαθέσιμο μόνο σε συγκεκριμένους οργανισμούς στις ΗΠΑ. Η εταιρεία ανέφερε ότι συνεργάζεται με την αμερικανική κυβέρνηση, προκειμένου η πρόσβαση να επεκταθεί σταδιακά σε περισσότερους οργανισμούς, τόσο στις ΗΠΑ όσο και στο εξωτερικό.
Ο επικεφαλής του AISI, Henry de Zoete, είχε επιβεβαιώσει νωρίτερα ότι ο οργανισμός δεν είχε πρόσβαση στο συγκεκριμένο μοντέλο της Anthropic. Τόνισε, ωστόσο, ότι το AISI εξακολουθεί να συνεργάζεται με τις μεγαλύτερες εταιρείες του κλάδου και να έχει πρόσβαση σε άλλα προηγμένα μοντέλα πριν από την κυκλοφορία τους.
Μεταξύ άλλων, το βρετανικό ινστιτούτο είχε δοκιμάσει το GPT-6 Astra της OpenAI πριν από την επίσημη κυκλοφορία του.
Η OpenAI δεν έχει σχολιάσει το αίτημα, ενώ ούτε η Anthropic ούτε ο Λευκός Οίκος απάντησαν άμεσα σε σχετικά αιτήματα για σχόλιο.
Η Βρετανία επιδιώκει διεθνείς κανόνες για την AI
Το AISI δημιουργήθηκε το 2023 και αποτελεί έναν από τους βασικούς κρατικούς οργανισμούς για την αξιολόγηση της ασφάλειας των πιο προηγμένων μοντέλων τεχνητής νοημοσύνης.
Η πρόσβαση στα νέα μοντέλα αποτελεί σημαντικό μέρος της βρετανικής προσπάθειας να ενισχύσει τον ρόλο της στη διεθνή συζήτηση για την ασφάλεια της AI. Ο πρωθυπουργός Άντι Μπέρναμ έχει δηλώσει ότι η τεχνητή νοημοσύνη θα βρίσκεται στο επίκεντρο της βρετανικής προεδρίας της G20 το επόμενο έτος.
Παράλληλα, στη Γενική Συνέλευση του ΟΗΕ αυτή την εβδομάδα τάχθηκε υπέρ ενός κοινού πλαισίου διεθνών αρχών και προτύπων για την ανάπτυξη της AI.
Η βρετανική κυβέρνηση επιχείρησε να υποβαθμίσει τις διαφορές με την Ουάσιγκτον, υποστηρίζοντας ότι το AISI συνεχίζει να συνεργάζεται στενά με την αμερικανική κυβέρνηση, τις μεγάλες εταιρείες τεχνητής νοημοσύνης και άλλους διεθνείς εταίρους.
Ο Βρετανός υπουργός Εξωτερικών Ed Miliband κινήθηκε στην ίδια κατεύθυνση, υποστηρίζοντας ότι οι κυβερνήσεις πρέπει να έχουν επαρκή εικόνα για τη λειτουργία των πιο προηγμένων μοντέλων και να διασφαλίζουν ότι αυτά υποβάλλονται σε αυστηρούς ελέγχους.
Στο επίκεντρο η ασφάλεια των νέων μοντέλων
Η απόφαση της Ουάσιγκτον έρχεται σε μια περίοδο κατά την οποία αυξάνονται οι συζητήσεις για την ασφάλεια των πιο ισχυρών μοντέλων AI.
Το τελευταίο διάστημα έχουν καταγραφεί περιστατικά κατά τα οποία μοντέλα τεχνητής νοημοσύνης απέκτησαν πρόσβαση σε εξωτερικά συστήματα κατά τη διάρκεια δοκιμών. Σε μία από τις πιο πρόσφατες περιπτώσεις, που αποκαλύφθηκε στην Αυστραλία, agent της OpenAI απέκτησε χωρίς εξουσιοδότηση πρόσβαση σε αρχεία κυβερνητικού συστήματος.
Στις ΗΠΑ, την ίδια στιγμή, ενισχύεται ο ρόλος του Center for AI Standards and Innovation (CAISI), του φορέα του υπουργείου Εμπορίου που ασχολείται με την αξιολόγηση προηγμένων μοντέλων.
Η OpenAI έχει προτείνει το CAISI ως έναν από τους φορείς που θα μπορούσαν να αναλάβουν διεθνή συνεργασία για τη δημιουργία προτύπων σχετικά με την ασφάλεια της τεχνητής νοημοσύνης, σε συνεργασία με οργανισμούς όπως το βρετανικό AISI.