Σε μια πρωτοφανή κίνηση η αμερικανική Anthropic ανακοίνωσε ότι αναγκάζεται να «απενεργοποιήσει απότομα» το πιο προηγμένο μοντέλο της έπειτα από εντολή της κυβέρνησης Τραμπ να κόψει την πρόσβαση σε όλους τους μη Aμερικανούς πολίτες, επικαλούμενη λόγους εθνικής ασφάλειας.
Στην εταιρεία επιβλήθηκε απαγόρευση εξαγωγών για τα μοντέλα Mythos και Fable, χωρίς να διευκρινίζεται ποια είναι η ανησυχία για την εθνική ασφάλεια, ανέφερε η Anthropic.
«Η πρακτική συνέπεια αυτής της εντολής είναι ότι είμαστε υποχρεωμένοι να απενεργοποιήσουμε άμεσα το Fable 5 και το Mythos 5 για όλους τους πελάτες μας, προκειμένου να διασφαλίσουμε τη συμμόρφωσή μας με την απόφαση. Η πρόσβαση σε όλα τα υπόλοιπα μοντέλα της Anthropic δεν θα επηρεαστεί» ανακοίνωσε.
Η εικόνα που προκύπτει, είπε η εταιρεία, είναι ότι η κυβέρνηση πιστεύει πως υπάρχει τρόπος να παρακαμφθούν οι περιορισμοί (jailbraking) που εμποδίζουν το Fable να εντοπίζει κενά ασφάλειας τα οποία θα μπορούσαν να χρησιμοποιηθούν από χάκερ.
Mythos και Fable
Το Mythos είναι το πιο προηγμένο μοντέλο της Anthropic, το οποίο εντόπισε χιλιάδες κενά ασφάλειας σε μεγάλα λειτουργικά συστήματα και διατέθηκε για δοκιμές μόνο σε μερικές εκατοντάδες κυβερνητικές υπηρεσίες, τράπεζες και άλλους οργανισμούς.
Ειδικοί έχουν προειδοποιήσει ότι, σε περίπτωση που πέσει σε λάθος χέρια, το Mythos θα μπορούσε να χρησιμοποιηθεί για κυβερνοεπιθέσεις, για παράδειγμα σε τράπεζες που χρησιμοποιούν συστήματα ηλικίας ολόκληρων δεκαετιών.
Το Fable είναι μια αποδυναμωμένη βερσιόν του Mythos που έκανε δημόσιο ντεμπούτο την περασμένη εβδομάδα.
Η Anthropic συγκρούστηκε φέτος με την κυβέρνηση Τραμπ λόγω της άρνησης της εταιρείας να επιτρέψει τη χρήση των προϊόντων της για τη μαζική παρακολούθηση των αμερικανών πολιτών ή την ανάπτυξη αυτόνομων όπλων. Η κυβέρνηση απάντησε απαγορεύοντας στο αμερικανικό δημόσιο και τους εργολάβους του να χρησιμοποιούν προϊόντα της Anthropic, μέτρο που αναμένεται να ενεργοποιηθεί αργότερα φέτος.
Η Antropic ανέφερε στην ανακοίνωσή της ότι έλαβε μόνο «προφορικές ενδείξεις για μια πιθανή, περιορισμένη και μη καθολική παράκαμψη των μηχανισμών ασφαλείας».
«Διαφωνούμε ότι η διαπίστωση μιας περιορισμένης πιθανής παράκαμψης των μηχανισμών ασφαλείας αποτελεί λόγο για την απόσυρση ενός εμπορικού μοντέλου που χρησιμοποιείται από εκατοντάδες εκατομμύρια ανθρώπους» υποστήριξε η εταιρεία.
Μέχρι και την Τετάρτη, σημειώνει το Reuters, η Anthropic ζητούσε αυστηρότερη εποπτεία της τεχνητής νοημοσύνης από τις ΗΠΑ, συμπεριλαμβανομένης της δυνατότητας να εμποδίζεται η διάθεση μοντέλων που ενέχουν μη αποδεκτούς κινδύνους. Ωστόσο, υποστήριξε ότι η εντολή για το Mythos και το Fable δεν συνάδει με τις αρχές μιας δίκαιης και βασισμένης σε πραγματικά στοιχεία ρυθμιστικής πολιτικής.
Την περασμένη εβδομάδα η Anthropic υπέβαλε αίτημα δημόσιας προσφοράς, έχοντας ξεπεράσει σε αποτίμηση της OpenAI που σχεδιάζει επίσης την είσοδό της στο χρηματιστήριο.
Σύμφωνα με πηγή του Reuters που δεν κατονομάζεται, στέλεχος της Amazon είχε προειδοποιήσει τον Λευκό Οίκο για τον κίνδυνο jailbrake.
«Απόδειξη υπηκοότητας»
Οι αμερικανοί αξιωματούχοι επέβαλαν τους περιορισμούς «απρόθυμα» όταν ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, «αρνήθηκε» να «διορθώσει την παράκαμψη των μηχανισμών ασφαλείας ή να αποσύρει το μοντέλο», έγραψε το Σάββατο στα μέσα κοινωνικής δικτύωσης ο σύμβουλος του Λευκού Οίκου, Ντέιβιντ Σακς.
«Ελπίδα της κυβέρνησης είναι ότι η Anthropic θα αντιμετωπίσει το ζήτημα ασφάλειας, οι περιορισμοί εξαγωγών θα αρθούν και το Fable θα επανέλθει σε ευρεία διάθεση», έγραψε ο Σακς, ο οποίος είναι συμπρόεδρος του Συμβουλίου Συμβούλων του Τραμπ για την Επιστήμη και την Τεχνολογία και πρώην επικεφαλής του Λευκού Οίκου για θέματα τεχνητής νοημοσύνης.
Ο Ντιν Μπολ, πρώην αξιωματούχος του Λευκού Οίκου που συνέβαλε στο Σχέδιο Δράσης για την Τεχνητή Νοημοσύνη (AI Action Plan) που εξέδωσε η κυβέρνηση το καλοκαίρι του 2025, έγραψε στο X ότι η εντολή υποδηλώνει πως όλοι οι «μη Αμερικανοί» δεν θα έχουν πρόσβαση στα μοντέλα της Anthropic ακόμη και αν κατοικούν στις ΗΠΑ.λ
«Αυτό σημαίνει ότι πιθανότατα θα πρέπει να αποδεικνύετε την υπηκοότητά σας για να χρησιμοποιείτε τα μοντέλα της Anthropic», έγραψε ο Μπολ.
Αρκετά βασικά στελέχη της Anthropic, μεταξύ των οποίων ο συνιδρυτής Κρις Όλαχ, ο ερευνητής τεχνητής νοημοσύνης Αντρέι Καρπάθι και η φιλόσοφος Αμάντα Άσκελ, έχουν γεννηθεί εκτός των ΗΠΑ. Το
Reuters δεν κατάφερε να εξακριβώσει το καθεστώς υπηκοότητάς τους, ενώ εκπρόσωπος της Anthropic αρνήθηκε να σχολιάσει εάν τα συγκεκριμένα στελέχη θα χάσουν την πρόσβαση στα μοντέλα τεχνητής νοημοσύνης της εταιρείας.
- in.gr