Το Πεντάγωνο βρίσκεται σε διαμάχη με την εταιρεία ανάπτυξης τεχνητής νοημοσύνης Anthropic σχετικά με τα μέτρα ασφαλείας που θα εμποδίζουν την αμερικανική κυβέρνηση να χρησιμοποιεί την τεχνολογία της για την αυτόνομη στόχευση όπλων και την παρακολούθηση του εσωτερικού των ΗΠΑ, σύμφωνα με τρεις πηγές που μίλησαν στο Reuters.
Οι συζητήσεις αυτές αποτελούν μια πρώιμη δοκιμασία για το αν η Σίλικον Βάλεϊ, που διατηρεί θετικό κλίμα στις σχέσεις με την Ουάσιγκτον μετά από χρόνια εντάσεων, μπορεί να επηρεάσει τον τρόπο με τον οποίο το στρατιωτικό και το πολιτικό προσωπικό των μυστικών υπηρεσιών των ΗΠΑ χρησιμοποιούν την ολοένα και πιο ισχυρή τεχνητή νοημοσύνη στο πεδίο της μάχης.
Μετά από εκτενείς συνομιλίες στο πλαίσιο μιας σύμβασης αξίας έως 200 εκατομμυρίων δολαρίων, το υπουργείο Άμυνας των ΗΠΑ και η Anthropic βρίσκονται σε αδιέξοδο, σύμφωνα με τις πηγές του δημοσιεύματος. Η θέση της εταιρείας σχετικά με τον τρόπο χρήσης των εργαλείων τεχνητής νοημοσύνης της έχει εντείνει τις διαφωνίες μεταξύ αυτής και της κυβέρνησης Τραμπ, οι λεπτομέρειες των οποίων δεν έχουν αναφερθεί προηγουμένως.
Εκπρόσωπος του υπουργείου Άμυνας, το οποίο η κυβέρνηση Τραμπ μετονόμασε σε υπουργείο Πολέμου, δεν απάντησε στο δημοσίευμα. Η Anthropic από την πλευρά της δήλωσε ότι η τεχνητή νοημοσύνη της «χρησιμοποιείται εκτενώς για αποστολές εθνικής ασφάλειας από την κυβέρνηση των ΗΠΑ και ότι βρίσκεται σε παραγωγικές συζητήσεις με το υπουργείο Πολέμου σχετικά με τρόπους συνέχισης αυτού του έργου».
Η διαμάχη, η οποία θα μπορούσε να απειλήσει τις δραστηριότητες της Anthropic στο Πεντάγωνο, έρχεται σε μια ευαίσθητη στιγμή για την εταιρεία. Η νεοφυής επιχείρηση με έδρα το Σαν Φρανσίσκο προετοιμάζεται για μια ενδεχόμενη δημόσια προσφορά. Έχει επίσης δαπανήσει σημαντικούς πόρους για να προσελκύσει επιχειρήσεις εθνικής ασφάλειας των ΗΠΑ και έχει επιδιώξει να διαδραματίσει ενεργό ρόλο στη διαμόρφωση της κυβερνητικής πολιτικής για την τεχνητή νοημοσύνη.
Η Anthropic είναι μία από τις λίγες μεγάλες εταιρείες ανάπτυξης τεχνητής νοημοσύνης που έλαβαν συμβάσεις από το Πεντάγωνο πέρυσι. Οι υπόλοιπες ήταν η Google, η xAI του Ίλον Μασκ και η OpenAI.
Στις συζητήσεις τους με κυβερνητικούς αξιωματούχους, εκπρόσωποι της Anthropic εξέφρασαν ανησυχίες ότι τα εργαλεία της θα μπορούσαν να χρησιμοποιηθούν για την κατασκοπεία Αμερικανών πολιτών ή για την υποβοήθηση της στόχευσης όπλων χωρίς επαρκή ανθρώπινη εποπτεία, σύμφωνα με το Reuters.
Το Πεντάγωνο αντέδρασε έντονα στις κατευθυντήριες γραμμές της εταιρείας. Σύμφωνα με υπόμνημα του υπουργείου της 9ης Ιανουαρίου σχετικά με τη στρατηγική για την τεχνητή νοημοσύνη, αξιωματούχοι του Πενταγώνου υποστήριξαν ότι θα πρέπει να μπορούν να χρησιμοποιούν εμπορική τεχνολογία τεχνητής νοημοσύνης ανεξάρτητα από τις πολιτικές χρήσης των εταιρειών, αρκεί να συμμορφώνονται με την αμερικανική νομοθεσία, σύμφωνα με πηγές.
Ωστόσο, οι αξιωματούχοι του Πενταγώνου θα χρειαστούν πιθανώς τη συνεργασία της Anthropic για να προχωρήσουν. Τα μοντέλα της είναι εκπαιδευμένα να αποφεύγουν ενέργειες που μπορεί να προκαλέσουν βλάβη και το προσωπικό της Anthropic θα είναι αυτό που θα αναδιαμορφώσει την τεχνητή νοημοσύνη της για το Πεντάγωνο, σύμφωνα με ορισμένες πηγές.
Η προσοχή της Anthropic έχει προκαλέσει στο παρελθόν συγκρούσεις με την κυβέρνηση Τραμπ, σύμφωνα με το Semafor.
Σε άρθρο στο προσωπικό του blog, ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, προειδοποίησε αυτή την εβδομάδα ότι η τεχνητή νοημοσύνη πρέπει να υποστηρίζει την εθνική άμυνα «με όλους τους τρόπους εκτός από εκείνους που θα μας έκαναν να μοιάζουμε περισσότερο με τους αυταρχικούς αντιπάλους μας».
Ο Αμοντέι ήταν ένας από τους συνιδρυτές της Anthropic που επέκριναν τους θανατηφόρους πυροβολισμούς εναντίον Αμερικανών πολιτών που διαμαρτύρονταν για τη δράση της υπηρεσίας ICE στη Μινεάπολη, τις οποίες περιέγραψε ως «φρίκη» σε μια ανάρτηση στο X.
Οι συγκεκριμένοι θάνατοι έχουν εντείνει την ανησυχία ορισμένων στο Σίλικον Βάλεϊ σχετικά με τη χρήση των εργαλείων τους από την κυβέρνηση για πιθανή άσκηση βίας.