Ένας αμερικανός δικαστής ανέστειλε την Πέμπτη την καταχώριση της Anthropic στη μαύρη λίστα του Πενταγώνου, η οποία αποτελεί την τελευταία εξέλιξη στη μάχη υψηλού διακυβεύματος που διεξάγει η εταιρεία που δημιούργησε το «Claude» με τον αμερικανικό στρατό σχετικά με την ασφάλεια της τεχνητής νοημοσύνης στο πεδίο της μάχης.
Η Anthropic υποστηρίζει ότι τα μοντέλα τεχνητής νοημοσύνης δεν είναι αρκετά αξιόπιστα για να χρησιμοποιηθούν με ασφάλεια σε αυτόνομα όπλα
Η αγωγή της Anthropic στο ομοσπονδιακό δικαστήριο της Καλιφόρνιας ισχυρίζεται ότι ο υπουργός Άμυνας, Πιτ Χέγκσεθ, υπερέβη τις εξουσίες του όταν χαρακτήρισε την Anthropic ως κίνδυνο για την αλυσίδα εφοδιασμού της εθνικής ασφάλειας, έναν χαρακτηρισμό που η κυβέρνηση μπορεί να απονείμει σε εταιρείες που εκθέτουν στρατιωτικά συστήματα σε πιθανή διείσδυση ή σαμποτάζ από εχθρούς.
Η άνευ προηγουμένου κίνηση του Χέγκσεθ, η οποία απέκλεισε την Anthropic από ορισμένες στρατιωτικές συμβάσεις, ακολούθησε την άρνηση της Anthropic να επιτρέψει στο στρατό να χρησιμοποιήσει τα μοντέλα τεχνητής νοημοσύνης «Claude» της για σκοπούς επιτήρησης ή αυτόνομων όπλων των ΗΠΑ. Στελέχη της Anthropic έχουν δηλώσει ότι αυτό θα μπορούσε να κοστίσει στην εταιρεία δισεκατομμύρια δολάρια σε απώλεια εσόδων και βλάβη της φήμης της.
Η ομοσπονδιακή δικαστής Ρίτα Λιν, η οποία διορίστηκε από τον πρώην Δημοκρατικό πρόεδρο Τζο Μπάιντεν, εξέδωσε την απόφαση σε μια 59-σελιδη διαταγή, στην οποία έκρινε ότι η απόφαση του Πενταγώνου ήταν «παράνομη και αβάσιμη».
«Η κενή επίκληση της εθνικής ασφάλειας δεν αποτελεί λευκή επιταγή για την τιμωρία και την εκδίκηση εναντίον των επικριτών της κυβέρνησης», έγραψε.
Η Anthropic χαιρέτισε την απόφαση και ανέφερε σε δήλωσή της ότι παραμένει «εστιασμένη στη παραγωγική συνεργασία με την κυβέρνηση, με στόχο την αξιοποίηση της τεχνητής νοημοσύνης για την εθνική μας ασφάλεια, ώστε όλοι οι Αμερικανοί να επωφεληθούν από αυτή την τεχνολογία».
Η Anthropic υποστηρίζει ότι τα μοντέλα τεχνητής νοημοσύνης δεν είναι αρκετά αξιόπιστα για να χρησιμοποιηθούν με ασφάλεια σε αυτόνομα όπλα και ότι αντιτίθεται στην εσωτερική παρακολούθηση ως παραβίαση των δικαιωμάτων, αλλά το Πεντάγωνο υποστηρίζει ότι οι ιδιωτικές εταιρείες δεν θα πρέπει να έχουν τη δυνατότητα να περιορίζουν τη στρατιωτική δράση.
Ο χαρακτηρισμός που έδωσε το Πεντάγωνο ήταν η πρώτη φορά που μια αμερικανική εταιρεία χαρακτηρίστηκε δημοσίως ως κίνδυνος για την αλυσίδα εφοδιασμού, βάσει ενός ασαφούς νόμου περί κρατικών προμηθειών που αποσκοπεί στην προστασία των στρατιωτικών συστημάτων από ξένη δολιοφθορά.
Στην αγωγή της στις 9 Μαρτίου, η Anthropic ισχυρίστηκε ότι η κυβέρνηση παραβίασε το δικαίωμά της στην ελευθερία του λόγου βάσει της Πρώτης Τροπολογίας του Συντάγματος, λαμβάνοντας αντίποινα κατά των απόψεών της σχετικά με την ασφάλεια της τεχνητής νοημοσύνης. Η εταιρεία ανέφερε ότι δεν της δόθηκε η ευκαιρία να αμφισβητήσει τον χαρακτηρισμό, κατά παράβαση του δικαιώματός της σε δίκαιη δίκη βάσει της Πέμπτης Τροπολογίας.
Στην αγωγή αναφέρεται ότι η απόφαση ήταν παράνομη, δεν στηριζόταν σε γεγονότα και ήταν ασυμβίβαστη με τους προηγούμενους επαίνους του στρατού προς το «Claude».
Το Υπουργείο Δικαιοσύνης αντέταξε ότι η άρνηση της Anthropic να άρει τους περιορισμούς θα μπορούσε να προκαλέσει αβεβαιότητα στο Πεντάγωνο σχετικά με τον τρόπο χρήσης του Claude και να θέσει σε κίνδυνο τη λειτουργία στρατιωτικών συστημάτων κατά τη διάρκεια επιχειρήσεων, σύμφωνα με έγγραφο που κατατέθηκε στο δικαστήριο.
Η κυβέρνηση ανέφερε ότι ο χαρακτηρισμός αυτός προήλθε από την άρνηση της Anthropic να αποδεχτεί τους συμβατικούς όρους, και όχι από τις απόψεις της σχετικά με την ασφάλεια της τεχνητής νοημοσύνης.
Η Anthropic έχει μια δεύτερη εκκρεμή αγωγή στην Ουάσιγκτον, σχετικά με έναν ξεχωριστό χαρακτηρισμό κινδύνου για την αλυσίδα εφοδιασμού από το Πεντάγωνο, ο οποίος θα μπορούσε να οδηγήσει στον αποκλεισμό της από κυβερνητικές συμβάσεις στον πολιτικό τομέα.