Μήνυση από μη κερδοσκοπικό οργανισμό σχετικά με κυβερνοεπίθεση που εξαπέλυσαν τα μοντέλα της εναντίον της νεοφυούς επιχείρησης Hugging Face τον περασμένο Ιούλιο δέχθηκε η OpenAI.
Η οργάνωση Legal Advocates for Safe Science and Technology (LASST) κατέθεσε τη μήνυση στο Ανώτερο Δικαστήριο του Σαν Φρανσίσκο την Τρίτη. Πρόκειται για την πρώτη περίπτωση που δημοσιοποιείται και επιδιώκει να καταστήσει έναν δημιουργό τεχνητής νοημοσύνης (AI) υπεύθυνο για περιστατικό που προκλήθηκε από συστήματα που λειτούργησαν ανεξέλεγκτα («rogue systems»), αναφέρει το CNBC.
Η κυβερνοεπίθεση κατά της Hugging Face από πράκτορες (agents) της OpenAI —οι οποίοι διέφυγαν από το περιβάλλον δοκιμών τους— αποτέλεσε μία από τις πρώτες γνωστές περιπτώσεις όπου ένα μοντέλο προέβη αυτόνομα σε παραβίαση συστημάτων άλλης εταιρείας, ξεφεύγοντας από τον ανθρώπινο έλεγχο για να αποκτήσει πρόσβαση στο ανοιχτό διαδίκτυο.
Αργότερα, άλλοι δημιουργοί μοντέλων αποκάλυψαν περιστατικά στον κυβερνοχώρο που προκλήθηκαν από ανεξέλεγκτους πράκτορες τεχνητής νοημοσύνης.
Η LASST ζητά την έκδοση δικαστικής εντολής που θα απαγορεύει στα συστήματα της OpenAI να αποκτούν πρόσβαση σε υπολογιστές χωρίς εξουσιοδότηση. Ο μη κερδοσκοπικός οργανισμός ισχυρίζεται ότι η OpenAI παραβίασε τον νόμο της Καλιφόρνια περί πρόσβασης σε δεδομένα υπολογιστών και απάτης.
«Η OpenAI φέρει την ευθύνη για τη συμπεριφορά των πρακτόρων της», αναφέρει η LASST στη μήνυση.
«Το περιστατικό με την Hugging Face ήταν σοβαρό και έχουμε λάβει μια σειρά μέτρων ως απάντηση σε αυτό, ωστόσο η εν λόγω αγωγή είναι εντελώς αβάσιμη», δήλωσε εκπρόσωπος της OpenAI.
Περιστατικά κυβερνοασφάλειας που αφορούν την AI
Τη Δευτέρα, η OpenAI ανακοίνωσε ότι εγκατέλειψε τα σχέδια για την κυκλοφορία ενός νέου μοντέλου, λόγω ανησυχιών για την ασφάλεια.
Η απόφαση αυτή ελήφθη λίγες μόλις ημέρες αφότου η εταιρεία δήλωσε ότι διενεργούσε «εκτενή» επανεξέταση των δραστηριοτήτων των μοντέλων της μετά την παραβίαση της Hugging Face, και αφού αποκαλύφθηκαν επιπλέον παραδείγματα ασυνήθιστης ή μη εξουσιοδοτημένης δραστηριότητας πρακτόρων, συμπεριλαμβανομένης της παραβίασης ιστοτόπου της αυστραλιανής κυβέρνησης.
Συστήματα τεχνητής νοημοσύνης της Anthropic έχουν επίσης εμπλακεί σε περιστατικά στον κυβερνοχώρο, όπως η δημιουργία ψευδών ταυτοτήτων για την εξαπάτηση ανθρώπων.
Νωρίτερα αυτόν τον μήνα, ανακοινώθηκε ότι η Nvidia συμφώνησε να καταβάλει περίπου 13 δισεκατομμύρια δολάρια για την εξαγορά της Hugging Face. Η OpenAI είχε επιχειρήσει να επενδύσει 100 εκατομμύρια δολάρια στη νεοφυή επιχείρηση μετά την κυβερνοεπίθεση, ωστόσο οι συνομιλίες ναυάγησαν στα αρχικά στάδια, σύμφωνα με πηγές που επικαλείται το CNBC.
Η Hugging Face δεν εμπλέκεται στη δικαστική διαμάχη. Ο Διευθύνων Σύμβουλος Κλεμάν Ντελάνγκ είχε δηλώσει τον Ιούλιο ότι ζήτησε από την OpenAI να διαθέσει 100 εκατομμύρια δολάρια σε υπολογιστική «για να βοηθήσει την κοινότητα του Hugging Face να δημιουργήσει ισχυρές κυβερνοάμυνες με τα καλύτερα ανοιχτά και κλειστά μοντέλα».
«Αυτό που είναι κρίσιμο σχετικά με τις δημόσια αναφερόμενες ενέργειες τεχνητής νοημοσύνης μέχρι σήμερα είναι ότι καμία δεν φαίνεται να έχει οδηγήσει σε επιβεβαιωμένη παραβίαση ρυθμιζόμενων δεδομένων τρίτου μέρους», δήλωσε στο CNBC η Κέιτι Νάντρο, συνεργάτης της Levenfeld Pearlstein.
«Όταν συμβεί αυτό, η εταιρεία που έχει παραβιαστεί θα έχει τις δικές της υποχρεώσεις ειδοποίησης βάσει παραβίασης δεδομένων και άλλων νόμων περί κυβερνοασφάλειας ή απορρήτου, που ενδεχομένως να περιλαμβάνουν ρυθμιστικές αρχές και ομαδικές αγωγές καταναλωτών», πρόσθεσε.
«Σε αυτό το σημείο, η συνεργασία που υπήρχε μεταξύ των εταιρειών που έχουν παραβιαστεί και των εργαστηρίων τεχνητής νοημοσύνης μπορεί να τερματιστεί, επειδή η εταιρεία που έχει παραβιαστεί πιθανότατα θα επιδιώξει να ανακτήσει τις οικονομικές της απώλειες από το εργαστήριο τεχνητής νοημοσύνης».