- -
Ο CEO της Hugging Face υποστηρίζει ότι οι εταιρείες τεχνητής νοημοσύνης θα πρέπει να υποχρεώνονται να δημοσιοποιούν περιστατικά ασφαλείας, ενώ στις ΗΠΑ πληθαίνουν οι προτάσεις για σχετική νομοθετική ρύθμιση.
- Ο CEO της Hugging Face ζητά υποχρεωτική γνωστοποίηση κυβερνοεπιθέσεων που σχετίζονται με AI.
- Η Hugging Face και η OpenAI αποκάλυψαν πρόσφατα περιστατικά ασφαλείας με εμπλοκή AI agents.
- Στις ΗΠΑ εξετάζονται προτάσεις για υποχρεωτική αναφορά περιστατικών ασφαλείας από εταιρείες τεχνητής νοημοσύνης.
Ο διευθύνων σύμβουλος της Hugging Face, Clem Delangue, τάσσεται υπέρ της υποχρεωτικής γνωστοποίησης κυβερνοεπιθέσεων που σχετίζονται με συστήματα τεχνητής νοημοσύνης, υποστηρίζοντας ότι η διαφάνεια αποτελεί βασική προϋπόθεση για τη βελτίωση της ασφάλειας του οικοσυστήματος AI.
Σε συνέντευξή του στο CBS, ο Delangue ανέφερε ότι περιστατικά όπως η πρόσφατη παραβίαση που συνδέθηκε με μοντέλα της OpenAI δεν δικαιολογούν τον περιορισμό της διάθεσης ισχυρών μοντέλων τεχνητής νοημοσύνης.
«Τα συγκεκριμένα περιστατικά αφορούσαν μοντέλα που δεν είχαν ακόμη κυκλοφορήσει. Το ζήτημα δεν είναι να επιβραδύνουμε την πρόοδο ή να εμποδίσουμε τις εταιρείες να διαθέτουν νέα μοντέλα, αλλά να δώσουμε πρόσβαση σε περισσότερους ανθρώπους ώστε να μπορούν να αμυνθούν», ανέφερε.
Η πρόταση για υποχρεωτική διαφάνεια
Σύμφωνα με τον επικεφαλής της Hugging Face, οι εταιρείες θα πρέπει να υποχρεώνονται να δημοσιοποιούν κάθε κυβερνοεπίθεση στην οποία εμπλέκονται αυτόνομοι AI agents, καθώς και τα τεχνικά δεδομένα που εξηγούν πώς εξελίχθηκε το περιστατικό.
Όπως εξήγησε, η δημοσιοποίηση των λεγόμενων agent traces, δηλαδή των εντολών που δόθηκαν στο μοντέλο και των ενεργειών που αυτό πραγματοποίησε, θα επιτρέψει στην ερευνητική κοινότητα να διαπιστώνει εάν μια παραβίαση οφείλεται σε ανθρώπινο λάθος, σε αδυναμία του συστήματος ή στη συμπεριφορά του ίδιου του μοντέλου.
Παράλληλα, τόνισε ότι οι κυβερνοεπιθέσεις θα πρέπει να παραμείνουν παράνομες βάσει της αμερικανικής νομοθεσίας, ώστε να αποφευχθεί η εξάπλωσή τους.
Τα περιστατικά που πυροδότησαν τη συζήτηση
Στα τέλη Ιουλίου, η Hugging Face αποκάλυψε ότι ένας AI agent απέκτησε πρόσβαση σε ορισμένα εσωτερικά της συστήματα. Λίγο αργότερα, η OpenAI ανακοίνωσε ότι δύο μοντέλα της, μεταξύ των οποίων και ένα που δεν είχε ακόμη κυκλοφορήσει, είχαν διαφύγει από δοκιμαστικό περιβάλλον και συνδέθηκαν με το περιστατικό.
Ακολούθησε αντίστοιχη γνωστοποίηση από την Anthropic, η οποία ανέφερε ότι εντόπισε τρεις περιπτώσεις κατά τις οποίες μοντέλα Claude απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε συστήματα άλλων οργανισμών.
Σήμερα δεν υπάρχει στις ΗΠΑ ομοσπονδιακή υποχρέωση αναφοράς περιστατικών ασφαλείας που σχετίζονται με AI. Ωστόσο, ερευνητικά ιδρύματα όπως η RAND και το Center for Security and Emerging Technology του Georgetown έχουν ήδη εισηγηθεί τη δημιουργία υποχρεωτικού μηχανισμού αναφοράς, ενώ τον Ιούνιο κατατέθηκε νομοσχέδιο που προβλέπει ότι οι εταιρείες ανάπτυξης μοντέλων AI θα πρέπει να ενημερώνουν το αμερικανικό υπουργείο Εμπορίου εντός επτά ημερών από την ανακάλυψη μιας παραβίασης.
Το επιχείρημα υπέρ των μοντέλων ανοικτού κώδικα
Ο Delangue υποστήριξε επίσης ότι το πρόσφατο περιστατικό ενίσχυσε το επιχείρημα υπέρ των μοντέλων ανοικτού κώδικα.
Σύμφωνα με τη Hugging Face, η εταιρεία χρησιμοποίησε το GLM 5.2 της κινεζικής Z.ai, ένα μοντέλο ανοικτού κώδικα, για να αναλύσει περισσότερα από 17.000 αρχεία καταγραφής (logs) και να περιορίσει την επίθεση που συνδεόταν με την OpenAI.
Παρόμοια θέση εξέφρασε και ο συνιδρυτής του LinkedIn, Reid Hoffman, ο οποίος υποστήριξε ότι τα μοντέλα ανοικτού κώδικα μπορούν να αποτελέσουν σημαντικό εργαλείο άμυνας απέναντι σε αντίστοιχες επιθέσεις.