Η εταιρεία καταγγέλλει ότι ξένα AI labs χρησιμοποιούν χιλιάδες πλαστούς λογαριασμούς και κλεμμένα στοιχεία για να αποκτήσουν πρόσβαση στο Claude και να εκπαιδεύσουν ανταγωνιστικά μοντέλα
- Η Anthropic υποστηρίζει ότι ξένα AI labs χρησιμοποιούν παράνομες μεθόδους για να αποκτούν πρόσβαση στο Claude και να εκπαιδεύουν ανταγωνιστικά μοντέλα μέσω της τεχνικής του distillation.
- Η εταιρεία κατονομάζει μεταξύ άλλων κινεζικές εταιρείες όπως Moonshot AI, DeepSeek, MiniMax και Alibaba, υποστηρίζοντας ότι έχουν επιχειρήσει να αντιγράψουν δυνατότητες των μοντέλων της.
- Μέρος της δραστηριότητας περνά, σύμφωνα με την Anthropic, από το dark web, όπου κυκλοφορούν κλεμμένα στοιχεία πιστωτικών καρτών και παραβιασμένοι λογαριασμοί AI.
Η Anthropic εντείνει τη μάχη της απέναντι σε ξένες εταιρείες τεχνητής νοημοσύνης που, όπως υποστηρίζει, επιχειρούν να αντιγράψουν τις δυνατότητες του Claude μέσω παράνομων ή καταχρηστικών μεθόδων.
Ο επικεφαλής threat intelligence της εταιρείας, Jacob Klein, δήλωσε ότι έχει δημιουργηθεί ένα ολόκληρο «παράνομο οικοσύστημα» με στόχο την απόκτηση πρόσβασης σε προηγμένα AI models, χρησιμοποιώντας ακόμη και κλεμμένες πιστωτικές κάρτες, ψεύτικους λογαριασμούς και αγορές του dark web.
Στο επίκεντρο βρίσκεται η πρακτική του model distillation, κατά την οποία οι απαντήσεις ενός προηγμένου μοντέλου μπορούν να χρησιμοποιηθούν για την εκπαίδευση ενός άλλου, φθηνότερου μοντέλου.
Τι είναι το distillation
Το distillation αποτελεί ευρέως χρησιμοποιούμενη τεχνική στην τεχνητή νοημοσύνη και δεν είναι από μόνο του παράνομο.
Ένα ισχυρό μοντέλο, γνωστό ως «teacher», μπορεί να χρησιμοποιηθεί για να εκπαιδεύσει ένα μικρότερο «student» μοντέλο, μεταφέροντάς του μέρος των γνώσεων και των δυνατοτήτων του.
Το πρόβλημα, σύμφωνα με την Anthropic, προκύπτει όταν μια εταιρεία αποκτά πρόσβαση σε ένα ανταγωνιστικό μοντέλο παρακάμπτοντας τους όρους χρήσης, τους ελέγχους ασφαλείας και τους περιορισμούς εξαγωγών.
Με αυτόν τον τρόπο, ένας ανταγωνιστής μπορεί θεωρητικά να αναπτύξει ένα ισχυρό AI model με πολύ χαμηλότερο κόστος από εκείνο που χρειάστηκε η αρχική εταιρεία για την έρευνα και την εκπαίδευσή του.
Στο στόχαστρο κινεζικά AI labs
Η Anthropic κατονομάζει την Moonshot AI ως μία από τις εταιρείες που θεωρεί ότι έχουν αντλήσει παράνομα δυνατότητες από το Claude.
Το μοντέλο Kimi K3 της Moonshot απέκτησε μεγάλη δημοτικότητα χάρη στο χαμηλότερο κόστος και στις υψηλές επιδόσεις του.
Ο Klein υποστήριξε ότι η νεότερη έκδοση του Kimi εκπαιδεύτηκε παράνομα χρησιμοποιώντας outputs από το Claude.
Η Anthropic έχει στο παρελθόν διατυπώσει αντίστοιχες κατηγορίες κατά των DeepSeek και MiniMax, ενώ έχει κατηγορήσει και την Alibaba, δημιουργό της οικογένειας μοντέλων Qwen, για εκτεταμένη «distillation attack».
Οι εταιρείες αυτές δεν σχολίασαν τις συγκεκριμένες καταγγελίες.
Χιλιάδες πλαστοί λογαριασμοί
Σύμφωνα με την Anthropic, οι εταιρείες που προσπαθούν να παρακάμψουν τους περιορισμούς δεν χρησιμοποιούν απλώς μερικούς λογαριασμούς.
Σε ορισμένες περιπτώσεις δημιουργούνται δεκάδες ή ακόμη και εκατοντάδες χιλιάδες fraudulent accounts, ώστε να πραγματοποιούνται τεράστιοι όγκοι ερωτημάτων προς το Claude.
Οι απαντήσεις συλλέγονται συστηματικά και στη συνέχεια μπορούν να χρησιμοποιηθούν ως training data για ανταγωνιστικά μοντέλα.
Ένα χαρακτηριστικό σημάδι πιθανής διαδικασίας distillation είναι ένας λογαριασμός που υποβάλλει χιλιάδες ερωτήματα αντί για μερικές δεκάδες, ή ένα δίκτυο χιλιάδων λογαριασμών που εμφανίζει παρόμοια συμπεριφορά.
Το dark web μπαίνει στο παιχνίδι
Μία από τις μεθόδους παράκαμψης των περιορισμών είναι η αγορά κλεμμένων credentials και στοιχείων πληρωμών μέσω του dark web.
Σε χώρες όπου εταιρείες όπως η Anthropic, η OpenAI και η Google περιορίζουν την πρόσβαση στις υπηρεσίες τους λόγω κυρώσεων ή πολιτικών ασφαλείας, οι χρήστες μπορούν να αναζητούν παραβιασμένους λογαριασμούς ή κλεμμένα στοιχεία για να αποκτήσουν πρόσβαση.
Ειδικοί κυβερνοασφάλειας αναφέρουν ότι παρόμοιες προσπάθειες δεν περιορίζονται μόνο στην Κίνα, αλλά εντοπίζονται και σε χώρες όπως Ιράν, Ρωσία και Βόρεια Κορέα.
Γιατί είναι τόσο δύσκολο να σταματήσει
Η αντιμετώπιση του προβλήματος είναι ιδιαίτερα δύσκολη, επειδή τα μεγαλύτερα AI labs εξυπηρετούν τεράστιους όγκους αιτημάτων καθημερινά.
Μερικά εκατομμύρια ύποπτα requests μπορεί να αποτελούν σχετικά μικρό ποσοστό της συνολικής κίνησης και επομένως να «κρύβονται» μέσα στη φυσιολογική χρήση.
Ο Klein παραδέχεται ότι είναι εξαιρετικά δύσκολο να εξαλειφθεί πλήρως το distillation, αλλά θεωρεί ότι ακόμη και η επιβράδυνση αυτών των προσπαθειών έχει αξία.
Οι φόβοι για την εθνική ασφάλεια
Για την Anthropic, το ζήτημα δεν αφορά μόνο την πνευματική ιδιοκτησία και τον ανταγωνισμό.
Η εταιρεία υποστηρίζει ότι η ανεξέλεγκτη πρόσβαση σε προηγμένα AI models μπορεί να δημιουργήσει κινδύνους εθνικής ασφάλειας.
Ο Klein ανέφερε ως παραδείγματα πιθανές χρήσεις στην παρακολούθηση, την κατασκοπεία ή ακόμη και σε προγράμματα βιολογικών όπλων.
Υποστήριξε επίσης ότι η Anthropic έχει ήδη εντοπίσει εκστρατεία από οντότητα που συνδέεται με την Κίνα, η οποία φέρεται να χρησιμοποίησε το Claude για κατασκοπευτικές δραστηριότητες μεγάλης κλίμακας.
Παρέμβαση και από την κυβέρνηση των ΗΠΑ
Το ζήτημα του distillation έχει αρχίσει να απασχολεί και την αμερικανική κυβέρνηση.
Σε υπόμνημα που δημοσιεύθηκε τον Απρίλιο, η κυβέρνηση Trump χαρακτήρισε «απαράδεκτη» τη χρήση distillation που υπονομεύει αμερικανική έρευνα ή ιδιόκτητη τεχνολογία και ανέφερε ότι εξετάζει μέτρα για την απόδοση ευθυνών σε ξένους φορείς.
Στις ΗΠΑ πάντως υπάρχει έντονη διαφωνία γύρω από το θέμα.
Ορισμένοι εκπρόσωποι της τεχνολογικής βιομηχανίας υποστηρίζουν ότι οι ρυθμιστικές αρχές δεν πρέπει να περιορίσουν υπερβολικά την ανάπτυξη και διάδοση μοντέλων AI, ιδιαίτερα των open-source λύσεων.
Άλλοι ζητούν αυστηρότερα μέτρα προστασίας της πνευματικής ιδιοκτησίας και των πιο προηγμένων αμερικανικών μοντέλων.
OpenAI και Google αντιμετωπίζουν το ίδιο πρόβλημα
Η Anthropic δεν είναι η μόνη εταιρεία που υποστηρίζει ότι αντιμετωπίζει τέτοιου είδους επιθέσεις.
Τόσο η OpenAI όσο και η Google έχουν δημοσιεύσει αναφορές σχετικά με προσπάθειες distillation και μη εξουσιοδοτημένης αξιοποίησης των μοντέλων τους.
Καθώς η ανάπτυξη frontier AI κοστίζει δισεκατομμύρια δολάρια, η δυνατότητα μιας εταιρείας να αποκτήσει παρόμοιες δυνατότητες με ένα κλάσμα του κόστους μετατρέπει το distillation σε ένα από τα μεγαλύτερα πεδία σύγκρουσης στην παγκόσμια κούρσα της τεχνητής νοημοσύνης.
Anthropic: «Ο ανταγωνισμός είναι καλός, η απάτη όχι»
Η Anthropic επιμένει ότι δεν αντιτίθεται στον ανταγωνισμό ούτε στο distillation όταν αυτό πραγματοποιείται νόμιμα και με τις κατάλληλες άδειες.
Το πρόβλημα, σύμφωνα με τον Klein, ξεκινά όταν εταιρείες χρησιμοποιούν εκατομμύρια ψεύτικους λογαριασμούς, κλεμμένες πιστωτικές κάρτες και παραβιασμένες υποδομές για να αποκτήσουν πρόσβαση σε ένα μοντέλο και να δημιουργήσουν στη συνέχεια ένα ανταγωνιστικό σύστημα χωρίς τους ίδιους μηχανισμούς ασφαλείας.
Η διαμάχη αποτυπώνει μια νέα πραγματικότητα στην παγκόσμια κούρσα της AI: πέρα από τον ανταγωνισμό για chips, ταλέντο και κεφάλαια, οι εταιρείες πρέπει πλέον να προστατεύουν και τις ίδιες τις δυνατότητες των μοντέλων τους από όσους επιχειρούν να τις αντιγράψουν.
