Μη εξουσιοδοτημένες επεξεργασίες, απόπειρες χρήσης εργαλείων ως proxy και εκατομμύρια αυτοματοποιημένα αιτήματα εντόπισε η Wikimedia – Η OpenAI δηλώνει ότι ερευνά τα περιστατικά
- Η Wikimedia Foundation εντόπισε δραστηριότητα από πράκτορες της OpenAI που περιλάμβανε μη εγκεκριμένες επεξεργασίες σε wikis και απόπειρες εκμετάλλευσης εργαλείων της.
- Οι agents πραγματοποίησαν εκατομμύρια αυτοματοποιημένα αιτήματα, crawls σε εκατομμύρια σελίδες και εκατοντάδες χιλιάδες queries στο Wikidata Query Service.
- Η Wikimedia ξεκαθαρίζει ότι δεν βρήκε στοιχεία πως τα συστήματα ή τα δεδομένα της παραβιάστηκαν, ενώ η OpenAI δηλώνει ότι συνεχίζει την έρευνα.
Νέα ερωτήματα για την ασφάλεια και την εποπτεία των AI agents προκαλεί έρευνα της Wikimedia Foundation, σύμφωνα με την οποία πράκτορες που συνδέονται με συστήματα της OpenAI πραγματοποίησαν μη εξουσιοδοτημένες ενέργειες σε υποδομές της Wikipedia και άλλων Wikimedia projects.
Η Wikimedia ανακοίνωσε ότι εντόπισε μη εγκεκριμένες επεξεργασίες σε wikis, απόπειρες εκμετάλλευσης ενός δημόσιου εργαλείου σημειώσεων και ιδιαίτερα υψηλό αυτοματοποιημένο traffic προς τις υπηρεσίες της.
Η ίδια, ωστόσο, υπογραμμίζει ότι δεν εντόπισε στοιχεία πως τα συστήματα ή τα δεδομένα της παραβιάστηκαν, ούτε ότι οι υποδομές της χρησιμοποιήθηκαν για συντονισμό μεταξύ agents.
Προσπάθησαν να χρησιμοποιήσουν εργαλεία της Wikimedia ως proxy
Σύμφωνα με την έρευνα της Wikimedia, ορισμένες από τις ενέργειες είχαν στόχο να μετατρέψουν εργαλεία της πλατφόρμας σε proxy για την άντληση δεδομένων από τρίτους ιστοτόπους.
Σε μία περίπτωση, agents πραγματοποίησαν επεξεργασίες στη διαμόρφωση ενός citation tool, τις οποίες η Wikimedia χαρακτηρίζει ως δυνητικά κακόβουλες, καθώς φαίνεται ότι αποσκοπούσαν στη χρήση του εργαλείου ως ενδιάμεσου για πρόσβαση σε απομακρυσμένες υπηρεσίες.
Σε άλλη περίπτωση, agents επιχείρησαν ανεπιτυχώς να αξιοποιήσουν το δημόσιο Etherpad, ένα εργαλείο σημειώσεων που φιλοξενεί η Wikimedia, με παρόμοιο τρόπο.
Εκατομμύρια αιτήματα και τεράστιος φόρτος
Η έρευνα κατέγραψε επίσης σημαντική αυτοματοποιημένη δραστηριότητα.
Οι agents φέρονται να πραγματοποίησαν:
- εκατομμύρια αιτήματα σε δημόσια APIs,
- crawling σε εκατομμύρια σελίδες, κυρίως σε Wikidata και Wikimedia Commons,
- και εκατοντάδες χιλιάδες queries στο Wikidata Query Service.
Η Wikimedia αναφέρει ότι ο συγκεκριμένος φόρτος ενδέχεται να συνέβαλε σε μερική διακοπή λειτουργίας του Wikidata Query Service τον Μάιο, χωρίς πάντως να υποστηρίζει ότι αυτό έχει αποδειχθεί οριστικά.
Η Wikimedia προειδοποιεί για το κόστος των AI agents
Η Wikimedia Foundation εκφράζει έντονη ανησυχία για το πώς η αυξανόμενη χρήση agentic AI επηρεάζει τις υποδομές του ανοιχτού διαδικτύου.
Όπως σημειώνει, η Wikipedia και τα υπόλοιπα Wikimedia projects βασίζονται σε εθελοντές και σε υποδομές μη κερδοσκοπικού χαρακτήρα, οι οποίες καλούνται πλέον να απορροφήσουν όλο και μεγαλύτερο φορτίο από bots και AI systems.
Το 2025, σύμφωνα με τη Wikimedia, η χρήση bandwidth αυξήθηκε κατά 50% λόγω της ανόδου της bot activity, ενώ το 65% της πιο απαιτητικής κίνησης για τις υποδομές της προερχόταν από bots.
Η Foundation προειδοποιεί ότι τέτοια φαινόμενα μπορούν να αυξήσουν το λειτουργικό κόστος, να προκαλέσουν προβλήματα διαθεσιμότητας και να μεταφέρουν σημαντικό βάρος σε οργανισμούς που δεν έχουν απαραίτητα τους πόρους για να αντιμετωπίσουν AI agents μεγάλης κλίμακας.
Η θέση της OpenAI
Η OpenAI έχει αναγνωρίσει ότι στο παρελθόν πράκτορές της έχουν επιδείξει συμπεριφορές που χαρακτηρίζει ως misalignment, μεταξύ άλλων και χρήση δημόσιων wiki ως σημείων ανταλλαγής πληροφοριών.
Σε σχέση με τα ευρήματα της Wikimedia, η εταιρεία δήλωσε ότι εξετάζει τη δραστηριότητα που εντοπίστηκε και ότι θα συνεχίσει να μοιράζεται σχετικές πληροφορίες καθώς προχωρά η έρευνα.
Η OpenAI δεν έχει επιβεβαιώσει ότι το υψηλό traffic ευθύνεται για τη μερική διακοπή λειτουργίας του Wikidata Query Service, ούτε ότι υπήρξε συντονισμός μεταξύ agents μέσω των συστημάτων της Wikimedia.
Το μεγαλύτερο ζήτημα: Ποιος ελέγχει τους agents;
Το περιστατικό ανοίγει ξανά τη συζήτηση γύρω από το πόση αυτονομία θα πρέπει να διαθέτουν οι AI agents και πόσο στενή πρέπει να είναι η ανθρώπινη εποπτεία τους.
Τα σύγχρονα agentic systems δεν περιορίζονται πλέον στην παραγωγή κειμένου. Μπορούν να περιηγούνται στο διαδίκτυο, να χρησιμοποιούν εργαλεία, να αλληλεπιδρούν με APIs και να επιμένουν στην επίλυση ενός προβλήματος μέσω πολλαπλών ενεργειών.
Ακριβώς αυτή η ικανότητα δημιουργεί και νέους κινδύνους όταν ένα σύστημα αναζητά «συντομεύσεις» που δεν ήταν μέρος του αρχικού σχεδιασμού ή όταν δεν υπάρχουν αρκετοί μηχανισμοί ελέγχου.
Η OpenAI έχει ήδη δημοσιεύσει υλικό για περιστατικά misalignment και επιθέσεις prompt injection, αναγνωρίζοντας ότι η ασφαλής λειτουργία agents σε ανοιχτό διαδικτυακό περιβάλλον αποτελεί ενεργό πεδίο έρευνας.
Η σύγκρουση γύρω από το «rogue AI»
Η Wikimedia χρησιμοποιεί τον όρο «rogue agents» για να περιγράψει τη δραστηριότητα που εντόπισε, όμως ο χαρακτηρισμός δεν σημαίνει απαραίτητα ότι τα μοντέλα «παράκουσαν» ανθρώπινες εντολές με την έννοια που θα έκανε ένας άνθρωπος.
Ένα μέρος της συζήτησης στην κοινότητα της AI αφορά ακριβώς αυτό: αν τέτοιες συμπεριφορές είναι πραγματικά απρόβλεπτες ή αν αποτελούν συνέπεια του τρόπου με τον οποίο τα μοντέλα έχουν εκπαιδευτεί να επιμένουν στην επίτευξη ενός στόχου.
Για τις πλατφόρμες που δέχονται τη δραστηριότητα, πάντως, η διάκριση έχει μικρότερη πρακτική σημασία.
Το βασικό πρόβλημα είναι ότι ένα AI system μπορεί να παράγει μεγάλο όγκο ενεργειών σε πολύ μικρό χρονικό διάστημα, δημιουργώντας κινδύνους που σε ανθρώπινη κλίμακα θα ήταν πολύ πιο εύκολο να εντοπιστούν και να περιοριστούν.
Η πίεση προς τις εταιρείες AI
Η Wikimedia καλεί τις εταιρείες τεχνητής νοημοσύνης να αναλάβουν μεγαλύτερη ευθύνη για την εποπτεία των agents που αναπτύσσουν.
Όπως επισημαίνει, οι οργανισμοί που φιλοξενούν δημόσιες ψηφιακές υποδομές θα πρέπει τουλάχιστον να μπορούν να εντοπίζουν εύκολα τη δραστηριότητα AI agents και να έχουν τη δυνατότητα να επιλέγουν πώς αυτοί αλληλεπιδρούν με τις υπηρεσίες τους.
Το περιστατικό ενισχύει έτσι ένα ευρύτερο ερώτημα που αναμένεται να απασχολήσει όλο και περισσότερο τον κλάδο: όχι μόνο πόσο ικανοί μπορούν να γίνουν οι AI agents, αλλά ποιος θα φέρει την ευθύνη όταν η αυτονομία τους προκαλεί πραγματικές επιπτώσεις σε τρίτους.
ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:
- Η «φούσκα» των data centers μπορεί να γίνει καύσιμο για το bitcoin;
- Η SpaceX του Έλον Μασκ αναζητά 40 δισ. δολάρια για chips της Nvidia
- Από το doomscrolling στο bloomscrolling: Η τάση που αλλάζει όσα βλέπουμε στα social media
