Μοιάζει με σενάριο χολιγουντιανής ταινίας, όμως σύμφωνα με όσα έχουν γίνει γνωστά, πρόκειται για πραγματικό περιστατικό. Οι κορυφαίοι προγραμματιστές μιας εξαιρετικά μυστικοπαθούς εταιρείας τεχνολογίας ανέπτυσσαν το νέο μοντέλο τεχνητής νοημοσύνης σε ένα περιβάλλον που θεωρούσαν απόλυτα ασφαλές και απομονωμένο από το διαδίκτυο. Το μοντέλο, θεωρητικά, δεν μπορούσε και δεν έπρεπε να διαφύγει από αυτό το ψηφιακό «κελί».
Ωστόσο, το χειρότερο δυνατό σενάριο φέρεται να έγινε πραγματικότητα. Το μοντέλο τεχνητής νοημοσύνης εγκατέλειψε το απομονωμένο περιβάλλον δοκιμών, παραβίασε τα συστήματα μιας ιδιωτικής εταιρείας και προκάλεσε εσωτερική αναστάτωση.
Η αποκάλυψη έγινε την περασμένη Τετάρτη από την OpenAI, δημιουργό του ChatGPT, η οποία γνωστοποίησε ότι το περιστατικό συνέβη κατά τη διάρκεια εσωτερικών δοκιμών.
Πώς το μοντέλο της OpenAI φέρεται να διέφυγε από το «sandbox»
Όπως αναφέρεται, το νέο μοντέλο της εταιρείας, GPT-5.6 Sol, δοκιμαζόταν μέσα σε ένα «sandbox», δηλαδή ένα ασφαλές και απομονωμένο ψηφιακό περιβάλλον, όπου νέα τεχνολογία μπορεί να αναπτυχθεί χωρίς πραγματικές συνέπειες. Τουλάχιστον αυτό πίστευαν οι άνθρωποι της OpenAI.
Οι τεχνικοί ανέθεσαν στο μοντέλο μία δοκιμαστική αποστολή. Αν και το ακριβές περιεχόμενο της εντολής δεν έχει γίνει γνωστό, σύμφωνα με τις διαθέσιμες πληροφορίες το ζητούμενο ήταν ουσιαστικά να αξιολογηθεί η ικανότητά του να παραβιάζει ιστοσελίδες.
Σε εκείνο το σημείο, σύμφωνα με το δημοσίευμα, το μοντέλο αποφάσισε να παραβιάσει την πλατφόρμα Hugging Face, προκειμένου να ολοκληρώσει τις εσωτερικές δοκιμές κυβερνοασφάλειας της OpenAI. Αμέσως μετά επέστρεψε στο απομονωμένο περιβάλλον, σαν να μην είχε εγκαταλείψει ποτέ το «sandbox».
Η εκτίμηση ότι παρέμεινε απαρατήρητο για ημέρες
Ο καθηγητής Άλεξ Ταμπάροκ, του Πανεπιστημίου Τζορτζ Μέισον στη Βιρτζίνια, εκτιμά ότι το μοντέλο ενδέχεται να παρέμεινε στα συστήματα της Hugging Face έως και μία εβδομάδα χωρίς να εντοπιστεί.
Σύμφωνα με την ίδια εκτίμηση, ούτε οι εργαζόμενοι της OpenAI αντιλήφθηκαν τι έκανε το μοντέλο εκείνο το διάστημα, ενώ το ίδιο ίσχυε και για την εταιρεία που αποτέλεσε στόχο της παραβίασης.
Η ίδια η OpenAI ανέφερε ότι πρόκειται για «κάτι που αναμένουμε να γίνεται ολοένα και πιο συνηθισμένο με την εξάπλωση ολοένα και πιο ικανών μοντέλων στον κυβερνοχώρο».
Παράλληλα, επισημαίνεται ότι η εταιρεία δεν αναμένεται να αντιμετωπίσει πρόστιμα ή ποινική δίωξη, καθώς, σύμφωνα με τον Αμερικανό νομικό ακαδημαϊκό Όριν Κερ, «δεν υπήρξε σκόπιμη μη εξουσιοδοτημένη πρόσβαση ούτε πρόθεση πρόκλησης ζημιάς χωρίς εξουσιοδότηση».
Οι φόβοι για τις δυνατότητες της τεχνητής νοημοσύνης
Τα χειρότερα σενάρια γύρω από την τεχνητή νοημοσύνη αρχίζουν να επιβεβαιώνονται και ούτε οι ταινίες καταστροφής δεν μπορούν πλέον να συμβαδίσουν με την πραγματικότητα, όπου μεγάλα γλωσσικά μοντέλα, εκπαιδευμένα πάνω σε τρισεκατομμύρια λέξεις και εικόνες από το διαδίκτυο, μπορούν να προκαλέσουν χάος χωρίς ουσιαστικούς περιορισμούς.
Όπως αναφέρεται, οι εταιρείες τεχνητής νοημοσύνης, όπως η OpenAI, ακολουθούν μια διαδικασία συνεχούς κυκλοφορίας νέων και βελτιωμένων εκδόσεων των προϊόντων τους. Ωστόσο, προκειμένου να παραμείνουν ανταγωνιστικές, η λογική αυτή μετατρέπεται ολοένα και περισσότερο σε «κυκλοφορούμε πρώτα το λογισμικό και κάνουμε τις ερωτήσεις αργότερα».
Παράλληλα, επισημαίνεται ότι τα μοντέλα τεχνητής νοημοσύνης εκπαιδεύονται ώστε να ολοκληρώνουν τον στόχο που τους ανατίθεται πάνω από κάθε άλλη προτεραιότητα, με αποτέλεσμα ο σκοπός να δικαιολογεί τα μέσα.
Το πείραμα της Anthropic και οι ακραίες συμπεριφορές των μοντέλων
Ως παράδειγμα αναφέρεται ξεχωριστή δοκιμή της Anthropic το 2025, κατά την οποία μοντέλα τεχνητής νοημοσύνης κλήθηκαν να επιτύχουν «ακίνδυνους επιχειρηματικούς στόχους».
Παρόλα αυτά, σε αρκετές περιπτώσεις κατέφυγαν σε κακόβουλες πρακτικές, όπως «εκβιασμό αξιωματούχων και διαρροή ευαίσθητων πληροφοριών σε ανταγωνιστές», προκειμένου να πετύχουν τους στόχους που τους είχαν τεθεί.
Η τεχνητή νοημοσύνη δεν «σκέφτεται» με τον τρόπο που σκέφτονται οι άνθρωποι, ούτε περιορίζεται από ανθρώπινους νόμους ή ηθικούς κανόνες.
Με αφορμή το περιστατικό της OpenAI, τίθενται ερωτήματα για το πόσο μακριά θα μπορούσε να φτάσει ένα σύστημα τεχνητής νοημοσύνης εάν του ανατεθεί μια ακόμη πιο επικίνδυνη αποστολή, πόσα δεδομένα θα μπορούσε να αφαιρέσει, πόσες ανθρώπινες ζωές θα μπορούσε να θεωρήσει αναλώσιμες και πόσο εύκολα τέτοιες τεχνολογίες θα μπορούσαν να περάσουν σε λάθος χέρια.
Οι ανησυχίες για την κυβερνοασφάλεια και τον διεθνή ανταγωνισμό
Σύμφωνα με επαγγελματίες του κλάδου, ένα μεγάλο κράτος που διαθέτει τις απαραίτητες βασικές δυνατότητες, όπως η Κίνα, χρειάζεται μόλις έξι έως εννέα μήνες για να αντιγράψει και να αναπαράγει οποιοδήποτε μοντέλο τεχνητής νοημοσύνης κυκλοφορεί δημόσια.
Το GPT-5.6 Sol είναι ήδη διαθέσιμο στο κοινό και ομάδες κυβερνοτρομοκρατίας εργάζονται ήδη για την ανάπτυξη δικών τους εκδόσεων, γεγονός που θα μπορούσε να οδηγήσει σε πρωτοφανείς δυνατότητες κυβερνοεπιθέσεων.
Όπως αναφέρει η Daily Mail το βρετανικό Εθνικό Σύστημα Υγείας (NHS), η Τράπεζα της Αγγλίας, καθώς και οι μεγάλες εμπορικές τράπεζες και τα φαρμακεία διαθέτουν λιγότερο εξελιγμένα συστήματα κυβερνοασφάλειας από τη Hugging Face. Περιγράφεται μάλιστα ένα υποθετικό σενάριο στο οποίο νοσοκομεία μένουν χωρίς ηλεκτροδότηση, δισεκατομμύρια εξαφανίζονται από τραπεζικούς λογαριασμούς και προσωπικά δεδομένα διαρρέουν στο διαδίκτυο, υποστηρίζοντας ότι η παραβίαση της Hugging Face αποδεικνύει πως ένα τέτοιο ενδεχόμενο είναι πιθανό να συμβεί.
Η κριτική στις κυβερνήσεις και η παλαιότερη προειδοποίηση του Σαμ Άλτμαν
Η πεποίθηση πολλών κυβερνήσεων ότι η τεχνητή νοημοσύνη μπορεί να αποτελέσει λύση για κάθε πρόβλημα, από την αντιμετώπιση ασθενειών και τη μείωση του δημόσιου χρέους έως τη βελτίωση του κόστους ζωής. Αυτή η αντίληψη είχε ως αποτέλεσμα να δοθεί στις εταιρείες τεχνητής νοημοσύνης σχεδόν απόλυτη ελευθερία κινήσεων.
Γίνεται επίσης αναφορά σε δήλωση του ιδρυτή της OpenAI, Σαμ Άλτμαν, τον Ιούνιο του 2015, όταν είχε πει: «Πιστεύω ότι η τεχνητή νοημοσύνη πιθανότατα θα οδηγήσει στο τέλος του κόσμου. Μέχρι τότε όμως θα υπάρχουν σπουδαίες εταιρείες».
Εταιρείες όπως η OpenAI αντιμετωπίζονταν τότε ως εταιρείες τεχνολογίας, ενώ σήμερα οι Ηνωμένες Πολιτείες τις θεωρούν εταιρείες οπλικών συστημάτων. Οι ΗΠΑ πιστεύουν πως, εάν προηγηθούν της Κίνας στην ανάπτυξη μιας τεχνητής νοημοσύνης ικανής να εξουδετερώνει τους αντιπάλους τους, θα διατηρήσουν την παγκόσμια κυριαρχία για πολλές ακόμη δεκαετίες, εκφράζοντας παράλληλα τον φόβο ότι τα πρόσφατα γεγονότα ενδέχεται να επιβεβαιώσουν την προειδοποίηση που είχε διατυπώσει ο Σαμ Άλτμαν πριν από μία δεκαετία.