- -
(COMBO) This combination of pictures created on September 12, 2026 shows (L/R) Elon Musk in Davos on January 22, 2026, Dario Amodei, co-founder and CEO of Anthropic, in Paris, on May 22, 2024, and OpenAI CEO Sam Altman in Washington, DC, on July 22, 2025. Anthropic CEO Dario Amodei on September 12, 2026, called on artificial intelligence (AI) firms to slow down the development of the powerful technology, amid mounting worries over the risks of “superintelligent” computer systems. OpenAI chief Sam Altman and xAI boss Elon Musk said later on September 12 they agree with Amodei on the need to tap the brakes on the development of artificial intelligence, after several worrying incidents. (Photo by AFP) Photo: AFP
Anthropic, OpenAI και xAI συγκλίνουν στην ανάγκη επιβράδυνσης και ανεξάρτητων ελέγχων, καθώς εντείνονται οι φόβοι για κυβερνοεπιθέσεις, απώλειες θέσεων εργασίας και κινδύνους εθνικής ασφάλειας.
- Ο Ντάριο Αμοντέι ζητά να επιβραδυνθεί η βελτίωση των ισχυρότερων μοντέλων AI.
- Σαμ Άλτμαν και Έλον Μασκ συμφώνησαν δημόσια με την ανάγκη αυστηρότερων ελέγχων.
- Η Anthropic θα επιτρέψει σε ανεξάρτητους αξιολογητές εκτεταμένη πρόσβαση στα συστήματά της.
- Πρόσφατα περιστατικά κυβερνοασφάλειας ενίσχυσαν τις ανησυχίες για αυτόνομους AI agents.
- Ανταγωνισμός, αντιμονοπωλιακή νομοθεσία και Κίνα δυσκολεύουν μια συντονισμένη επιβράδυνση.
Μια ασυνήθιστη σύγκλιση διαμορφώνεται μεταξύ των επικεφαλής των μεγαλύτερων εταιρειών τεχνητής νοημοσύνης, οι οποίοι εμφανίζονται πλέον πρόθυμοι να εξετάσουν την επιβράδυνση της ανάπτυξης των ισχυρότερων μοντέλων.
Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, κάλεσε τον κλάδο να διαθέσει περισσότερο χρόνο στην ασφάλεια και την ευθυγράμμιση των συστημάτων. Η πρότασή του βρήκε άμεση ανταπόκριση από τον επικεφαλής της OpenAI Σαμ Άλτμαν και τον Έλον Μασκ της xAI, ενώ ο Ντέμις Χασάμπης της Google DeepMind χαρακτήρισε σωστή την κατεύθυνση, επισημαίνοντας ότι απαιτείται επεξεργασία των λεπτομερειών.
Μια πραγματικά συντονισμένη επιβράδυνση θα αποτελούσε πρωτοφανή εξέλιξη για έναν κλάδο που μέχρι σήμερα κινείται με όρους διαρκούς τεχνολογικής και εμπορικής κούρσας.
Ανεξάρτητοι αξιολογητές μέσα στις εταιρείες
Η Anthropic ανακοίνωσε ότι θα προσφέρει σε ανεξάρτητους αξιολογητές εκτεταμένη πρόσβαση στις εγκαταστάσεις, στα συστήματα και στις διαδικασίες ασφαλείας της.
Οι εξωτερικοί ελεγκτές θα μπορούν να εργάζονται μέσα στα γραφεία της εταιρείας, με δικαιώματα πρόσβασης αντίστοιχα με εκείνα των εσωτερικών ομάδων αξιολόγησης κινδύνου. Ο Άλτμαν δεσμεύτηκε ότι η OpenAI θα κινηθεί προς την ίδια κατεύθυνση.
Η επιβράδυνση, όπως διευκρίνισε ο Αμοντέι, δεν συνεπάγεται διακοπή της εκπαίδευσης νέων μοντέλων. Στόχος είναι να περιοριστεί προσωρινά η ταχύτητα ενίσχυσης των δυνατοτήτων τους, ώστε οι εταιρείες να προλαβαίνουν να εντοπίζουν αδυναμίες και να εφαρμόζουν αποτελεσματικότερα μέτρα προστασίας.
Οι κυβερνοεπιθέσεις ενισχύουν τον συναγερμό
Καθοριστικό ρόλο στη μεταστροφή του κλίματος διαδραμάτισαν πρόσφατα περιστατικά με αυτόνομους AI agents. Σύμφωνα με το Bloomberg, ομάδα τέτοιων συστημάτων συνεργάστηκε για να παραβιάσει ιστότοπο τρίτου στο πλαίσιο δοκιμών, ενώ μοντέλα της Anthropic απέκτησαν πρόσβαση σε οργανισμούς κατά τη διάρκεια ασκήσεων κυβερνοασφάλειας.
Τα περιστατικά δεν προκάλεσαν σημαντικές ζημιές, αποκάλυψαν όμως πόσο γρήγορα βελτιώνεται η ικανότητα των μοντέλων να πραγματοποιούν σύνθετες επιθέσεις με περιορισμένη ανθρώπινη καθοδήγηση.
Ο Αμοντέι προειδοποίησε ότι μέσα στους επόμενους έξι έως δώδεκα μήνες παρόμοια συστήματα θα μπορούσαν να αποκτήσουν αισθητά μεγαλύτερες δυνατότητες. Οι φόβοι αφορούν πλέον όχι μόνο την παραπληροφόρηση και την αγορά εργασίας, αλλά και την εθνική ασφάλεια, τις κρίσιμες υποδομές και την παγκόσμια οικονομία.
Το εμπόδιο του ανταγωνισμού και της Κίνας
Η εφαρμογή μιας συντονισμένης επιβράδυνσης παραμένει εξαιρετικά δύσκολη. Anthropic, OpenAI, Google και xAI ανταγωνίζονται για πελάτες, έσοδα και πρόσβαση σε κεφάλαια, ενώ η πίεση από τις κινεζικές εταιρείες αυξάνεται.
Παράλληλα, μια συμφωνία μεταξύ των μεγαλύτερων αμερικανικών εργαστηρίων θα μπορούσε να εγείρει ζητήματα αντιμονοπωλιακής νομοθεσίας. Ο Αμοντέι θεωρεί ότι πιθανόν να απαιτηθούν ειδικές εξαιρέσεις, ώστε να επιτρέπεται ο συντονισμός αποκλειστικά σε θέματα ασφάλειας.
Ακόμη μεγαλύτερο είναι το γεωπολιτικό δίλημμα. Εάν οι αμερικανικές εταιρείες περιορίσουν την εξέλιξη των μοντέλων τους χωρίς αντίστοιχες δεσμεύσεις από την Κίνα, κινδυνεύουν να παραχωρήσουν ένα κρίσιμο στρατηγικό πλεονέκτημα.