Η συζήτηση των Τζείμι Ντάιμον και Ντάριο Αμοντέι για την τεχνητή νοημοσύνη και τις κυβερνοεπιθέσεις άφησε περισσότερα ερωτήματα παρά απαντήσεις, εντείνοντας τις ανησυχίες γύρω από τους κινδύνους των νέων AI μοντέλων.
Του Nick Lichtenberg
Ο Άντριου Ρος Σόρκιν δεν έχασε χρόνο να θέσει το ερώτημα που απασχολεί πολλούς ανθρώπους, όταν ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, εμφανίστηκε προχθές επί σκηνής στο Μανχάταν με τον Τζέιμι Ντάιμον, CEO της JPMorgan και συνεργάτη της Anthropic. «Είναι δικαιολογημένος ο πανικός γύρω από τις κυβερνοεπιθέσεις που ενισχύονται από την τεχνητή νοημοσύνη;» ρώτησε ο παρουσιαστής του CNBC και βετεράνος δημοσιογράφος οικονομικών των New York Times.
Ακολούθησε παύση. Το κοινό γέλασε αμήχανα. Ο Αμοντέι κοίταξε τον Ντάιμον, ο οποίος έκανε αυτό που κάνουν οι ισχυροί άνθρωποι όταν η ειλικρινής απάντηση είναι άβολη: Άρχισε να μιλάει γι’ αυτό, εκτενώς, με αυτοπεποίθηση, χωρίς όμως να απαντά ευθέως.
«Ο κυβερνοχώρος είναι ο μεγαλύτερος κίνδυνος», είπε ο Ντάιμον. «Είναι ο μεγαλύτερος κίνδυνος που αντιμετωπίζουμε εδώ και χρόνια». Ο Ντάιμον θυμήθηκε ότι είχε προειδοποιήσει εδώ και καιρό ότι ο κυβερνοχώρος θα επιδεινωθεί από το ΑΙ, πριν αναφερθεί στο μοντέλο Mythos της Anthropic, το οποίο η ίδια η εταιρεία θεωρεί πολύ επικίνδυνο για ευρεία διάθεση.
Αυτό μπορεί να εκληφθεί ως «ναι». Αλλά ο Νταίμον μετατόπισε γρήγορα τη συζήτηση σε λύσεις, χρονοδιαγράμματα και διαβεβαιώσεις σχετικά με την ετοιμότητα του χρηματοπιστωτικού τομέα. Ο Amodei, από την πλευρά του, χαρακτήρισε τις απειλές «απολύτως πραγματικές», για να αφιερώσει στη συνέχεια αρκετά λεπτά εξηγώντας γιατί, εφόσον υπάρξει σωστή αντίδραση, τα πράγματα θα μπορούσαν στην πραγματικότητα να καταλήξουν καλύτερα από πριν. Κανένας από τους δύο δεν είπε ότι ο πανικός είναι αδικαιολόγητος. Και αυτό από μόνο του ήταν ανησυχητικό.
Η ανταλλαγή σχολίων ήρθε εβδομάδες μετά την έκτακτη σύσκεψη που συγκάλεσαν ο Υπουργός Οικονομικών Σκοτ Μπέσεντ και ο πρόεδρος της Ομοσπονδιακής Τράπεζας Τζερόμ Πάουελ με κορυφαίους CEO της Wall Street με αντικείμενο τους συστημικούς κινδύνους που ενδέχεται να δημιουργήσει το Mythos. Και αυτό συνέβη ενώ η Anthropic βρίσκεται σε ανοικτή νομική αντιπαράθεση με το Πεντάγωνο μετά την απόφαση της κυβέρνησης Τραμπ να χαρακτηρίσει την εταιρεία «κίνδυνο για την εφοδιαστική αλυσίδα» εξαιτίας της άρνησής της να επιτρέψει στον στρατό να χρησιμοποιήσει την τεχνολογία της για «οποιονδήποτε νόμιμο σκοπό». Έτσι ολοκληρώθηκε μια σειρά από φρενήρεις ημέρες ανακοινώσεων από την Anthropic σχετικά με τη Wall Street, η οποία βλέπει τον χρηματοπιστωτικό τομέα ως βασικό πελάτη και στρατηγικό κανάλι πώλησης των ΑΙ μοντέλων της στον επιχειρηματικό κόσμο.
Στη σκηνή, πάντως, Ντάιμον και Αμοντέι κάθισαν δίπλα-δίπλα στην πρώτη τους κοινή εμφάνιση, δείχνοντας ήρεμοι. Αλλά τα γεγονότα που αποκάλυψαν έλεγαν μια διαφορετική ιστορία για μια πολύ ρευστή κατάσταση.
Η ουσία της συζήτησης ήταν, κατά κάποιο τρόπο, πιο ανησυχητική από μια απλή καταφατική απάντηση. Ο Αμοντέι παρουσίασε ένα λεπτομερές και ταχύτατα κλιμακούμενο χρονοδιάγραμμα απειλών που συνδέεται με το πιο προηγμένο μοντέλο της Anthropic. Όπως αποκάλυψε, πριν από έξι μήνες η Anthropic εντόπισε τις πρώτες προσπάθειες κινεζικών κρατικών φορέων να πραγματοποιήσουν κυβερνοεπιθέσεις σε αμερικανικές εταιρείες τεχνολογίας χρησιμοποιώντας το Claude, τον ΑΙ βοηθό της Anthropic. Τρεις μήνες αργότερα, ένα προηγούμενο μοντέλο της εταιρείας κατάφερε να εντοπίσει περίπου 20 ευπάθειες στον Firefox.
«Σήμερα, με το Mythos, έχουμε εντοπίσει σχεδόν 300 ευπάθειες στον Firefox και χιλιάδες, πιθανώς μέχρι τώρα δεκάδες χιλιάδες, πίσω από κλειστές πόρτες», δήλωσε.
Ο Αμοντέι σημείωσε ότι η Anthropic έχει αποστείλει εκπρόσωπο στο Κογκρέσο για να καταθέσει σχετικά με τους κλιμακούμενους κυβερνο-κινδύνους που προκάλεσαν τα ολοένα και πιο προηγμένα μοντέλα τεχνητής νοημοσύνης πριν έξι μήνες, ενώ παράλληλα αποκαλύπτει ορισμένες από τις ευπάθειες που ανακάλυπτε, συμπεριλαμβανομένης της περίπτωσης του Firefox.
«Πιστεύω λοιπόν ότι οι κίνδυνοι είναι απολύτως πραγματικοί», υπογράμμισε ο Αμοντέι.
Ο CEO της Anthropic είπε ότι «θα μαντέψει» ότι τα άλλα εργαστήρια AI βρίσκονται περίπου ένα έως τρεις μήνες πίσω, ενώ τα κινεζικά μοντέλα υπολογίζεται ότι υστερούν κατά «έξι έως δώδεκα μήνες». (Αν και η OpenAI έχει κυκλοφορήσει ένα μοντέλο, το GPT-5.5, το οποίο σύμφωνα με δοκιμές της κυβέρνησης του Ηνωμένου Βασιλείου, πλησίασε σχεδόν τις επιδόσεις του Mythos στην προσομοίωση μιας πλήρους κυβερνοεπίθεσης). Αυτό σημαίνει ότι έχουμε αυτό το εξαιρετικά περιορισμένο χρονικό διάστημα για να διορθώσουμε όλα αυτά τα τρωτά σημεία, είπε, και υπάρχουν πολλά από αυτά.
«Έχουμε εντοπίσει αυτές τις δεκάδες χιλιάδες ευπάθειες», είπε. «Ο λόγος που δεν έχουμε ανακοινώσει περισσότερες είναι, φυσικά, ότι μόνο ένα μικρό μέρος τους έχει διορθωθεί». Αυτός είναι ο σαφής ορισμός μιας κατάστασης που προκαλεί πανικό.
Ρύθμιση χωρίς μοντέλο FDA
Ο Αμοντέι επέλεξε να μην πει τη λέξη «πανικό», αλλά υπαινίχθηκε ότι υπάρχει ένας αγώνας δρόμου με τον χρόνο για να διορθωθούν τα τρωτά σημεία που αποκαλύπτουν το Mythos και άλλα προηγμένα μοντέλα ΑΙ. Ο Ντάιμον συμφώνησε ότι τα ίδια τα patches πρέπει να γίνουν πιο γρήγορα από ποτέ. «Παλιότερα, έβγαζες ένα patch, οι άνθρωποι είχαν μία ή δύο εβδομάδες για να το διορθώσουν», είπε. «Τώρα πρέπει να γίνεται σε λίγα λεπτά».
Και τα δύο στελέχη ρωτήθηκαν για ένα πιθανό καθεστώς αδειοδότησης τύπου FDA για τα νέα μοντέλα ΑΙ. Ο Amodei εκφράστηκε με σκεπτικισμό. «Ο FDA έχει επιβραδύνει πολύ την ιατρική καινοτομία», είπε. «Αυτό θα έπρεπε να λειτουργεί ως προειδοποίηση».
Πρότεινε ένα μοντέλο πιο κοντά σε αυτό της αυτοκινητοβιομηχανίας, όπου η καινοτομία επιτρέπεται αλλά με αυστηρά πρότυπα ασφαλείας, υποστηρίζοντας έμμεσα ότι η τεχνητή νοημοσύνη θα χρειαστεί τις δικές της ζώνες ασφαλείας, crash tests, φανάρια και τα συναφή.
Ο Ντάιμον, με την εμπειρία δεκαετιών απέναντι στις ρυθμιστικές αρχές, ήταν χαρακτηριστικά ευθύς σχετικά με την υπερβολική κυβερνητική επιρροή: «Μπορούν να μας βοηθήσουν αν σταματήσουν να μας επιβαρύνουν με οκτώ διαφορετικές ρυθμιστικές αρχές που κάνουν τις ίδιες καταραμένες ερωτήσεις κάθε μέρα».
Αυτό που ζητούν και οι δύο, ουσιαστικά, είναι ένα προβλέψιμο πλαίσιο κανόνων, μια συνεπή δηλαδή, απλοποιημένη διαδικασία που θα εφαρμόζεται οριζόντια σε όλες τις εταιρείες, θα επιτρέπει τη συνέχιση των εμπορικών δημοσιεύσεων σε μηνιαία βάση και θα στοχεύει μόνο στους πιο σοβαρούς κινδύνους. Αυτό που έχουν τώρα, είπε ο Αμοντέι, είναι «μια κάπως ad hoc διαδικασία, κάτι που σχεδόν μιμείται τη ρύθμιση αλλά στερείται συνέπειας».
Η μεγαλύτερη υπεκφυγή
Η συζήτηση περί κυβερνοασφάλειας ήταν μια προεπισκόπηση ενός μοτίβου που διατηρήθηκε σε όλη τη διάρκεια της συζήτησης. Ερωτηθέντες για το ενδεχόμενο η τεχνητή νοημοσύνη να οδηγήσει σε ανεργία της τάξης του 20%-30% όπως έχουν προβλέψει ορισμένοι οικονομολόγοι, και οι δύο εμφανίστηκαν αισθητά πιο επιφυλακτικοί από ό,τι ο ίδιος ο Αμοντέι το 2025, όταν είπε ότι οι μισές από όλες τις θέσεις εργασίας γραφείου για τους νεοεισερχόμενους θα μπορούσαν να εξαφανιστούν.
«Κάθε φορά που κάτι τέτοιο κυκλοφορεί στο Twitter, απομονώνουν το σημείο όπου λες το πιο ακραίο πράγμα», σχολίασε ο Αμοντέι.
Ο Ντάιμον ήταν πιο αισιόδοξος επικαλούμενος ιστορικό προηγούμενο, από τη γεωργία μέχρι το διαδίκτυο, ωστόσο άφησε και μια κρίσιμη παραδοχή που υπονόμευε την καθησυχαστική του στάση: «Η άποψή μου για τη ζωή είναι ότι κανείς δεν γνωρίζει πραγματικά πόσο γρήγορα θα περάσει».
Για δύο από τις πιο σημαντικές προσωπικότητες στο σταυροδρόμι τεχνητής νοημοσύνης και παγκόσμιων χρηματοοικονομικών αγορών, ίσως αυτό είναι το πιο ειλικρινές πράγμα που ειπώθηκε καθ’ όλη τη διάρκεια της βραδιάς.
ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:
- Mythos και κυβερνοασφάλεια: Η απειλή της Τεχνητής Νοημοσύνης δεν έρχεται, είναι ήδη εδώ
- SpaceX: «Βροχή» αγωγών για το Starship – Στο στόχαστρο οι ζημιές σε κατοικίες
- Το «μάθημα» της δίκης OpenAI: Γιατί κανένα επαγγελματικό μήνυμα δεν είναι πραγματικά ιδιωτικό