Ένας ανώτερος ερευνητής της Anthropic δήλωσε την Τρίτη ότι πολλοί στην εταιρεία πιστεύουν ότι η τεχνητή νοημοσύνη θα μπορούσε να εξαλείψει την ανθρωπότητα και προειδοποίησε ότι η εταιρεία δεν βρίσκεται σε καλό δρόμο για να επιλύσει το ζήτημα της ευθυγράμμισης των στόχων της τεχνητής νοημοσύνης με αυτούς της ανθρωπότητας, παρά τις προσπάθειές της. Είχε προηγηθεί η παραίτηση ενός άλλου ερευνητή από την εταιρεία, ο οποίος την κατηγόρησε ότι δεν ενεργεί υπεύθυνα.
Ο Evan Hubinger, επικεφαλής της επιστήμης της ευθυγράμμισης στην Anthropic, έγραψε στο X ότι αυτός και οι συνάδελφοί του «πιστεύουν ειλικρινά ότι η τεχνητή νοημοσύνη θα μπορούσε να εξοντώσει όλους τους ανθρώπους», και εκτίμησε ότι η πιθανότητα αυτή υπερβαίνει το 10% την επόμενη δεκαετία.
Ο Hubinger δήλωσε ότι η εταιρεία «καταβάλλει κάθε δυνατή προσπάθεια», αλλά δεν διαθέτει ακόμη σχέδιο για την επίλυση του ζητήματος της «ευθυγράμμισης για την υπερνοημοσύνη και δεν βρίσκεται σαφώς σε καλό δρόμο» προς αυτή την κατεύθυνση.
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
— Evan Hubinger (@EvanHub) September 9, 2026
Η ανάρτηση του Hubinger αποτελούσε απάντηση σε ένα νήμα στο X από έναν άλλο ερευνητή της Anthropic, τον Jacob Coxon, ο οποίος ανακοίνωσε ότι παραιτείται από την εταιρεία λόγω ανησυχιών σχετικά με την ασφάλεια της τεχνητής νοημοσύνης, σημειώνει το Forbes.
Ο Coxon, ο οποίος ανέφερε ότι έχει εργαστεί σε έρευνα σχετικά με την προ-εκπαίδευση στην OpenAI και την Anthropic, προειδοποίησε ότι οι ανταγωνιστικές εταιρείες δεν ενεργούν υπεύθυνα, καθώς «σπεύδουν κατευθείαν προς την αυτοβελτιούμενη υπερνοημοσύνη και παίζουν με τις ζωές μας».
Ο ερευνητής που αποχωρεί σημείωσε ότι όσοι αναπτύσσουν την τεχνητή νοημοσύνη πιστεύουν ότι αυτή θα μπορούσε να «μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας», και ότι αυτό δεν αποτελεί «διαφημιστικό τέχνασμα».
Do not underestimate the power of this technology. These will soon be superhuman systems that can hack anything, revolutionize any field overnight, and acquire real power and resources. We have all witnessed the progress in each of these domains, and progress is not slowing.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Σε μια ανάρτηση που ακολούθησε την αυστηρή προειδοποίησή του, ο Hubinger επικαλέστηκε την τελευταία έκθεση κινδύνου της Anthropic και δήλωσε ότι η απειλή που ενέχουν τα σημερινά μοντέλα είναι χαμηλή, προσθέτοντας: «Αυτό που με ανησυχεί είναι η υπερνοημοσύνη που προκύπτει από την αναδρομική αυτοβελτίωση, η οποία, όπως έχουμε πει, εξελίσσεται ταχύτερα από ό,τι πιστεύαμε».
Τι γνωρίζουμε για την παραίτηση του ερευνητή της Anthropic;
Η εφημερίδα «The Wall Street Journal» ήταν η πρώτη που ανέφερε την αποχώρηση του Coxon από την Anthropic, λόγω ανησυχιών σχετικά με την προσπάθεια ανάπτυξης συστημάτων τεχνητής νοημοσύνης που αυτοβελτιώνονται και θα μπορούσαν να απειλήσουν την ανθρωπότητα. Ο Coxon δήλωσε στην εφημερίδα ότι πιστεύει ότι ο κόσμος οδεύει προς «πολλά από τα πιο επιθετικά από αυτά τα σενάρια, όπου μέχρι το τέλος του επόμενου έτους η κατάσταση θα μπορούσε να έχει ήδη ξεφύγει από τον έλεγχο».
Στις αναρτήσεις του στο X, ο Coxon συνέκρινε την εργασία στην OpenAI με αυτή στην Anthropic, επισημαίνοντας ότι το προσωπικό της εταιρείας που δημιούργησε το ChatGPT δεν έχει «εσωτερικεύσει βαθιά τα διακυβεύματα για τον πολιτισμό». Ανέφερε ότι τα διακυβεύματα αυτά «γίνονται πλήρως κατανοητά» στην Anthropic, αλλά η εταιρεία «έχει εγκλωβιστεί σε έναν αγώνα για να φτάσει πρώτη στον στόχο», καθώς πιστεύει ότι «κανείς άλλος δεν θα ενεργήσει υπεύθυνα, οπότε πρέπει να το κάνουν οι ίδιοι, παρά τον κίνδυνο».
Η σοβαρή προειδοποίηση και η παραίτηση έρχονται με φόντο την πίεση που ασκούν ορισμένοι κορυφαίοι ερευνητές και στελέχη στον τομέα της τεχνητής νοημοσύνης για επιβράδυνση της ανάπτυξης της προηγμένης τεχνητής νοημοσύνης. Μια δήλωση υπογράφηκε τον Ιούλιο από αρκετές κορυφαίες προσωπικότητες του χώρου της τεχνητής νοημοσύνης, μεταξύ των οποίων οι συνιδρυτές της Anthropic, Dario Amodei και Jared Kaplan, ο επικεφαλής επιστήμονας της OpenAI, Jakub Pachocki, ο επικεφαλής επιστήμονας της Meta AI, Shengjia Zhao, και άλλοι. Στη δήλωση αναφερόταν ότι, για να «αξιοποιηθεί το δυναμικό της τεχνητής νοημοσύνης, η βιομηχανία, η κυβέρνηση και η κοινωνία στο σύνολό της ενδέχεται να χρειαστούν τη δυνατότητα να κερδίσουν χρόνο για να αντιμετωπίσουν τους αναδυόμενους κινδύνους, να αναπτύξουν μέτρα ασφαλείας και να ενισχύσουν την εποπτεία», αλλά προειδοποιούσε ότι οι εταιρείες αντιμετωπίζουν έντονη ανταγωνιστική πίεση για να το πράξουν μονομερώς. Η δήλωση καλούσε την κυβέρνηση των ΗΠΑ να υποστηρίξει μια «διεθνή προσπάθεια για την ανάπτυξη των τεχνικών και διαχειριστικών εργαλείων που απαιτούνται για τον ελεγχόμενο ρυθμό προώθησης των ορίων της ανάπτυξης της αυτοματοποιημένης τεχνητής νοημοσύνης». Σε μια ανάρτηση σε μπλογκ την Κυριακή, ο Pachocki επανέλαβε αυτές τις προειδοποιήσεις, σημειώνοντας ότι πιστεύει ότι «κανένα εργαστήριο δεν έχει επιλύσει τα ζητήματα της ευθυγράμμισης και της παρακολούθησης σε επαρκή βαθμό, ώστε να συνεχίσει να επεκτείνεται υπεύθυνα με τη μέγιστη ταχύτητα για πολύ περισσότερο χρόνο».