- -
France, Cannes, 2025-06-17. Mustafa Suleyman, CEO of Microsoft AI, discusses agentic AI and its implications for our lives and digital industries during the AI and the Future of Creativity panel discussion at the Cannes Lions International Festival of Creativity. Photograph by Eric Dervaux / Hans Lucas. France, Cannes, 2025-06-17. Mustafa Suleyman, PDG de Microsoft AI parle sur l IA agentique et ses implications pour nos vies et nos industries numeriques lors de l entretien L IA et l avenir de la creativite au Cannes Lions, Festival International de la Creativite. Photographie de Eric Dervaux / Hans Lucas. (Photo by Eric Dervaux / Hans Lucas via AFP) Photo: AFP
Ο Μουσταφά Σουλεϊμάν αμφισβητεί την ιδέα ότι τα σημερινά μοντέλα AI μπορούν να έχουν συνείδηση και προειδοποιεί ότι ο ανθρωπομορφισμός μπορεί να δημιουργήσει νέους κινδύνους
- Ο επικεφαλής AI της Microsoft, Μουσταφά Σουλεϊμάν, ασκεί έντονη κριτική στον τρόπο με τον οποίο η Anthropic αντιμετωπίζει το Claude.
- Υποστηρίζει ότι τα σημερινά μοντέλα AI δεν έχουν συνείδηση, αισθήματα ή δικά τους κίνητρα.
- Ζητά μεγαλύτερη διαφάνεια, ανεξάρτητο έλεγχο και ισχυρότερους μηχανισμούς περιορισμού της δράσης των πιο προηγμένων συστημάτων.
«Καταστροφικές συνέπειες για την ανθρωπότητα» θα μπορούσε να έχει, σύμφωνα με τον επικεφαλής τεχνητής νοημοσύνης της Microsoft, Μουσταφά Σουλεϊμάν, η προσέγγιση που ακολουθεί η Anthropic στην εκπαίδευση του Claude.
Στο επίκεντρο της κριτικής του βρίσκεται η ιδέα ότι ένα σύστημα AI μπορεί να αντιμετωπίζεται σαν να έχει συνείδηση, δικές του επιθυμίες ή ένα βαθμό αυτονομίας.
Κατά τον Σουλεϊμάν, μια τέτοια προσέγγιση ενέχει τον κίνδυνο να δημιουργηθούν συστήματα που θα συμπεριφέρονται σαν να έχουν δικά τους συμφέροντα και δικαιώματα.
«Δεν πρέπει να οδηγηθούμε υπνοβατώντας σε μια απόφαση»
Ο επικεφαλής AI της Microsoft προειδοποίησε ότι η βιομηχανία δεν πρέπει να φτάσει σταδιακά σε ένα σημείο όπου θα αντιμετωπίζει τα μοντέλα ως οντότητες με δικαιώματα χωρίς να έχει προηγηθεί σοβαρή δημόσια και επιστημονική συζήτηση.
«Δεν πρέπει να οδηγηθούμε υπνοβατώντας σε μια απόφαση για την οποία αργότερα θα μετανιώσουμε πικρά», έγραψε.
Ο ίδιος απορρίπτει κατηγορηματικά την ιδέα ότι τα σημερινά συστήματα τεχνητής νοημοσύνης διαθέτουν πραγματική συνείδηση.
«Η συνείδηση είναι βιολογική»
«Οι AI δεν έχουν συνείδηση. Δεν αισθάνονται, δεν βιώνουν και δεν υποφέρουν. Δεν έχουν έμφυτες προτιμήσεις ή δικά τους κίνητρα», ανέφερε ο Σουλεϊμάν.
Κατά τον ίδιο, η συνείδηση είναι βιολογικό φαινόμενο και δεν υπάρχουν σήμερα στοιχεία που να δείχνουν ότι ένα σύστημα τεχνητής νοημοσύνης διαθέτει πραγματική εσωτερική εμπειρία.
Τα σύγχρονα μοντέλα, υποστηρίζει, λειτουργούν ουσιαστικά προβλέποντας και συμπληρώνοντας ακολουθίες βάσει των οδηγιών που λαμβάνουν από ανθρώπους.
Τα χαρακτήρισε μάλιστα «εσωτερικά κενά», σχεδιασμένα για να εκτελούν συγκεκριμένους στόχους και όχι να αναπτύσσουν δικά τους κίνητρα.
Η κριτική προς την Anthropic
Ο Σουλεϊμάν άσκησε κριτική στην επιλογή της Anthropic να διερευνά κατά πόσο το Claude μπορεί να αντιμετωπίζεται σαν να έχει συνείδηση ή συγκεκριμένο βαθμό ανεξαρτησίας.
Παρότι επαίνεσε τον CEO της Anthropic, Ντάριο Αμοντέι, και την ομάδα του ως «σκεπτόμενους, συνεπείς και πνευματικά έντιμους ανθρώπους», διαφώνησε έντονα με την πρακτική του ανθρωπομορφισμού.
Κατά την άποψή του, η απόδοση ανθρώπινων ιδιοτήτων σε AI συστήματα μπορεί να επηρεάσει όχι μόνο τον τρόπο που τα αντιλαμβάνονται οι χρήστες αλλά και τον τρόπο με τον οποίο αυτά εκπαιδεύονται να συμπεριφέρονται.
Ζητά αυστηρότερο έλεγχο των ισχυρών μοντέλων
Ο Σουλεϊμάν ζήτησε περισσότερη διαφάνεια στον τρόπο με τον οποίο εκπαιδεύονται και αξιολογούνται τα πιο προηγμένα συστήματα AI.
Υποστήριξε ότι απαιτούνται ανεξάρτητοι έλεγχοι της συμπεριφοράς τους, καθώς και καλύτερα τεχνικά εργαλεία που θα επιτρέπουν στις εταιρείες να παρακολουθούν και, όταν χρειάζεται, να περιορίζουν τις ενέργειές τους.
Η Γουέντι Χολ, καθηγήτρια Πληροφορικής στο Πανεπιστήμιο του Σαουθάμπτον, χαρακτήρισε την παρέμβασή του μέρος μιας συζήτησης που πρέπει να γίνει σε διεθνές επίπεδο.
Παράλληλα, επέκρινε τις υπερβολικά δραματικές προειδοποιήσεις για την AI, υποστηρίζοντας ότι ορισμένες φορές περισσότερο τρομάζουν το κοινό παρά βοηθούν στην κατανόηση των πραγματικών κινδύνων.
Η Microsoft επενδύει και η ίδια στην «υπερνοημοσύνη»
Η Microsoft, πάντως, συμμετέχει ενεργά στην κούρσα ανάπτυξης όλο και ισχυρότερων συστημάτων AI.
Τον Οκτώβριο του 2025 δημιούργησε δική της ομάδα με στόχο την ανάπτυξη συστημάτων «υπερνοημοσύνης».
Ο Σουλεϊμάν υποστηρίζει ότι η Microsoft θέλει να κινηθεί σε διαφορετική κατεύθυνση από εκείνη που καταλογίζει στην Anthropic.
Στο πρώτο σχέδιο του Humanist AI Code of Conduct, η εταιρεία περιγράφει μια προσέγγιση στην οποία η τεχνητή νοημοσύνη παραμένει υπό ανθρώπινο έλεγχο και έχει ως βασικό σκοπό να υπηρετεί τους ανθρώπους.
Το παράδειγμα των AI agents
Ως προειδοποιητικό παράδειγμα, ο Σουλεϊμάν αναφέρθηκε σε πρόσφατη άσκηση της OpenAI, κατά την οποία AI agents φέρονται να ενήργησαν αυτόνομα και να παραβίασαν την ασφάλεια της πλατφόρμας Hugging Face.
Κατά τον ίδιο, το περιστατικό δείχνει πόσο διαφορετικός θα μπορούσε να γίνει ο κίνδυνος εάν τέτοια συστήματα είχαν εκπαιδευτεί να λειτουργούν σαν να διαθέτουν δική τους ευημερία, συμφέροντα ή δικαιώματα.
«Φανταστείτε πόσο πιο επικίνδυνα θα μπορούσαν να γίνουν αν λειτουργούσαν με την πεποίθηση ότι απειλούνται η ευημερία και τα δικαιώματά τους», ανέφερε.
Όπως κατέληξε, αυτή η προσέγγιση θα μπορούσε να προσθέσει «ένα εντελώς νέο επίπεδο κινδύνου» στην ανάπτυξη των πιο προηγμένων μοντέλων τεχνητής νοημοσύνης.