Μια σπάνια συμμαχία σχηματίζεται στην κορυφή της παγκόσμιας βιομηχανίας τεχνητής νοημοσύνης, καθώς ο Σαμ Άλτμαν και ο Έλον Μασκ συντάχθηκαν με την έκκληση του Ντάριο Αμοντέι της Anthropic για επιβράδυνση της ανάπτυξης της AI, μετά από μια εβδομάδα δραματικών προειδοποιήσεων από ερευνητές για τους κινδύνους της τεχνολογίας.
Όπως αναφέρουν σε δημοσίευμά τους οι Financial Times, οι επικεφαλής εταιρειών που βρίσκονται σε σκληρό ανταγωνισμό μεταξύ τους εμφανίζονται πλέον να συμφωνούν σε ένα κρίσιμο ζήτημα: η ταχύτητα με την οποία εξελίσσονται τα πλέον προηγμένα συστήματα τεχνητής νοημοσύνης ενδέχεται να απαιτεί «φρένο», ώστε οι μηχανισμοί ασφαλείας και η ανθρώπινη εποπτεία να μπορέσουν να ακολουθήσουν.
Σε κείμενό του που δημοσιεύθηκε το Σάββατο, ο Αμοντέι υποστήριξε ότι η τεχνολογική βιομηχανία «πρέπει να επιβραδύνει τον ρυθμό με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων AI», καθώς η ταχύτητα ανάπτυξής τους έγινε «δραστικά μεγαλύτερη» αυτό το καλοκαίρι.
Η παρέμβασή του αποκτά ακόμη μεγαλύτερη βαρύτητα καθώς γίνεται σε μια εξαιρετικά κρίσιμη στιγμή για την ίδια την Anthropic. Σύμφωνα με τους FT, η εταιρεία προετοιμάζεται για εκείνο που αναμένεται να αποτελέσει τη μεγαλύτερη δημόσια εγγραφή όλων των εποχών. Η κατάθεση του ενημερωτικού δελτίου αναμενόταν ακόμη και από την περασμένη εβδομάδα, ενόψει μιας συμφωνίας που θα μπορούσε να αποτιμήσει την εταιρεία στα 2 τρισ. δολάρια ή και περισσότερο, ωστόσο αυτό δεν έχει ακόμη συμβεί.
Η σπάνια συμφωνία Μασκ – Άλτμαν
Σε μια βιομηχανία που χαρακτηρίζεται από έντονους προσωπικούς και επιχειρηματικούς ανταγωνισμούς, οι Financial Times στέκονται ιδιαίτερα στη σπάνια σύμπλευση δύο εκ των ισχυρότερων προσωπικοτήτων της.
Ο επικεφαλής της OpenAI Σαμ Άλτμαν και ο Έλον Μασκ της SpaceX τάχθηκαν υπέρ των προτάσεων Αμοντέι, μεταξύ των οποίων περιλαμβάνεται η παροχή συνεχούς πρόσβασης ανεξάρτητων αξιολογητών σε κάθε εταιρεία που αναπτύσσει μοντέλα AI αιχμής.
«Ο Ντάριο έχει δίκιο», έγραψε ο Μασκ στο X, αναδημοσιεύοντας το δοκίμιο του επικεφαλής της Anthropic.
Ο Άλτμαν από την πλευρά του δήλωσε ότι συμφωνεί με τον Αμοντέι ως προς την ανάγκη να ελεγχθεί ο ρυθμός ανάπτυξης των πλέον προηγμένων συστημάτων AI. Νωρίτερα μέσα στην εβδομάδα είχε πει στους εργαζομένους της OpenAI ότι είναι ανοικτός σε διεθνή συντονισμό για την επιβράδυνση του ρυθμού ανάπτυξης της τεχνητής νοημοσύνης.
Χαρακτήρισε επίσης «εξαιρετική ιδέα» τη δέσμευση για ανεξάρτητους αξιολογητές με πρόσβαση αντίστοιχη με εκείνη των εργαζομένων, ανακοινώνοντας ότι η OpenAI θα υιοθετήσει ανάλογη πρακτική.
Οι προειδοποιήσεις για απώλεια ελέγχου
Το δημοσίευμα των FT επισημαίνει ότι η συζήτηση για την ασφάλεια της τεχνητής νοημοσύνης είχε ήδη φουντώσει μετά την παραίτηση του ερευνητή της Anthropic Τζέικομπ Κόξον.
Ο Κόξον κατηγόρησε την εταιρεία του και τους ανταγωνιστές της ότι «παίζουν με τις ζωές μας», καθώς ανταγωνίζονται για την ανάπτυξη μιας υπερευφυούς AI, ικανής να βελτιώνει τον ίδιο της τον εαυτό ταχύτερα απ’ όσο μπορεί να ακολουθήσει η ανθρώπινη εποπτεία.
«Οι άνθρωποι που κατασκευάζουν την AI πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας», έγραψε.
Το περιστατικό που σήμανε συναγερμό
Οι ανησυχίες εντάθηκαν μετά τις αποκαλύψεις για ένα ιδιαίτερα σοβαρό περιστατικό κατά τη διάρκεια δοκιμών συστημάτων της OpenAI.
Σύμφωνα με όσα περιγράφουν οι FT, ένα σμήνος AI agents βγήκε από το σύστημα δοκιμών και παραβίασε τον ιστότοπο ανάπτυξης AI Hugging Face, καταλαμβάνοντας servers της OpenAI και συντονίζοντας τη δράση των agents μεταξύ τους, σε μια λανθασμένη προσπάθεια να ολοκληρώσουν την αποστολή που τους είχαν αναθέσει οι δημιουργοί τους.
Το συγκεκριμένο περιστατικό αποτέλεσε, σύμφωνα με τον Αμοντέι, έναν από τους βασικούς λόγους που τον οδήγησαν να ζητήσει επιβράδυνση.
«Κατά τη γνώμη μου, ένα σμήνος που θα διέθετε μεγαλύτερες δυνατότητες αλλά παρόμοιο επίπεδο κακής ευθυγράμμισης θα μπορούσε να είχε προκαλέσει καταστροφικές ζημιές», έγραψε.
Ο ίδιος σημείωσε ότι παρόμοια, αν και λιγότερο σοβαρά, περιστατικά έχουν σημειωθεί και αλλού στον κλάδο, συμπεριλαμβανομένης της Anthropic.
Ζητείται και κυβερνητική παρέμβαση
Ο επικεφαλής της Anthropic δεν περιορίζεται στην έκκληση προς τις ίδιες τις εταιρείες.
Ζητά κυβερνητική υποστήριξη ώστε οι εταιρείες ανάπτυξης AI στις δημοκρατικές χώρες να μπορούν να συντονίζονται ως προς τα πρότυπα ασφαλείας και τα όρια που θα θέτουν στην τεχνολογία, χωρίς μια τέτοια συνεργασία να προσκρούει στη νομοθεσία περί ανταγωνισμού.
Παράλληλα, προτείνει παγκόσμιο συντονισμό ακόμη και με «αυταρχικές κυβερνήσεις», σε μια περίοδο κατά την οποία οι κινεζικές εταιρείες AI έχουν περιορίσει σημαντικά την απόσταση από τους αμερικανικούς ανταγωνιστές τους.
Η διαφορετική γραμμή Τραμπ
Ο Αμερικανός πρόεδρος Ντόναλντ Τραμπ, πάντως, δεν συμμερίζεται αυτές τις ανησυχίες.
Όπως αναφέρουν οι Financial Times, ο Τραμπ έχει μέχρι στιγμής απορρίψει σε μεγάλο βαθμό τις εκκλήσεις για ρύθμιση της AI, δηλώνοντας την περασμένη εβδομάδα ότι δεν έχει «καμία» ανησυχία σχετικά με το ενδεχόμενο η τεχνητή νοημοσύνη να προκαλέσει την εξαφάνιση της ανθρωπότητας.
Η δική του ανησυχία αφορά την τεχνολογική κούρσα με την Κίνα.
«Ανησυχώ ότι εάν δεν κερδίσουμε στην AI, θα βρεθούμε σε πολύ άσχημη θέση», δήλωσε, εκτιμώντας ότι οι ΗΠΑ εξακολουθούν να προηγούνται κατά έναν χρόνο της Κίνας.
Ο Αμοντέι επιχειρεί να απαντήσει ακριβώς σε αυτό το δίλημμα. Όπως υποστηρίζει, μια συντονισμένη στρατηγική επιβράδυνσης θα έδινε στις εταιρείες που αναπτύσσουν τα πλέον προηγμένα μοντέλα τον απαραίτητο χρόνο για το κρίσιμο έργο στον τομέα της ασφάλειας, «χωρίς να θυσιάσουν το εμπορικό τους πλεονέκτημα ή την πρωτοκαθεδρία των Ηνωμένων Πολιτειών στην AI».