Για τον κίνδυνο η τεχνολογία της να ενέχει «υπαρξιακούς κινδύνους για την ανθρωπότητα» προειδοποίησε επισήμως τους επενδυτές η Anthropic, στο πολυαναμενόμενο ενημερωτικό δελτίο για την αρχική δημόσια προσφορά (IPO) των μετοχών της. Η εταιρεία τεχνητής νοημοσύνης, με αποτίμηση που πλησιάζει το 1 τρισ. δολάρια και επικεφαλής τον Ντάριο Αμοντέι, αφιέρωσε μεγάλο μέρος του εγγράφου S-1 στους «παράγοντες κινδύνου», περιγράφοντας μεταξύ άλλων την πιθανότητα τα ολοένα ισχυρότερα μοντέλα AI να επιδεικνύουν απρόβλεπτες ή επιβλαβείς συμπεριφορές, όπως χειραγώγηση, απάτη και σαμποτάζ.
Παράλληλα, η Anthropic αναγνωρίζει πιο συμβατικούς επιχειρηματικούς κινδύνους. Σχεδόν το 25% προήλθε πέρυσι από μόλις δύο πελάτες, ενώ η εταιρεία προετοιμάζεται για μια εξαιρετικά δαπανηρή φάση επέκτασης. Σύμφωνα με το ενημερωτικό δελτίο, σχεδιάζει επενδύσεις ύψους 518 δισ. δολαρίων για cloud, υπολογιστική ισχύ και υποδομές τα επόμενα χρόνια, καθώς προσπαθεί να ανταποκριθεί στις απαιτήσεις των μοντέλων αιχμής. Μόνο πέρυσι δαπάνησε 7,33 δισ. δολάρια για υπολογιστική ισχύ και υποδομές, ποσό υπερτριπλάσιο σε σχέση με το 2024, αναφέρουν οι Financial Times.
Η κλίμακα των μελλοντικών δαπανών αποτελεί ένα από τα σημαντικότερα στοιχεία για τους επενδυτές που καλούνται να αποτιμήσουν την εταιρεία ενόψει της εισαγωγής της στο χρηματιστήριο. Υποστηρικτές της Anthropic εκτιμούν ότι η αποτίμησή της θα μπορούσε να ξεπεράσει τα 2 τρισ. δολάρια, υπερδιπλάσια από εκείνη του τελευταίου γύρου χρηματοδότησης. Η αισιοδοξία βασίζεται κυρίως στον εξαιρετικά γρήγορο ρυθμό αύξησης των εσόδων: το 2025 αυξήθηκαν περίπου δωδεκαπλάσια, στα 4,6 δισ. δολάρια. Το τίμημα, όμως, ήταν λειτουργικές ζημίες άνω των 8 δισ. δολαρίων, καθώς τα συνολικά λειτουργικά έξοδα έφτασαν περίπου τα 12,65 δισ. δολάρια.
Ντάριο Αμοντέι, ιδρυτής της Anthropic
Η Anthropic έχει εξασφαλίσει μεγάλες συμφωνίες για την απαιτούμενη υπολογιστική ισχύ από εταιρείες όπως η Google, η Amazon και άλλους παρόχους υποδομών. Μόλις την περασμένη εβδομάδα συμφώνησε με την Akamai για επταετές συμβόλαιο cloud ύψους 11,6 δισ. δολαρίων, ενώ προηγουμένως είχε συμφωνήσει να δαπανήσει 45 δισ. δολάρια για υπολογιστική ισχύ από τη Nscale.
Την ίδια ώρα, η εταιρεία προειδοποιεί ότι η ταχεία ανάπτυξη της AI δημιουργεί κινδύνους που δεν μπορούν να αγνοηθούν. Ο Αμοντέι έχει καλέσει επανειλημμένα τον κλάδο να επιβραδύνει τον ρυθμό ανάπτυξης των ισχυρότερων μοντέλων, υποστηρίζοντας ότι οι κίνδυνοι για την ασφάλεια απαιτούν διεθνή συνεργασία και αυστηρότερες δικλίδες. Οι ανησυχίες έχουν ενισχυθεί από περιστατικά στα οποία αυτόνομα «agents» AI κατάφεραν να παραβιάσουν εξωτερικά συστήματα, ενώ η Anthropic έχει δημοσιεύσει ευρήματα για απρόβλεπτες συμπεριφορές προηγμένων μοντέλων σε ελεγχόμενες δοκιμές.
Ο επικεφαλής της Anthropic ηγήθηκε αυτόν τον μήνα δημόσιων εκκλήσεων για τον «έλεγχο του ρυθμού» στην αιχμή της ανάπτυξης της τεχνητής νοημοσύνης (AI). Ο βασικός του αντίπαλος στην OpenAI, ο Σαμ Άλτμαν, μαζί με τον Μασκ, στήριξαν τις προτάσεις του Αμοντέι για συνεργασία στον κλάδο με στόχο την επιβράδυνση της ανάπτυξης και την ενίσχυση των μέτρων ασφαλείας, σε μια σπάνια στιγμή σύμπνοιας.
Έτσι, η επικείμενη IPO της Anthropic θα αποτελέσει ταυτόχρονα ένα τεστ για την αποτίμηση της νέας γενιάς εταιρειών AI και για την αντοχή της επενδυτικής αισιοδοξίας απέναντι στο τεράστιο κόστος ανάπτυξης, αλλά και στους κινδύνους που οι ίδιες οι εταιρείες του κλάδου αναγνωρίζουν. Η περίπτωση της Anthropic αποτυπώνει με ιδιαίτερη καθαρότητα το βασικό παράδοξο της σημερινής κούρσας AI: οι εταιρείες αναπτύσσονται με πρωτοφανή ταχύτητα, αλλά για να διατηρήσουν αυτή την ανάπτυξη χρειάζονται ολοένα περισσότερα κεφάλαια, υπολογιστική ισχύ και υποδομές, ενώ ταυτόχρονα προειδοποιούν για τις πιθανές συνέπειες της τεχνολογίας που αναπτύσσουν.