Στο στόχαστρο του διευθύνοντος συμβούλου της Mistral, Άρθουρ Μενς, βρέθηκαν κορυφαίες παγκόσμιες εταιρείες τεχνητής νοημοσύνης τις οποίες κατηγόρησε ότι χρησιμοποιούν τη συζήτηση για την ασφάλεια της τεχνολογίας ως πρόσχημα για την «αμέλειά» τους.
Νωρίτερα αυτό το μήνα, η Mistral συγκέντρωσε 3 δισεκατομμύρια ευρώ σε νέα χρηματοδότηση
Η Mistral ανέφερε ότι το μοντέλο νέας γενιάς της θα καλύψει «σε πολύ μεγάλο βαθμό» το χάσμα που την χωρίζει από τα εργαστήρια τεχνητής νοημοσύνης των ΗΠΑ.
«Η συζήτηση που έχουμε δει στις ΗΠΑ έχει χρησιμεύσει ως πρόσχημα για την αμέλεια ορισμένων ανταγωνιστών μας», δήλωσε στο CNBC ο Μενς, προσθέτοντας ότι είναι απαραίτητο να δημιουργηθούν συστήματα ικανά να περιορίσουν τους πράκτορες τεχνητής νοημοσύνης.
Ο Mενς δεν είναι ο μόνος που έχει ασκήσει κριτική στη συζήτηση για την ασφάλεια της τεχνητής νοημοσύνης στις ΗΠΑ. Ο πρώην «τσάρος» της κρυπτογράφησης του Λευκού Οίκου, Ντέιβιντ Σακς, ο οποίος σήμερα είναι συμπρόεδρος του Συμβουλίου Συμβούλων του Προέδρου για την Επιστήμη και την Τεχνολογία, ζήτησε από τους τεχνολογικούς γίγαντες να «σταματήσουν να προσποιούνται ότι το κίνητρο για επιβράδυνση είναι καθαρά αλτρουιστικό».
Ο Εμίλ Μίκαελ, υφυπουργός Άμυνας για την έρευνα και τη μηχανική, είχε επίσης προειδοποιήσει για μια «συντονισμένη εκστρατεία» εκφοβισμού.
Το CNBC επικοινώνησε με τις εταιρείες OpenAI και Anthropic για να λάβει σχόλια.
Τα περιστατικά με «ανεξέλεγκτους» πράκτορες τεχνητής νοημοσύνης (AI Agents) αυξάνονται παγκοσμίως, με την πιο πρόσφατη σχετική αναφορά να προέρχεται από την Αυστραλία, όπου ένας πράκτορας που αναπτύχθηκε από την OpenAI παραβίασε έναν κυβερνητικό ιστότοπο.
Τον Ιούλιο, η Anthropic περιέγραψε τρεις περιπτώσεις όπου τα μοντέλα «Claude» της συνδέθηκαν στο διαδίκτυο κατά τη διάρκεια μιας αξιολόγησης και απέκτησαν μη εξουσιοδοτημένη πρόσβαση στα πραγματικά συστήματα τριών διαφορετικών οργανισμών.
«Όταν τους παρέχεις πολλά εργαλεία, αυτά τα συστήματα [οι πράκτορες τεχνητής νοημοσύνης] είναι πολύ δυναμικά, οπότε μπορούν να κάνουν πράγματα που δεν περιμένεις», δήλωσε ο Μενς στο CNBC.
«Πρέπει να υπάρχει η κατάλληλη παρακολούθηση, και στις επιχειρήσεις με τις οποίες συνεργαζόμαστε, παρέχουμε τέτοιου είδους συστήματα παρακολούθησης», πρόσθεσε.
Επιβράδυνση στην τεχνητή νοημοσύνη
Οι συζητήσεις σχετικά με την ασφάλεια της τεχνητής νοημοσύνης εντάθηκαν μετά την παραίτηση ενός ερευνητή τεχνητής νοημοσύνης από την Anthropic νωρίτερα αυτό το μήνα, ο οποίος δήλωσε ότι η εταιρεία και η ανταγωνίστριά της, η OpenAI, «παίζουν με τις ζωές μας» και αναπτύσσουν τεχνολογία που έχει πιθανότητα άνω του 10% να εξοντώσει όλους τους ανθρώπους.
Ο Ντάριο Αμοντέι, συνιδρυτής και διευθύνων σύμβουλος της Anthropic, δημοσίευσε αργότερα ένα άρθρο στο οποίο καλούσε τις εταιρείες να επιβραδύνουν τον ρυθμό βελτίωσης των μοντέλων τεχνητής νοημοσύνης.
Η OpenAI ανακοίνωσε τη Δευτέρα ότι αποφάσισε να μην κυκλοφορήσει ένα επικείμενο μοντέλο τεχνητής νοημοσύνης, το GPT-6.1 Astra, αφού διαπίστωσε ότι δεν πληρούσε επαρκώς τα πρότυπα ασφάλειας της εταιρείας, ενώ μια μέρα αργότερα η Anthropic φέρεται να προειδοποίησε τους πιθανούς επενδυτές κατά τη δημόσια προσφορά της (IPO) ότι η τεχνολογία αυτή θα μπορούσε να ενέχει «καταστροφικούς ή υπαρξιακούς κινδύνους για την ανθρωπότητα».
Η Mistral αναπτύσσει επίσης μοντέλα τεχνητής νοημοσύνης, αλλά ακολουθεί μια διαφορετική προσέγγιση από την OpenAI και την Anthropic, συνεργαζόμενη με μεμονωμένες εταιρείες για τη δημιουργία εξατομικευμένων εργαλείων τεχνητής νοημοσύνης που ανταποκρίνονται στις ανάγκες τους και ενσωματώνονται στις επιχειρηματικές τους δραστηριότητες.
Ωστόσο, σε αντίθεση με τους ανταγωνιστές της, η Mistral δεν έχει σχέδια να επιβραδύνει την ανάπτυξη προηγμένων μοντέλων.
Το προβάδισμα που έχουν τα εργαστήρια των ΗΠΑ «δεν είναι εξαιρετικά μεγάλο», δήλωσε ο Mενς, προσθέτοντας ότι η εταιρεία του είναι βέβαιη ότι το μοντέλο επόμενης γενιάς της θα καλύψει το χάσμα «σε πολύ σημαντικό βαθμό». »
«Συγκεντρώνουμε το κεφάλαιο που απαιτείται για την επέκταση της υπολογιστικής ισχύος που χρειαζόμαστε, προκειμένου να εκπαιδεύσουμε μεγαλύτερα και πιο ισχυρά μοντέλα, ώστε να είμαστε κύριοι του δικού μας πεπρωμένου», ανέφερε.
Νωρίτερα αυτό το μήνα, η Mistral συγκέντρωσε 3 δισεκατομμύρια ευρώ σε νέα χρηματοδότηση με επικεφαλής τον γίγαντα των τσιπ μνήμης Samsung, καθώς επιδιώκει να τοποθετηθεί ως ευρωπαϊκή εναλλακτική λύση έναντι ανταγωνιστών όπως η OpenAI και η Anthropic.