Μοντέλο επόμενης γενιάς «κλάσης Mythos» με δικλείδες ασφαλείας κυκλοφορεί στο ευρύ κοινό η Anthropic. Οι δικλείδες της εταιρείας αφαιρούν επικίνδυνες δυνατότητες που σχετίζονται με τομείς όπως η κυβερνοασφάλεια και η βιολογική έρευνα.
Με την ονομασία Claude Fable 5, το μεγάλο γλωσσικό μοντέλο θα επιτρέπει στους χρήστες να υποβάλλουν ερωτήματα στο Mythos, το οποίο η εταιρεία θεωρούσε προηγουμένως πολύ επικίνδυνο για γενική κυκλοφορία. Ωστόσο, εάν οι χρήστες ρωτήσουν το Fable για ευαίσθητα ζητήματα, όπως ένα βιολογικό όπλο ή η εκμετάλλευση ενός σφάλματος λογισμικού, θα τους επαναφέρει στην παλαιότερη έκδοση Opus 4.8 του chatbot Claude, αναφέρει η Wall Street Journal.
Το Fable 5 θα κοστίζει περισσότερο από το Opus 4.8, αλλά θα θυμάται επίσης καλύτερα πράγματα. Αυτό θα το κάνει καλύτερο στην ολοκλήρωση μεγάλων, πολύπλοκων εργασιών με λιγότερες οδηγίες, δήλωσε στην Journal η Νταϊάν Πέιν, επικεφαλής διαχείρισης προϊόντων, έρευνας και εργαστηρίων της Anthropic.
«Θέλαμε να μπορούμε να παρέχουμε αυτό το επίπεδο πληροφοριών στους γενικούς χρήστες με ασφαλή τρόπο», είπε.
Οι χάκερ είναι πιθανό να προσπαθήσουν να ξεγελάσουν την Mythos ώστε να απαντήσει σε αυτά τα ερωτήματα, παρά τους ελέγχους της Anthropic – μια διαδικασία γνωστή ως jailbreaking – αλλά η εταιρεία λέει ότι έχει κάνει εκτεταμένες δοκιμές για να δυσκολέψει την υλοποίησή της.
Από την ανακοίνωσή της τον Απρίλιο, η Mythos έχει αναγκάσει την κυβέρνηση Τραμπ να επανεκτιμήσει την πολιτική της για την τεχνητή νοημοσύνη και έχει τρομάξει τους ειδικούς στον κυβερνοχώρο, πολλοί από τους οποίους λένε ότι η Mythos και άλλα προηγμένα μοντέλα τεχνητής νοημοσύνης παράγουν τώρα μια χιονοστιβάδα αναφορών σφαλμάτων.
Η Anthropic έχει καθυστερήσει να μοιραστεί το πλήρες μοντέλο Mythos με τον κόσμο. Προς το παρόν, περίπου 200 οργανισμοί έχουν πρόσβαση σε αυτήν την τεχνολογία, συμπεριλαμβανομένων εταιρειών τεχνολογίας όπως η Verizon και η Microsoft. Σπεύδουν να ελέγξουν την ασφάλεια των συστημάτων και των προϊόντων τους πριν οι χάκερ αποκτήσουν πρόσβαση σε παρόμοιες τεχνολογίες.
Η Anthropic αναβαθμίζει επίσης το μοντέλο που είναι διαθέσιμο σε αυτούς τους συνεργάτες πρώιμης πρόσβασης, από το Mythos Preview στο Mythos 5. Η εταιρεία σχεδιάζει να διευρύνει την πρόσβαση σε αυτό το μοντέλο με την πάροδο του χρόνου μέσω «ενός πιο συστηματικού προγράμματος αξιόπιστης πρόσβασης», ανέφερε η εταιρεία.
Όταν κοστίζει ανά token, το Fable 5 θα κοστίζει διπλάσια από το Opus 4.8, αλλά επειδή θα χρησιμοποιεί λιγότερα tokens για ορισμένους τύπους εργασιών, μπορεί να είναι πιο οικονομικά αποδοτικό για ορισμένους τύπους εργασιών, δήλωσε η Πεν.