Το «μυστικό εργαστήριο» της Anthropic: AI εκπαιδεύει νέα AI με ιλιγγιώδη ταχύτητα

Στο επίκεντρο έντονου προβληματισμού για τους κινδύνους της ανεξέλεγκτης επιτάχυνσης της τεχνητής νοημοσύνης βρίσκεται η Anthropic, ένας από τους κορυφαίους παίκτες του κλάδου παγκοσμίως. Σύμφωνα με αποκαλυπτική έκθεση της ανεξάρτητης ομάδας ερευνητών ασφάλειας METR, η εταιρεία χρησιμοποιεί υπάρχοντα προηγμένα συστήματα AI για να εκπαιδεύει τα μελλοντικά της μοντέλα με πρωτοφανή ταχύτητα, διατηρώντας παράλληλα στα συρτάρια της ισχυρά μοντέλα που δεν έχουν διατεθεί ποτέ στο ευρύ κοινό.

Η δημοσιοποίηση της έκθεσης συνοδεύεται από σοβαρές σκιές διαφάνειας. Παρά το γεγονός ότι οι ερευνητές της METR εξασφάλισαν «πρωτοφανή πρόσβαση» σε εσωτερικά δεδομένα, κανάλια επικοινωνίας του Slack και συνεντεύξεις μηχανικών της Anthropic επί σχεδόν ένα τρίμηνο, κατήγγειλαν ανοιχτά ότι το τελικό κείμενο υπέστη εκτεταμένη λογοκρισία έπειτα από ασφυκτική πίεση της διοίκησης.

Όπως ανέφερε χαρακτηριστικά η METR, ενώ κατέστη εφικτό να διαμοιραστούν ελεύθερα τα υψηλού επιπέδου συμπεράσματα σχετικά με τα επίπεδα επικινδυνότητας, η Anthropic επέβαλε τη λογοκρισία του μεγαλύτερου μέρους των συγκεκριμένων αποδεικτικών στοιχείων που τεκμηρίωναν τις σχετικές προειδοποιήσεις.

Τα τρία κρίσιμα συμπεράσματα: Απόρρητα μοντέλα και έκρηξη παραγωγικότητας

Σύμφωνα με την ανάλυση των ευρημάτων που αναδεικνύει το Business Insider, η εσωτερική λειτουργία της εταιρείας στηρίζεται σε τρεις άξονες που δοκιμάζουν τα όρια της βιομηχανίας:

• Συσσώρευση μη διαθέσιμων μοντέλων: Το προσωπικό της Anthropic έχει στη διάθεσή του σημαντικά ισχυρότερη υπολογιστική νοημοσύνη από τους εξωτερικούς χρήστες. Τους τελευταίους έξι μήνες, η εταιρεία ολοκλήρωσε την εκπαίδευση τριών μοντέλων που προορίζονται αποκλειστικά για εσωτερική χρήση, τα οποία αξιοποιούνται για να τροφοδοτήσουν ακόμη ταχύτερα τις επόμενες γενιές AI — μία τακτική που θεωρείται από τις πιο ριψοκίνδυνες στον κλάδο.

• Άλμα παραγωγικότητας 12x: Στοιχεία από εσωτερικές έρευνες στο Slack δείχνουν ότι οι μηχανικοί καταγράφουν εντυπωσιακή εξοικονόμηση χρόνου, με τη μέση αυτοαναφερόμενη αύξηση της παραγωγικότητας να εκτινάσσεται περίπου 12 φορές τον Οκτώβριο χάρη στο ισχυρότερο εσωτερικό μοντέλο. Η METR πάντως προειδοποιεί ότι τα εν λόγω στοιχεία αποτελούν αδύναμη απόδειξη, καθώς βασίζονται σε υποκειμενικές εκτιμήσεις και ενδέχεται να μην αντιπροσωπεύουν το σύνολο του οργανισμού.

Το στοίχημα της αναδρομικής αυτοβελτίωσης

Η πλέον επίμαχη αποκάλυψη αφορά την ανάθεση κρίσιμων καθηκόντων εποπτείας, ελέγχου και εκπαίδευσης νέου κώδικα απευθείας σε άλλα μοντέλα τεχνητής νοημοσύνης. Πρόκειται για τον μηχανισμό της αναδρομικής αυτοβελτίωσης (recursive self-improvement), μία διαδικασία που επί χρόνια θεωρούνταν θεωρητικός κίνδυνος για την απώλεια ανθρώπινου ελέγχου επί των αυτόνομων συστημάτων.

Η μέθοδος αυτή έχει επιτρέψει στην Anthropic να σημειώσει εντυπωσιακά τεχνολογικά άλματα, συμπυκνώνοντας πρόοδο που υπό κανονικές συνθήκες θα απαιτούσε περίπου δύο χρόνια σε διάστημα μόλις ενός έτους.

Οι ερευνητές διευκρινίζουν ότι η επιτάχυνση αυτή δεν οφείλεται προς το παρόν σε πλήρως αυτόνομη δράση των συστημάτων, αλλά στην εκτεταμένη καθοδήγηση και υποστήριξη που παρέχουν τα μοντέλα στους ανθρώπους ερευνητές. Ωστόσο, η απόκρυψη των τεχνικών λεπτομερειών μέσω λογοκρισίας εντείνει τις ανησυχίες της διεθνούς κοινότητας για το εάν οι μηχανισμοί ασφαλείας προλαβαίνουν να συμβαδίσουν με την ταχύτητα εξέλιξης των νέων αλγορίθμων.