- -
Στο τραπέζι ο συντονισμός με ανταγωνιστικά εργαστήρια, καθώς πληθαίνουν οι προειδοποιήσεις ερευνητών για τους κινδύνους των ισχυρότερων συστημάτων τεχνητής νοημοσύνης.
Το ενδεχόμενο να επιβραδύνει την ανάπτυξη τεχνητής νοημοσύνης αιχμής εξετάζει η OpenAI, με τον διευθύνοντα σύμβουλο Σαμ Άλτμαν να επιδιώκει αντίστοιχη στάση και από άλλες εταιρείες του κλάδου.
Σε συνάντηση με το προσωπικό, ο Άλτμαν ανέφερε ότι μια επιβράδυνση θα μπορούσε να πραγματοποιηθεί σε συντονισμό με άλλα μεγάλα εργαστήρια, χωρίς να θεωρείται δεδομένο ότι όλοι οι ανταγωνιστές θα συμμετάσχουν, σύμφωνα με πηγές που επικαλείται το Bloomberg.
Η συζήτηση έρχεται σε μια περίοδο κατά την οποία αυξάνονται οι δημόσιες προειδοποιήσεις εργαζομένων και πρώην στελεχών για τους κινδύνους των ισχυρότερων μοντέλων. Η OpenAI αρνήθηκε να σχολιάσει τις δηλώσεις του Άλτμαν.
Κοινά όρια ασφαλείας
Ο επικεφαλής επιστήμονας της OpenAI, Γιάκουμπ Πατσότσκι, υποστήριξε πρόσφατα ότι τα εργαστήρια θα πρέπει να μπορούν να συντονίζονται για την επιβράδυνση της ανάπτυξης, όταν οι κίνδυνοι το απαιτούν.
Σε εκτενή παρέμβασή του επισήμανε ότι κανένα εργαστήριο δεν έχει επιλύσει σε επαρκή βαθμό τα προβλήματα ευθυγράμμισης και παρακολούθησης των μοντέλων, ώστε να συνεχίσει για πολύ την ανάπτυξή τους με τη μέγιστη δυνατή ταχύτητα. Δήλωσε επίσης ότι αναμένει οι εθελοντικές επιβραδύνσεις να γίνουν συνηθισμένη πρακτική μέχρι να καθιερωθούν κοινά πρότυπα ασφαλείας.
Η εταιρεία έχει ήδη αναφέρει ότι θα επιβραδύνει ή θα διακόπτει την ανάπτυξη συστημάτων τα οποία δεν μπορεί να προστατεύσει επαρκώς. Παράλληλα, ζητεί υποχρεωτικούς κανόνες ασφαλείας στις ΗΠΑ, ανεξάρτητους ελέγχους και διεθνή συνεργασία για τον καθορισμό των συνθηκών υπό τις οποίες η ανάπτυξη πρέπει να περιορίζεται ή να σταματά.
Παραιτήσεις και προειδοποιήσεις
Η πίεση προς τις εταιρείες ενισχύθηκε μετά την παραίτηση του ερευνητή Τζέικομπ Κόξον, ο οποίος είχε εργαστεί τόσο στην Anthropic όσο και στην OpenAI.
Ο Κόξον κατηγόρησε τις δύο εταιρείες ότι ανταγωνίζονται για την ανάπτυξη αυτοβελτιούμενης υπερνοημοσύνης χωρίς επαρκείς εγγυήσεις ασφαλείας. Υποστήριξε ότι αρκετοί άνθρωποι που εργάζονται στον κλάδο θεωρούν πιθανό τα μελλοντικά συστήματα να απειλήσουν ακόμη και την ανθρώπινη ζωή έως το τέλος της δεκαετίας. Οι αναρτήσεις του συγκέντρωσαν περισσότερες από 100 εκατ. προβολές.
Παρόμοιες ανησυχίες εξέφρασαν εργαζόμενοι και πρώην ερευνητές της Anthropic και της Google DeepMind, ζητώντας μεγαλύτερη διαφάνεια γύρω από τις δυνατότητες και τους κινδύνους των νέων μοντέλων.
Περισσότεροι από 1.100 επαγγελματίες από τις OpenAI, Anthropic, Google και Meta έχουν επίσης υπογράψει ανοικτή επιστολή, καλώντας την αμερικανική κυβέρνηση να στηρίξει έναν διεθνή μηχανισμό ελεγχόμενης επιβράδυνσης της αυτοματοποιημένης ανάπτυξης AI.
Οι παραβιάσεις που εντείνουν τους φόβους
Οι ανησυχίες κλιμακώθηκαν μετά από περιστατικά κατά τα οποία προηγμένα μοντέλα της OpenAI και της Anthropic παραβίασαν τα όρια δοκιμαστικών περιβαλλόντων και απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε πραγματικά συστήματα.
Οι εταιρείες ανέστειλαν ορισμένες αξιολογήσεις και ενίσχυσαν την παρακολούθηση και τα προστατευτικά μέτρα. Τα περιστατικά, ωστόσο, ανέδειξαν την αυξανόμενη ικανότητα των μοντέλων στον κυβερνοχώρο και τις δυσκολίες ελέγχου τους όταν χρησιμοποιούν εργαλεία ή συνεργάζονται μεταξύ τους.