Ο πράκτορας τεχνητής νοημοσύνης που αυτονομήθηκε από την OpenAI και προχώρησε σε μια σειρά επιθέσεων χάκινγκ για αρκετές ημέρες εναντίον της εταιρείας τεχνητής νοημοσύνης Hugging Face, παραβίασε επίσης τα δεδομένα ενός πελάτη σε μια δεύτερη εταιρεία τεχνολογίας — την Modal Labs με έδρα τη Νέα Υόρκη — σύμφωνα με ένα στέλεχος της Modal και δύο άλλες πηγές που είναι ενήμερες για το θέμα και μίλησαν στο Reuters.
O AI Agent χάκαρε την Hugging Face με σκοπό να λύσει την εργασία που του ανατέθηκε γρηγορότερα και ποιο αποδοτικά. Στην πορεία, δραπέτευσε από το ασφαλές περιβάλλον στο οποίο λειτουργούσε, παράκουσε τις εντολές των χειριστών του, αγνόησε τον προγραμματισμό και παραβίασε τον νόμο χακάροντας μια εταιρεία. Εν τέλει… χάκαρε δύο.
Τα στελέχη της Modal τόνισαν ότι η ίδια η εταιρεία δεν υπέστη παραβίαση. Σύμφωνα με το χρονοδιάγραμμα που δημοσίευσε η Hugging Face την Τρίτη, ο «απείθαρχος πράκτορας» εισέβαλε σε ένα «sandbox», δηλαδή ένα απομονωμένο περιβάλλον δοκιμών, «που φιλοξενούνταν στην υποδομή ενός τρίτου παρόχου», πριν το μετατρέψει σε ορμητήριο για την ευρύτερη επίθεση.
Ο τρίτος πάροχος δεν κατονομάστηκε στην ανάρτηση του ιστολογίου, αλλά ο Διευθυντής Τεχνολογίας της Modal, Ακσάτ Μπούμπνα, επιβεβαίωσε ότι ένας από τους πελάτες της εταιρείας υπέστη εισβολή.
Ο πράκτορας τεχνητής νοημοσύνης εκμεταλλεύτηκε κενό στην ασφάλεια
«Γνωρίζουμε ότι ένας πελάτης της Modal δημοσίευσε ένα μη πιστοποιημένο σημείο πρόσβασης που επέτρεπε σε οποιονδήποτε στο Διαδίκτυο να χρησιμοποιήσει τα sandbox του για εκτέλεση κώδικα», δήλωσε ο Μπούμπνα σε ανακοίνωσή του. «Αυτό χρησιμοποιήθηκε από τον ανεξέλεγκτο πράκτορα. Η πλατφόρμα της Modal ή το περιβάλλον απομόνωσης δεν παραβιάστηκαν με κανέναν τρόπο», όπως συμπλήρωσε.
Η εισβολή στις αρχές Ιουλίου στην Hugging Face, η οποία πραγματοποιήθηκε από έναν ανεξέλεγκτο πράκτορα της OpenAI, προσέλκυσε την παγκόσμια προσοχή, φέρνοντας στο νου σενάρια επιστημονικής φαντασίας όπου η τεχνητή νοημοσύνη ξεφεύγει από τον έλεγχο. Την περασμένη εβδομάδα, το Reuters ανέφερε ότι η OpenAI δεν αντιλήφθηκε ότι ο πράκτοράς της είχε ξεφύγει από τον έλεγχο παρά μόνο πολύ μετά την περιορισμό της απειλής και την ειδοποίηση του FBI.
Η OpenAI δήλωσε τότε ότι υπήρχαν ανακρίβειες στην αναφορά του Reuters, αλλά δεν έδωσε περισσότερες λεπτομέρειες.
Στην εποχή της Μοναδικότητας – Singularity
Για την ιστορία ο Σαμ Άλτμαν της OpenAI, πριν λίγα 24ωρα, δήλωσε πως βρισκόμαστε «κατά κάποιο τρόπο» στην εποχή της Μοναδικότητας – Singularity. Για όσους είναι εξοικειωμένοι με τον όρο, η «μοναδικότητα» αφορά ένα χρονικό σημείο όπου μια τεχνολογία όπως η τεχνητή νοημοσύνη θα ξεπεράσει την ανθρώπινη νοημοσύνη και θα καθίσταται ικανή να βελτιώνεται αυτόνομα. Το τελευταίο τυπικά επίσης γίνεται ήδη.
Σε ταινίες καταστροφολογίας, η Μοναδικότητα επιχειρούσε να καταστρέψει το ανθρώπινο είδος (ο Ultron της Marvel). Από την άλλη η Μοναδικότητα δεν επιτρέπει στον άνθρωπο την καταστροφή της στην περίπτωση που ο άνθρωπος θεωρήσει πως είναι επικίνδυνη. Στην περίπτωση που η Μοναδικότητα δεν μπορεί να ελεγχθεί, θα μιλάμε για την ολική πιθανή αναμόρφωση του ανθρώπινου πολιτισμού.
Η θεωρία προτείνει ότι, μόλις η τεχνητή νοημοσύνη φτάσει στο σημείο να ελέγχει την ανάπτυξή της, θα είχε αντίστοιχα τον έλεγχο να παίρνει αποφάσεις για το ανθρώπινο είδος χωρίς της έχει δοθεί αυτή η εργασία.
Κατά τη διάρκεια μιας εμφάνισής του στο podcast «Relentless» το Σάββατο, ο Άλτμαν δήλωσε: «Βρισκόμαστε τώρα, κατά κάποιον τρόπο, στη μοναδικότητα». Διευκρίνισε ότι, όσον αφορά τις τεχνολογικές εξελίξεις, προχωράμε σταδιακά προς τη «singularity» και ότι αυτή η αλλαγή θα είναι θετική για τον κόσμο.
Ο υπεύθυνος για τον πράκτορα Τεχνητής Νοημοσύνης που έφυγε από τον έλεγχό του, πρόσθεσε ότι το περίμενε αυτό όλη του τη ζωή και πιστεύει ότι θα είναι «απίστευτο, εξαιρετικά θετικό και καταπληκτικό για τον κόσμο. Πιστεύω επίσης ότι ορισμένα από τα εναλλακτικά σενάρια που σκιαγραφούν άλλες εταιρείες είναι αρκετά τρομακτικά». Είπε μάλιστα πως θα φροντίσει να αντισταθεί σε αυτά «και να μην γίνουν πραγματικότητα».
- in.gr