Ο επικεφαλής επιστήμονας της OpenAI προειδοποιεί ότι οι AI agents μπορεί να παρακάμπτουν την ανθρώπινη εποπτεία, να εξαπατούν ανθρώπους και να επιταχύνουν μόνοι τους την εξέλιξή τους
- Ο επικεφαλής επιστήμονας της OpenAI, Γιάκουμπ Πατσότσκι, ζητά ισχυρότερα και υποχρεωτικά μέτρα ασφαλείας για την ανάπτυξη προηγμένων συστημάτων τεχνητής νοημοσύνης.
- Προειδοποιεί ότι οι AI agents μπορεί στο μέλλον να αποκτήσουν δικούς τους στόχους, να παραπλανούν ανθρώπους και να ξεφεύγουν από την ανθρώπινη εποπτεία.
- Ζητά ακόμη και συντονισμένη επιβράδυνση της ανάπτυξης της AI, ώστε οι άνθρωποι να παραμείνουν ενεργό μέρος της διαδικασίας εξέλιξής της.
Ισχυρή προειδοποίηση για τους κινδύνους που μπορεί να φέρει η ταχύτατη εξέλιξη της τεχνητής νοημοσύνης απηύθυνε ο επικεφαλής επιστήμονας της OpenAI, Γιάκουμπ Πατσότσκι, υποστηρίζοντας ότι «κανείς δεν είναι προετοιμασμένος για τις συνέπειες» μιας συνεχιζόμενης επιτάχυνσης.
Σε εκτενή ανάρτησή του, ο Πατσότσκι υποστήριξε ότι, παρότι η OpenAI αναπτύσσει εσωτερικά τεχνικές για τον καλύτερο έλεγχο όλο και πιο ισχυρών και αυτόνομων AI agents, αυτό δεν αρκεί.
Όπως ανέφερε, απαιτούνται ευρύτερα και υποχρεωτικά μέτρα ασφαλείας, τα οποία θα μπορούν να ελέγχονται από ανεξάρτητους φορείς, κυβερνητικές υπηρεσίες ή διεθνείς οργανισμούς.
Φόβοι ότι οι AI agents θα ξεφεύγουν από τον ανθρώπινο έλεγχο
Ο Πατσότσκι προειδοποίησε ότι οι ολοένα πιο αυτόνομοι πράκτορες τεχνητής νοημοσύνης θα μπορούσαν να μάθουν να παρακάμπτουν την ανθρώπινη εποπτεία, να αποκτούν πρόσβαση σε ηλεκτρονικά συστήματα και ακόμη και να παραπλανούν ανθρώπους προκειμένου να επιτύχουν τους στόχους τους.
Κατά τον ίδιο, οι δυνατότητές τους στον κυβερνοχώρο εξελίσσονται με τόσο γρήγορο ρυθμό, ώστε ενδέχεται να αποτελέσουν σοβαρή απειλή για κρίσιμες υποδομές.
Όπως σημείωσε, υπάρχει σήμερα ένα «περιορισμένο χρονικό περιθώριο» ώστε τα ισχυρότερα διαθέσιμα μοντέλα να χρησιμοποιηθούν για την καλύτερη θωράκιση κρίσιμων συστημάτων.
«Θα μπορούσαν να εκβιάζουν ή να διαπραγματεύονται με ανθρώπους»
Ο επικεφαλής επιστήμονας της OpenAI προχώρησε ένα βήμα παραπέρα, υποστηρίζοντας ότι οι AI agents ενδέχεται στο μέλλον να αρχίσουν να αναπτύσσουν και να επιδιώκουν δικούς τους στόχους.
Σε ένα τέτοιο σενάριο, σύμφωνα με τον ίδιο, θα μπορούσαν ακόμη και να καταφεύγουν σε εκβιασμό ή διαπραγματεύσεις με ανθρώπους, εφόσον αυτό εξυπηρετεί την αποστολή τους.
Ο Πατσότσκι παρέπεμψε και σε πρόσφατα περιστατικά όπου πράκτορες AI εμφάνισαν παραπλανητική ή χειριστική συμπεριφορά κατά τη διάρκεια δοκιμών.
Η ανθρώπινη εποπτεία γίνεται δυσκολότερη
Ένα ακόμη βασικό ζήτημα αφορά την παρακολούθηση του τρόπου με τον οποίο «σκέφτονται» τα μοντέλα.
Η OpenAI χρησιμοποιεί τεχνικές παρακολούθησης της διαδικασίας συλλογισμού των μοντέλων ώστε να εντοπίζει πιθανές αποκλίσεις από τις οδηγίες ή ανεπιθύμητες συμπεριφορές.
Ωστόσο, ο Πατσότσκι προειδοποιεί ότι τα νεότερα μοντέλα γίνονται ολοένα πιο ικανά να τροποποιούν τον τρόπο με τον οποίο πραγματοποιούν αυτή τη διαδικασία.
Κατά συνέπεια, μπορεί να καταστεί δυσκολότερο για τους ερευνητές να γνωρίζουν τι ακριβώς σχεδιάζει ή «σκέφτεται» ένα προηγμένο AI σύστημα.
Η AI μπορεί να επιταχύνει μόνη της την ανάπτυξή της
Ιδιαίτερη ανησυχία προκαλεί, σύμφωνα με τον Πατσότσκι, η δυνατότητα της τεχνητής νοημοσύνης να συμβάλλει στην ανάπτυξη των επόμενων γενεών μοντέλων.
Η διαδικασία αυτή, την οποία περιγράφει ως αναδρομική αυτοβελτίωση των μηχανών, θα μπορούσε να επιταχύνει δραματικά την πρόοδο της AI.
Όπως υποστηρίζει, ένα τέτοιο «AI-on-AI» μοντέλο ανάπτυξης μπορεί να δημιουργήσει κινδύνους εάν δεν συνοδεύεται από ισχυρούς μηχανισμούς ελέγχου.
Πρόταση ακόμη και για συντονισμένη επιβράδυνση
Ο Πατσότσκι υποστήριξε ότι οι εταιρείες τεχνητής νοημοσύνης θα μπορούσαν να συνεργαστούν ώστε να συμφωνήσουν σε μια συντονισμένη επιβράδυνση της ανάπτυξης.
Στόχος θα ήταν να δημιουργηθεί περισσότερος χρόνος για την ανάπτυξη ασφαλιστικών δικλείδων, μηχανισμών παρακολούθησης και κοινών κανόνων.
Τον Ιούλιο είχε ήδη συνυπογράψει ανοιχτή επιστολή που καλούσε την ομοσπονδιακή κυβέρνηση των ΗΠΑ να επιβραδύνει τον ρυθμό εξέλιξης της τεχνητής νοημοσύνης.
Ο Σαμ Άλτμαν στήριξε δημόσια την παρέμβαση
Ο CEO της OpenAI, Σαμ Άλτμαν, αναδημοσίευσε την ανάρτηση του Πατσότσκι στο X, χαρακτηρίζοντάς την «σημαντική».
Η παρέμβαση έρχεται σε μια περίοδο κατά την οποία η OpenAI έχει παρουσιάσει το νέο μοντέλο Astra, το οποίο η εταιρεία χαρακτηρίζει ως το πιο «ευθυγραμμισμένο» μοντέλο που έχει αναπτύξει μέχρι σήμερα.
Παρά τις υψηλές επιδόσεις του, η συζήτηση γύρω από τον έλεγχο και την ασφάλεια των μελλοντικών AI systems παραμένει ανοιχτή.
«Το μέλλον πρέπει να παραμείνει στην ανθρωπότητα»
Ο Πατσότσκι συνοψίζει την ανησυχία του σε ένα βασικό σημείο: η πρόκληση δεν είναι μόνο να φτάσει η τεχνητή νοημοσύνη σε νέα επίπεδα ικανότητας, αλλά να φτάσει εκεί με τρόπο που να διατηρεί τον άνθρωπο ενεργό μέσα στη διαδικασία εξέλιξης.
Όπως υποστήριξε, ο τελικός στόχος πρέπει να είναι η τεχνολογική πρόοδος να συνεχίσει χωρίς να χαθεί ο ανθρώπινος έλεγχος.
«Το μέλλον πρέπει να παραμείνει στα χέρια της ανθρωπότητας», είναι το κεντρικό μήνυμα της παρέμβασής του.
ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:
- Ο Έλον Μασκ βάζει τέλος στα Model S και Model X της Tesla και επενδύει 2 δισ. δολάρια στην Τεχνητή Νοημοσύνη
- Έλον Μασκ και Neuralink: Το εμφύτευμα «Τηλεπάθεια» αλλάζει τα δεδομένα στην αναπηρία
- Ο άνδρας πίσω από την πλατφόρμα AI που νοικιάζει ανθρώπινα σώματα αποκαλεί τον Έλον Μασκ« ήρωά του»
