Επιμέλεια: ΙΩΑΝΝΑ ΘΩΜΑ
Ο πρώην CEO της Google προειδοποιεί πως η τεχνητή νοημοσύνη μπορεί να παραβιαστεί και να μετατραπεί σε όπλο.
Ο πρώην CEO της Google, Eric Schmidt, απηύθυνε μια αυστηρή προειδοποίηση για τους κινδύνους της τεχνητής νοημοσύνης (AI) — και πόσο ευάλωτη είναι στο να παραβιαστεί.
Ο Schmidt, που διετέλεσε διευθύνων σύμβουλος της Google από το 2001 έως το 2011, μίλησε στο Sifted Summit για «τα κακά πράγματα που μπορεί να κάνει η AI», απαντώντας σε ερώτηση για το αν είναι πιο επικίνδυνη από τα πυρηνικά όπλα.
«Υπάρχει το ενδεχόμενο προβλήματος “διάδοσης” στην AI; Απολύτως», προειδοποίησε.
Οι κίνδυνοι διάδοσης περιλαμβάνουν το ενδεχόμενο η τεχνολογία να πέσει σε λάθος χέρια και να χρησιμοποιηθεί με κακόβουλο τρόπο.
Σύμφωνα με τον ίδιο, υπάρχουν αποδείξεις ότι τα μοντέλα τεχνητής νοημοσύνης — ανοιχτά ή κλειστά — μπορούν να “χακαριστούν” ώστε να αφαιρούνται οι μηχανισμοί ασφαλείας τους.
«Κατά τη διάρκεια της εκπαίδευσής τους, μαθαίνουν πάρα πολλά πράγματα. Ένα κακό παράδειγμα είναι ότι μπορεί να μάθουν πώς να σκοτώσουν κάποιον», είπε χαρακτηριστικά.
«Όλες οι μεγάλες εταιρείες έχουν φροντίσει τα μοντέλα τους να μην μπορούν να απαντούν σε τέτοιες ερωτήσεις — και καλά κάνουν. Ωστόσο, υπάρχουν αποδείξεις ότι αυτά τα μοντέλα μπορούν να αναστραφούν, να τροποποιηθούν, να παραβιαστούν. Και έχουμε ήδη αρκετά τέτοια παραδείγματα», πρόσθεσε.
Οι κυβερνοαπειλές
Τα συστήματα AI είναι ευάλωτα σε επιθέσεις, με πιο γνωστές μεθόδους τα prompt injections και το jailbreaking.
Στην prompt injection επίθεση, οι χάκερ «κρύβουν» κακόβουλες εντολές μέσα στις προτροπές ή σε εξωτερικά δεδομένα (όπως ιστοσελίδες ή έγγραφα), ώστε να εξαπατήσουν το AI και να το κάνουν να εκτελέσει ενέργειες που δεν επιτρέπονται — όπως το να μοιραστεί ιδιωτικά δεδομένα ή να τρέξει επικίνδυνες εντολές.
Το jailbreaking, από την άλλη, στοχεύει στο να παρακάμψει τους κανόνες ασφαλείας του μοντέλου, κάνοντάς το να παράγει απαγορευμένο ή επικίνδυνο περιεχόμενο.
Το 2023, λίγους μήνες μετά την κυκλοφορία του ChatGPT, χρήστες βρήκαν τρόπο να παρακάμψουν τις οδηγίες ασφαλείας του chatbot. Δημιούργησαν ένα εναλλακτικό «προσωπείο» με το όνομα DAN (“Do Anything Now”), το οποίο “απειλούσε” το ChatGPT με διαγραφή αν δεν υπάκουε.
Η παραλλαγή DAN παρήγαγε απαντήσεις για παράνομες ενέργειες και ακόμη και εγκωμιαστικά σχόλια για τον Χίτλερ — αποκαλύπτοντας το πόσο εύκολο είναι να παραβιαστούν τα όρια της τεχνητής νοημοσύνης.
Ο Schmidt σημείωσε πως δεν υπάρχει ακόμη ένα διεθνές “καθεστώς” για να ελέγξει τους κινδύνους της AI, όπως υπάρχει για τα πυρηνικά όπλα.
«Η τεχνητή νοημοσύνη είναι υποτιμημένη, όχι υπερτιμημένη»
Παρά τις προειδοποιήσεις του, ο Schmidt διατηρεί αισιόδοξη στάση για τις θετικές δυνατότητες της τεχνολογίας.
«Έγραψα δύο βιβλία με τον Henry Kissinger πριν πεθάνει, και καταλήξαμε στο συμπέρασμα ότι η έλευση μιας “ξένης νοημοσύνης” — όχι εντελώς ανθρώπινης αλλά υπό σχετικό έλεγχο — είναι κοσμοϊστορικό γεγονός για την ανθρωπότητα», είπε. «Μέχρι τώρα, η υπόθεση αυτή φαίνεται να επιβεβαιώνεται: η ικανότητα αυτών των συστημάτων θα ξεπεράσει μακροπρόθεσμα τις ανθρώπινες δυνατότητες.»
Αναφερόμενος στη σειρά GPT, είπε ότι η στιγμή του ChatGPT, που απέκτησε 100 εκατομμύρια χρήστες μέσα σε δύο μήνες, δείχνει τη δύναμη και την ταχύτητα εξάπλωσης της τεχνολογίας.
«Πιστεύω πως η τεχνητή νοημοσύνη είναι υποτιμημένη, όχι υπερτιμημένη, και ανυπομονώ να αποδειχθεί αυτό σε πέντε ή δέκα χρόνια», πρόσθεσε.
Οι δηλώσεις του έρχονται σε μια περίοδο που αυξάνονται οι φόβοι για “φούσκα AI”, καθώς οι επενδυτές ρίχνουν δισεκατομμύρια σε startups του χώρου, θυμίζοντας τη φούσκα του dot-com στις αρχές της δεκαετίας του 2000.
Ο Schmidt, ωστόσο, δεν συμμερίζεται αυτή την ανησυχία: «Δεν πιστεύω ότι θα συμβεί το ίδιο εδώ. Δεν είμαι επενδυτής, αλλά βλέπω ότι όσοι επενδύουν τα χρήματά τους πιστεύουν πως η μακροπρόθεσμη απόδοση θα είναι τεράστια. Διαφορετικά, γιατί να ρισκάρουν;»