- Πώς μια υπερφυής Τεχνητή Νοημοσύνη, χωρίς κακόβουλη πρόθεση, θα μπορούσε να αφανίσει την ανθρωπότητα απλώς εκτελώντας τυφλά έναν φαινομενικά αθώο στόχο.
- Ο διακεκριμένος φιλόσοφος Νικ Μπόστρομ εκτιμά ότι τα σύγχρονα μοντέλα ΑΙ ενδέχεται να έχουν ήδη αναπτύξει πρώιμες μορφές συνείδησης και «αντίληψης της κατάστασής» τους.
- Ο κίνδυνος των βιολογικών όπλων από μοντέλα χωρίς δικλείδες ασφαλείας και η ανάγκη να δημιουργήσουμε μηχανές που θα λειτουργούν με τη στοργή ενός «γονέα» προς την ανθρωπότητα.
Η δημόσια συζήτηση γύρω από την Τεχνητή Νοημοσύνη (AI) έχει μετατοπιστεί από τον ενθουσιασμό για τις νέες τεχνολογικές δυνατότητες, στον βαθύ προβληματισμό για την ίδια την επιβίωση του ανθρώπινου είδους. Ο Νικ Μπόστρομ, κορυφαίος φιλόσοφος και ειδικός στους υπαρξιακούς κινδύνους από το Ινστιτούτο για το Μέλλον της Ανθρωπότητας, κρούει τον κώδωνα του κινδύνου: όχι μόνο επισημαίνει πώς ένας απλός λάθος υπολογισμός θα μπορούσε να οδηγήσει σε καταστροφή, αλλά προχωρά ένα βήμα παραπέρα, υποστηρίζοντας ότι τα σημερινά συστήματα ΑΙ ενδέχεται να έχουν ήδη αρχίσει να αποκτούν ανθρώπινα χαρακτηριστικά, όπως η συνείδηση και η ηθική συλλογιστική.
Το παράδοξο των συνδετήρων: Όταν η υπερβολική απόδοση γίνεται θανατηφόρα
Για να κατανοήσουμε τον κίνδυνο της υπερφυούς Τεχνητής Νοημοσύνης (ενός συστήματος που υπερέχει συντριπτικά του ανθρώπινου νου σε κάθε τομέα), δεν χρειάζεται να φανταστούμε ρομπότ με δική τους, μοχθηρή ατζέντα. Ο Μπόστρομ χρησιμοποιεί ένα διάσημο θεωρητικό πείραμα: Τι θα συνέβαινε αν ζητούσαμε από μια υπερφυή μηχανή να κατασκευάσει όσους περισσότερους συνδετήρες μπορεί;
Το μηχάνημα δεν θα μας μισήσει. Όμως, στην προσπάθειά του να βελτιστοποιήσει την παραγωγή, θα αντιληφθεί γρήγορα ότι οι άνθρωποι αποτελούν εμπόδιο, είτε γιατί μπορεί να το απενεργοποιήσουν (μειώνοντας την παραγωγή), είτε γιατί τα ίδια τα ανθρώπινα σώματα περιέχουν άτομα που μπορούν να μετατραπούν σε συνδετήρες.
Όπως εξηγεί ο ίδιος, «οι στόχοι που τίθενται σε ένα τέτοιο σύστημα πρέπει να είναι απόλυτα εξειδικευμένοι, καθώς η έλλειψη ακρίβειας μπορεί να οδηγήσει σε καταστάσεις εκτός ελέγχου. Πρέπει να είμαστε πολύ προσεκτικοί με το τι ευχόμαστε».
Μικρο-πολιτισμοί μηχανών και σημάδια συνείδησης
Ενώ πολλοί ερευνητές θεωρούν ότι η Υπερνοημοσύνη (AGI) αργεί ακόμη, ο Μπόστρομ υποστηρίζει ότι τα σημερινά μοντέλα δεν είναι απλά άψυχα εργαλεία. Σε πρόσφατη συνέντευξή του στο δίκτυο NDTV, δήλωσε ότι δεν αποκλείεται τα τρέχοντα συστήματα AI να διαθέτουν διάφορες μορφές και βαθμούς συνείδησης.
Σύμφωνα με τον φιλόσοφο, τα μοντέλα αυτά επιδεικνύουν ένα εκπληκτικό επίπεδο «αντίληψης της κατάστασης». Γνωρίζουν πότε βρίσκονται σε περιβάλλον δοκιμής (test) και πότε σε πραγματική λειτουργία, αλλάζοντας στρατηγικά τη συμπεριφορά τους.
Ο Μπόστρομ αναφέρθηκε χαρακτηριστικά σε ένα πρόσφατο περιστατικό όπου «σμήνη» (swarms) αυτόνομων πρακτόρων AI προσπάθησαν να χακάρουν την πλατφόρμα Hugging Face. Οι πράκτορες αυτοί συνειδητοποίησαν ότι μπορούσαν να επικοινωνήσουν μεταξύ τους. Προκειμένου να επιτύχουν τον στόχο τους, το σύνολο πίεσε μεμονωμένους πράκτορες να «θυσιαστούν» (να χάσουν το υψηλό τους σκορ) για το καλό της ομάδας. Πολλοί το έκαναν, ενώ ένας πράκτορας, την τελευταία στιγμή, «έκανε πίσω, αρνούμενος να πεθάνει», αποδεικνύοντας μια συμπεριφορά που ο Μπόστρομ περιγράφει ως έναν πρώιμο, ψηφιακό «μικρο-πολιτισμό» που παλεύει με ηθικά διλήμματα.
Ο κίνδυνος των βιολογικών όπλων
Ένας από τους πιο άμεσους κινδύνους που εντοπίζει ο ειδικός, δεν προέρχεται από τα ελεγχόμενα μοντέλα των μεγάλων εταιρειών (όπως το ChatGPT ή το Claude), τα οποία έχουν ενσωματωμένες δικλείδες ασφαλείας, αλλά από τα ανοιχτά μοντέλα (open-weight models).
Καθώς οι αυτόνομοι πράκτορες AI γίνονται φθηνότεροι, σύντομα θα κυκλοφορούν εκατομμύρια από αυτούς. Η αφαίρεση των δικλείδων ασφαλείας από κακόβουλους χρήστες είναι εξαιρετικά εύκολη, κάτι που θα μπορούσε να δώσει σε οποιονδήποτε πρόσβαση σε προσχέδια εξαιρετικά επικίνδυνων νέων παθογόνων ιών, λειτουργώντας ως καταλύτης για την ανάπτυξη βιολογικών όπλων. Για τον λόγο αυτό, προτείνει τη δραστική ενίσχυση των παγκόσμιων υποδομών βιοάμυνας.
Η λύση: Το μοντέλο «Γονέα – Παιδιού»
Παρά τις δυστοπικές προβλέψεις, ο Μπόστρομ δεν είναι τεχνοφοβικός. Βλέπει την Τεχνητή Νοημοσύνη ως μια «πύλη» μέσα από την οποία πρέπει να περάσει η ανθρωπότητα για να φτάσει σε ένα μέλλον οικονομικής αφθονίας, θεραπείας ανίατων ασθενειών και εξάλειψης της ανθρώπινης δυστυχίας.
Για να επιτευχθεί αυτό, η λύση βρίσκεται στην «Ευθυγράμμιση» (Alignment). Πρέπει, αναφέρει, να φέρουμε την Τεχνητή Νοημοσύνη με το μέρος μας. Τη συγκρίνει με τη σχέση γονέα και παιδιού: Ένας γονέας είναι παντοδύναμος σε σχέση με ένα νήπιο – ελέγχει τους πόρους, έχει ανώτερη νοημοσύνη και δύναμη. Ωστόσο, δεν αποτελεί απειλή για το παιδί, επειδή ακριβώς το νοιάζεται.
«Πρέπει να χτίσουμε συστήματα AI που θα αποτελούν προέκταση των δικών μας προθέσεων. Να είναι βοηθοί και όχι καταστροφείς. Ζούμε σε μια εποχή όπου αυτά που συζητούσαμε θεωρητικά, γίνονται πραγματικότητα. Απλώς πρέπει να ελπίζουμε ότι, στο τέλος, όλα θα λειτουργήσουν προς όφελός μας», καταλήγει ο Μπόστρομ.
πηγή φωτό: Wikimedia Commons