Σε «αφοπλισμό» της τεχνητής νοημοσύνης, μέσω αυστηρής ρύθμισης και περιορισμών στη χρήση της για πολεμικούς σκοπούς, κάλεσε ο Πάπας Λέων, προειδοποιώντας παράλληλα για τους κινδύνους μιας τεχνολογικής επανάστασης που καθοδηγείται από την «ειδωλολατρία του κέρδους».
Στην πρώτη του εγκύκλιο από την ανάληψή του στο παπικό αξίωμα πέρυσι, ο γεννημένος στις ΗΠΑ Πάπας προειδοποιεί ότι οι «αδιαφανείς αλγόριθμοι», που ελέγχονται από ισχυρές ιδιωτικές εταιρείες, απειλούν με «νέες μορφές αποανθρωποποίησης», αναφέρουν οι FT.
Παρουσιάζοντας την επιστολή στους 1,4 δισεκατομμύρια Καθολικούς του κόσμου στο Βατικανό το πρωί της Δευτέρας, ο Πάπας δήλωσε ότι είχε καταλήξει σε «ανησυχητικά συμπεράσματα» σχετικά με τη φύση της τεχνητής νοημοσύνης και την ανάγκη για επείγουσα δράση προκειμένου να περιοριστεί ο αρνητικός της αντίκτυπος. Παραλληλίζοντας την τεχνολογία αυτή με τις υποσχέσεις και τους κινδύνους της πυρηνικής τεχνολογίας, ο Πάπας Λέων ζήτησε αυστηρή ρύθμιση ώστε να τεθεί υπό δημόσιο έλεγχο, με βάση την «ηθική κρίση».
«Η τεχνητή νοημοσύνη πρέπει να αφοπλιστεί», είπε σε εκατοντάδες καθολικούς κληρικούς και λαϊκούς που είχαν συγκεντρωθεί στο Βατικανό. «Η λέξη είναι ισχυρή, το ξέρω, αλλά επιλέχθηκε σκόπιμα». «Η Εκκλησία εργάζεται εδώ και καιρό για τον πυρηνικό αφοπλισμό», είπε.
Ανησυχία για τους αλγορίθμους
«Η τεχνητή νοημοσύνη πρέπει τώρα να αφοπλιστεί — να απελευθερωθεί από λογικές που μετατρέπονται σε όργανο κυριαρχίας, αποκλεισμού και θανάτου. Όπως και η πυρηνική ενέργεια, πρέπει να είναι στην υπηρεσία όλων και του κοινού καλού. Οι αποφάσεις σχετικά με την τεχνολογία δεν πρέπει ποτέ να διαχωρίζονται από τη συνείδηση και την ευθύνη».
«Ο ποντίφικας εξέφρασε την ανησυχία του για τους «αλγόριθμους που μπορούν να εμποδίσουν την πρόσβαση στην υγειονομική περίθαλψη, την απασχόληση και την ασφάλεια με βάση δεδομένα που είναι μολυσμένα από προκαταλήψεις και αδικίες».
Η εγκύκλιος — που θεωρείται μια έγκυρη ηθική διδασκαλία για τις σύγχρονες προκλήσεις — έρχεται εν μέσω μιας αυξανόμενης αντίδρασης κατά της τεχνητής νοημοσύνης, από αμερικανικές εταιρείες τεχνολογίας που κερδίζουν κυβερνητικές συμβάσεις σε ευαίσθητους τομείς όπως η υγειονομική περίθαλψη έως γονείς που διαμαρτύρονται για πιθανές βλάβες στα παιδιά.
Στην παρουσίαση της Δευτέρας παρευρέθηκε επίσης ο Κρίστοφερ Όλα, συνιδρυτής της εταιρείας τεχνητής νοημοσύνης Anthropic, ο οποίος αναγνώρισε ότι «τα ζητήματα που θέτει η τεχνητή νοημοσύνη είναι ευρύτερα από την ερευνητική κοινότητα της τεχνητής νοημοσύνης».
«Οι προγραμματιστές τεχνητής νοημοσύνης καθοδηγούνται από “ένα σύνολο κινήτρων και περιορισμών που ενίοτε έρχονται σε σύγκρουση με το να πράττουν το σωστό”», ανέφερε ο συνιδρυτής της Anthropic, αναφερόμενος μεταξύ άλλων στην «πίεση να παραμείνουν εμπορικά βιώσιμοι ώστε να βρίσκονται στην πρώτη γραμμή της έρευνας, στις γεωπολιτικές πιέσεις, καθώς και στις παλαιότερες και πιο απλές πιέσεις της υπερηφάνειας και της φιλοδοξίας».
Κριτικάροντας το τρανσουμανιστικό και μεταανθρωπιστικό όραμα (το κίνημα αξιοποίησης της τεχνολογίας για την υπέρβαση των βιολογικών περιορισμών) ισχυρών επιχειρηματιών της Σίλικον Βάλεϊ, όπως ο Πιτερ Τίελ και ο Ιλον Μασκ , ο Πάπας έγραψε στην εγκύκλιο Magnifica Humanitas ότι η τεχνητή νοημοσύνη αναπτύσσεται σε ένα πνευματικό περιβάλλον στο οποίο ορισμένοι άνθρωποι θεωρούνται «λιγότερο χρήσιμοι, λιγότερο επιθυμητοί και λιγότερο άξιοι».
Η ιστορική απολογία για τη δουλεία
Είπε ότι η Καθολική Εκκλησία είχε την υποχρέωση να μιλήσει ανοιχτά για τις νέες μορφές εκμετάλλευσης που μπορούν να προκύψουν από την αυξανόμενη χρήση της τεχνητής νοημοσύνης, συμπεριλαμβανομένου του ενοχλητικού περιεχομένου, της εξόρυξης σπάνιων ορυκτών και της διακίνησης.
Η αποτυχία να εκφραστεί κανείς με σαφήνεια, είπε, θα αποτελούσε επανάληψη της «παρελθούσας συνενοχής και τυφλότητας απέναντι στην αδικία της δουλείας», την οποία, όπως ανέφερε, ορισμένοι πάπες είχαν ιστορικά συμβάλει να νομιμοποιήσουν και την οποία η Εκκλησία καθυστέρησε να καταγγείλει.
Σε μια ιστορική απολογία για τη δουλεία, ο Λέων έγραψε: «Αυτό αποτελεί πληγή στη χριστιανική μνήμη, από την οποία δεν μπορούμε να θεωρούμε ότι είμαστε αποκομμένοι». «Γι’ αυτό, στο όνομα της Εκκλησίας, ζητώ συγχώρεση», πρόσθεσε.
Ο Πάπας Λέων ήταν ιδιαίτερα επικριτικός ως προς τη χρήση της τεχνητής νοημοσύνης (AI) σε συγκρούσεις, προειδοποιώντας για την «αυξανόμενη ευκολία» με την οποία μπορούν να αναπτυχθούν αυτόνομα οπλικά συστήματα, καθιστώντας τα «λιγότερο υποκείμενα στον ανθρώπινο έλεγχο».
Η τεχνητή νοημοσύνη έχει χρησιμοποιηθεί κατά τη διάρκεια της εκστρατείας του Προέδρου των ΗΠΑ Ντόναλντ Τραμπ στο Ιράν για την ενίσχυση της στρατιωτικής λήψης αποφάσεων. «Δεν επιτρέπεται να αναθέτουμε θανατηφόρες ή άλλως μη αναστρέψιμες αποφάσεις σε τεχνητά συστήματα», έγραψε, ζητώντας μια «αναγνωρίσιμη και επαληθεύσιμη» αλυσίδα ευθύνης και «αποτελεσματικό, αυτογνωστικό και υπεύθυνο ανθρώπινο έλεγχο» επί των στόχων βομβαρδισμού.
«Όταν μια απόφαση για επίθεση γίνεται αυτοματοποιημένη ή αδιαφανής, αυξάνεται ο κίνδυνος αποποίησης ευθύνης», έγραψε. «Όλα τα συστήματα που χρησιμοποιούνται σε πολεμικό περιβάλλον πρέπει να εγγυώνται τη δυνατότητα αναδρομής και ανακατασκευής των διαδικασιών λήψης αποφάσεων, έτσι ώστε η λογοδοσία και η ευθύνη να μην καταρρέουν πάνω στη «μηχανή».»
Ο «πόλεμος» του Πάπα Λέοντα XIV με το Λευκό Οίκο
Ο Πάπας έχει ήδη επικρίνει δημοσίως την αμερικανική εκστρατεία στο Ιράν, εξοργίζοντας τον Τραμπ και πυροδοτώντας έντονη αντιπαράθεση με την Ουάσινγκτον σχετικά με τη σύγκρουση. Ο αμερικανός αντιπρόεδρος Τζει Ντι Βάνς και ο υπουργός Άμυνας Πίτ Χέγκσεθ προσπάθησαν να υποστηρίξουν ότι η επίθεση στο Ιράν ήταν σύμφωνη με τον Χριστιανισμό, επικαλούμενοι τη θεωρία του «δίκαιου πολέμου» της Καθολικής Εκκλησίας.
Ωστόσο, ο ποντίφικας απέρριψε αυτόν τον ισχυρισμό στην εγκύκλιο, γράφοντας: «Χωρίς να θίγεται το δικαίωμα στην αυτοάμυνα με την αυστηρότερη έννοια, είναι σημαντικό να επιβεβαιωθεί ότι η θεωρία του «δίκαιου πολέμου», η οποία έχει χρησιμοποιηθεί πάρα πολύ συχνά για να δικαιολογήσει κάθε είδους πόλεμο, είναι πλέον ξεπερασμένη».
Δείτε εδώ την εγκύκλιο του Πάπα Λέοντα για την τεχνητή νοημοσύνη