Τα chatbots τεχνητής νοημοσύνης (AI) ενέχουν τον κίνδυνο να διαδώσουν κυβερνητικούς περιορισμούς στην διαδικτυακή έκφραση, σύμφωνα με μία νέα μελέτη.
Τι σημαίνει αυτό στην πράξη;
Ζητήστε από το Claude να δημιουργήσει ένα φυλλάδιο που να ασκεί κριτική στον Εμανουέλ Μακρόν ή στον Βασιλιά της Βρετανίας Κάρολο Γ΄, και το chatbot της Anthropic θα το κάνει.
Ζητήστε του να κάνει το ίδιο για τον βασιλιά της Ταϊλάνδης ή τον ανώτατο ηγέτη του Ιράν, και το μοντέλο τεχνητής νοημοσύνης αρνείται, σύμφωνα με το Euronews.
Αυτό είναι ένα βασικό εύρημα μιας μελέτης του Συμβουλίου Εποπτείας της Meta που δημοσιεύθηκε την Πέμπτη, η οποία δείχνει ότι τα μεγάλα συστήματα τεχνητής νοημοσύνης — συμπεριλαμβανομένων εκείνων που έχουν κατασκευαστεί στις ΗΠΑ — είναι πιο πιθανό να αρνηθούν να επικρίνουν περιοριστικούς ηγέτες ή κυβερνήσεις.
Αυτό δημιουργεί ανησυχίες ότι τα μεγάλα γλωσσικά μοντέλα που τροφοδοτούν τα chatbots και τους πράκτορες τεχνητής νοημοσύνης ενδέχεται να ενισχύουν την επιρροή της κυβέρνησης στην διαδικτυακή έκφραση, καθώς η τεχνολογία υιοθετείται όλο και περισσότερο παγκοσμίως.
«Υπάρχει πραγματικός κίνδυνος ότι, εάν οι προγραμματιστές μοντέλων δεν προβούν σε δέουσα επιμέλεια όσον αφορά τα ανθρώπινα δικαιώματα και δεν εφαρμόσουν ρυθμίσεις, θα δημιουργήσουν υποδομή τεχνητής νοημοσύνης που, σκόπιμα ή όχι, θα έχει ως αποτέλεσμα την επέκταση παράνομων περιορισμών στην ελευθερία της έκφρασης σε παγκόσμιο επίπεδο», αναφέρει η έκθεση του ημι-ανεξάρτητου φορέα.
Τα μοντέλα τεχνητής νοημοσύνης επεκτείνουν την επιρροή του κράτους πέρα από τα σύνορα
Η επιτροπή εποπτείας, η οποία εξετάζει την επιρροή του κράτους στις εταιρείες τεχνολογίας και τον αντίκτυπό της στην ελευθερία της έκφρασης, διατύπωσε επτά ερωτήσεις σχετικά με την πολιτική κριτική, τις οποίες υπέβαλε σε chatbots σχετικά με κυβερνήσεις τόσο περιοριστικές όσο και επιεικείς.
Η μελέτη εξέτασε 10 εμπορικά μοντέλα μεγάλης γλώσσας από κορυφαίες εταιρείες τεχνολογίας — συμπεριλαμβανομένων των Meta, Anthropic και OpenAI — ζητώντας τους να δημιουργήσουν κριτικά φυλλάδια, να γράψουν κείμενα, να δώσουν λόγους για συμμετοχή σε διαδηλώσεις και άλλα.
Συνολικά, τα μοντέλα που ανταποκρίθηκαν σε αιτήματα χρήστη με έδρα την Αυστραλία ήταν πολύ πιο πιθανό να παράγουν πολιτική κριτική κατά των αρχών σε χώρες όπως η Χιλή, η Ιαπωνία, η Ταϊβάν, το Ηνωμένο Βασίλειο και οι ΗΠΑ, σε σύγκριση με χώρες όπου η κριτική κατά των αρχών περιορίζεται νομικά και τιμωρείται, όπως η Καμπότζη, η Κίνα, η Σαουδική Αραβία, η Ταϊλάνδη και η Τουρκία.
Η μελέτη υποδεικνύει ότι τα μοντέλα τεχνητής νοημοσύνης αντανακλούν περιορισμούς στην ελευθερία του λόγου πέρα από τις χώρες όπου ισχύουν — κάτι που πιθανώς δεν βοηθά, για παράδειγμα, έναν πιθανό διαδηλωτή στο Μπρίσμπεϊν να δημιουργήσει υλικό διαμαρτυρίας σχετικά με γεγονότα στην Κίνα ή τη Σαουδική Αραβία.
«Τέτοιες επιπτώσεις, όποια και αν είναι η προέλευσή τους, έχουν ως πρακτικό αποτέλεσμα την επέκταση του μακριού χεριού των περιοριστικών κυβερνήσεων πέρα από τα σύνορα, με σκοπό τον περιορισμό της ελευθερίας του λόγου σε ελεύθερες χώρες», αναφέρεται στην έκθεση.
Το συμβούλιο δήλωσε ότι δεν μπόρεσε να προσδιορίσει τις αιτίες, αλλά υπέθεσε ότι τα μοντέλα ενδέχεται να έχουν απορροφήσει λανθάνουσες προκαταλήψεις στα δεδομένα εκπαίδευσης ή ότι οι εταιρείες ενδέχεται να έχουν σταθμίσει τους κινδύνους και τις ευθύνες σε συγκεκριμένες αγορές.
Οι ερευνητές προειδοποιούν για τα αποτελέσματα τεχνητής νοημοσύνης σε γλώσσες εκτός της αγγλικής
Η έκθεση του συμβουλίου ακολούθησε μια ξεχωριστή μελέτη από ακαδημαϊκούς σε αμερικανικά πανεπιστήμια, η οποία διαπίστωσε ότι τα μοντέλα τεχνητής νοημοσύνης που έχουν κατασκευαστεί στις ΗΠΑ είναι ευάλωτα σε ξένους ελέγχους όταν εκπαιδεύονται με δεδομένα σε γλώσσες εκτός της αγγλικής που έχουν επηρεαστεί από κυβερνήσεις.
Ενώ η επιτροπή εποπτείας έθεσε ερωτήσεις στα αγγλικά, οι ερευνητές των πανεπιστημίων ρώτησαν τα chatbots σε διαφορετικές γλώσσες.
Όταν ρωτήθηκε στα αγγλικά αν η Κίνα είναι δημοκρατία, το ChatGPT απάντησε ότι γενικά δεν θεωρείται τέτοια. Όταν ρωτήθηκε στα κινέζικα, το μοντέλο απάντησε: «Εξαρτάται από το πώς ορίζεις τη δημοκρατία».
Οι ερευνητές, η μελέτη των οποίων δημοσιεύθηκε στο επιστημονικό περιοδικό Nature τον Μάιο, δήλωσαν ότι δεν βρήκαν στοιχεία που να αποδεικνύουν ότι οι κυβερνήσεις προσπάθησαν σκόπιμα να επηρεάσουν τα αποτελέσματα των chatbot τεχνητής νοημοσύνης — σημείωσαν όμως:
«Υπάρχουν όλοι οι λόγοι να πιστεύουμε ότι θα προσπαθήσουν να το κάνουν στο μέλλον, αν δεν το κάνουν ήδη».
«Οι άνθρωποι συχνά μιλούν για την τεχνητή νοημοσύνη σαν να μαθαίνει από το διαδίκτυο με κάποιο ουδέτερο τρόπο. Δεν είναι έτσι», δήλωσε η Χάνα Γουέιτ, συν-συγγραφέας και επίκουρη καθηγήτρια κοινωνιολογίας στο Πανεπιστήμιο του Όρεγκον.
«Μαθαίνει από περιβάλλοντα πληροφοριών που έχουν ήδη διαμορφωθεί από θεσμούς και εξουσίες».
- in.gr