Καθώς όλο και περισσότεροι άνθρωποι βασίζονται στην ΑΙ για να συντάσσουν email, να λαμβάνουν αποφάσεις και να λύνουν δύσκολα προβλήματα, γλωσσολόγοι ψυχολόγοι αρχίζουν να ανησυχούν ότι η γλώσσα και η ίδια η σκέψη μας γίνεται λιγότερο ποικιλόμορφη, σαν προϊόν της μηχανής.
Ο κίνδυνος της γλωσσικής, γνωσιακής και πολιτιστικής ομογενοποίησης «είναι πραγματικά τρομακτικός» λέει στο περιοδικό Nature ο Ζιβάρ Σουράτι, διδακτορικός φοιτητής στο Πανεπιστήμιο της Νότιας Καλιφόρνιας στο Λος Άντζελες.
Σε μελέτη που δημοσιεύτηκε τον Μάρτιο στο Trends in Cognitive Sciences των εκδόσεων Cell, ο Σουράτι και οι συνεργάτες του υποστήριζαν ότι η επίδραση των μεγάλων γλωσσικών μοντέλων –της τεχνολογίας στην οποία βασίζονται τα chatbot όπως το ChatGPT- μοιάζει με το φαινόμενο της «ΜακΝτοναλντοποίησης», τον τρόπο με τον οποίο η αποτελεσματικότητα και η τυποποίηση της βιομηχανίας fast-food επηρέασε την κοινωνία και οδήγησε σε περισσότερη ομοιμορφία.
Η μελέτη δεν ήταν η μόνη που κατέληγε σε ένα τέτοιο συμπέρασμα. Πολυάριθμες μελέτες έχουν δείξει ότι η ΑΙ περιορίζουν την ποικιλομορφία στη γλώσσα, τη δημιουργικότητα και τις πολιτιστικές αξίες.
Και, δεδομένου ότι η AI είναι μια τεχνολογία που διαμορφώνει την πληροφορία αντί απλώς να τη μεταδίδει, μπορεί επίσης να επηρεάσει τον τρόπο που σκεφτόμαστε, συμπεριφερόμαστε και διαμορφώνουμε γνώμη.
Σκέψη της αγέλης
Ο μεγάλος κίνδυνος είναι η ομαδική σκέψη, λέει η Έμιλι Γουένγκερ του Πανεπιστημίου Duje στη Βόρεια Καρολίνα. «Υποφέρουμε ως κοινωνία όταν αποσιωπούμε τις αποκλίνουσες φωνές» προειδοποιεί.
Σε φετινή μελέτη στο PNAS Nexus, η Γουένγκερ και οι συνεργάτες της εξέτασαν 22 γλωσσικά μοντέλα και 102 ανθρώπους σε τρεις δημιουργικές δοκιμασίες, ζητώντας τους μεταξύ άλλων να βρουν εναλλακτικές ονομασίες για μια σειρά από καθημερινά αντικείμενα. Η ανάλυση έδειξε ότι τα LLM έδιναν πιο πρωτότυπες απαντήσεις από τους ανθρώπους, όμως οι απαντήσεις τους έμοιαζαν μεταξύ τους περισσότερο από ό,τι οι ανθρώπινες.
Άλλη μελέτη που παρουσιάστηκε φέτος ως προδημοσίευση στο arXiv εξέτασε σύντομες ιστορίες που είχαν γραφτεί είτε από ανθρώπους είτε από πέντε διαφορετικά LLM. Διαπίστωσε ότι οι ιστορίες της ΑΙ έμοιαζαν μεταξύ τους ως προς τα αφηγηματικά χαρακτηριστικά –πλοκή, χαρακτήρες κλπ- περισσότερο από ότι οι ιστορίες που γράφτηκαν από τους εθελοντές.
Πέρα του ότι τείνει να ισοπεδώνει τη γλώσσα, η AI μπορεί να επηρεάσει και τη δημιουργικότητα. Σε μελέτη που δημοσιεύτηκε το 2024 στο Science Advances, εθελοντές κλήθηκαν να γράψουν σύντομες ιστορίες για συγκεκριμένα θέματα. Ορισμένοι από αυτούς μπορούσαν να ζητήσουν τη βοήθεια ενός LLM, ενώ άλλοι όχι.
Τα κείμενα της ΑΙ κρίθηκαν πιο πρωτότυπα και ευχάριστα από ανεξάρτητους αξιολογητές, ταυτόχρονα όμως ήταν και πιο παρόμοια μεταξύ τους από ό,τι οι ιστορίες που γράφτηκαν από τους εθελοντές.
Άλλες έρευνες δείχνουν ότι η χρήση εργαλείων ΑΙ μπορεί να κάνει τους ανθρώπους πιο δημιουργικούς αλλά παράλληλα περιορίζει την ποικιλία των ιδεών τους. Μετα-ανάλυση που παρουσιάστηκε τον Απρίλιο ως προδημοσίευση στο PsyArXiv διαπίστωνε ότι η ομογενοποίηση της ΑΙ είναι περισσότερο εμφανής στην παραγωγή ιδεών, ειδικά σε περίπλοκες δοκιμασίες.
Παρόμοια ευρήματα δίνουν μελέτες στον πραγματικό κόσμο, επισημαίνει το Nature. Φετινή έρευνα στο Technology in Society εξέτασε 400.000 επιστημονικές μελέτες και διαπίστωνε ότι, μετά το ντεμπούτο του ChatGPT στα τέλη του 2022, ο αριθμός δημοσιεύσεων ανά ερευνητή αυξήθηκε, ωστόσο οι δημοσιεύσεις αυτές έγιναν πιο παρόμοιες σε περιεχόμενο και γλωσσικό ύφος.
Στο ίδιο συμπέρασμα κατέληγε φετινή μελέτη του Σουράτι στο Nature Human Behaviour: η γλωσσική ποικιλία σε ειδησεογραφικά άρθρα, επιστημονικές δημοσιεύσεις και αναρτήσεις στην πλατφόρμα Reddit μειώθηκαν μετά την παρουσίαση του ChatGPT.
Τεχνικοί και ψυχολογικοί παράγοντες
Τα LLM φαίνεται επίσης ότι μπορούν να επηρεάσουν τις πολιτικές μας απόψεις. Μελέτη που πραγματοποιήθηκε το 2024 πριν από τις προεδρικές εκλογές στις ΗΠΑ, και παρουσιάστηκε αργότερα σε συνέδριο, έδειχνε ότι τα μοντέλα ΑΙ ήταν προκατειλημμένα υπέρ του Δημοκρατικού Τζο Μπάιντεν και έκαναν τους οπαδούς του Τραμπ να τον βλέπουν λιγότερο ευνοϊκά.
Τα LLM λειτουργούν προβλέποντας ποια λέξη είναι στατιστικά πιθανότερο να ακολουθεί μια άλλη. Αυτό όμως σημαίνει ότι συχνά χρησιμοποιούν την πιο προφανή επιλογή. Φετινή μελέτη στο Science Advances έδειχνε ότι ένα LLM στο οποίο είχε δοθεί μυστικά η οδηγία να υποστηρίζει μια συγκεκριμένη άποψη για θέματα όπως η θανατική ποινή επηρέαζε τις απόψεις των χρηστών ακόμα και αν είχαν ενημερωθεί για τις προκαταλήψεις του μοντέλου.
Για τον Σουράτι, ο τρόπος με τον οποίο η ΑΙ κατευθύνει την ανθρώπινη σκέψη θυμίζει το δυστοπικό μυθιστόρημα 1984 του Τζορτζ Όργουελ. «Ο τρόπος με τον οποίο μιλάμε επηρεάζει τον τρόπο με τον οποίο σκεφτόμαστε και συλλογιζόμαστε» λέει ο ερευνητής.
Τα αίτια του φαινομένου της ομογενοποίησης είναι τεχνικά αλλά και ψυχολογικά, εκτιμούν οι ειδικοί. Πρώτον, τα μοντέλα μπορεί να εκπαιδεύονται σε δεδομένα με περιορισμένη ποικιλομορφία. Δεύτερον, επιβραβεύονται όταν δίνουν πειστικές απαντήσεις, όχι πρωτότυπες ιδέες. Και τρίτον, είναι σχεδιασμένα να ικανοποιούν τους χρήστες τους, οι οποίοι δεν συχνά δεν ενδιαφέρονται για την πρωτοτυπία.
Ένας άλλος λόγος είναι η εκπαίδευση μοντέλων με δεδομένα που παράγονται από άλλα μοντέλα, κάτι που τελικά οδηγεί σε μείωση της ποικιλομορφίας στις απαντήσεις τους.
Οι παράγοντες αυτοί μπορεί να ωθήσουν τους ανθρώπους να γράφουν και να σκέφτονται όλο και περισσότερο σαν μηχανές. Περυσινή προδημοσίευση στο SSRN έδειχνε ότι τα LLM δίνουν υψηλότερη βαθμολογία σε βιογραφικά σημειώματα που είχαν γράψει τα ίδια, από ό,τι σε βιογραφικά που είχαν συνταχθεί από ανθρώπους ή άλλα μοντέλα. Η τάση αυτή θα μπορούσε να ασκήσει πιέσεις στους ανθρώπους να συμμορφώνονται με τα κριτήρια της ΑΙ.
Το φαινόμενο θα μπορούσε να αντιμετωπιστεί με τεχνικές λύσεις, όπως η διεύρυνση της ποικιλομορφίας στα δεδομένα με τα οποία εκπαιδεύονται τα μοντέλα.
ΑΙ με έμφαση στη διαφορετικότητα
Μια άλλη παρέμβαση στη διαδικασία εκπαίδευσης δοκιμάστηκε στην πρωτοβουλία DARLING, η οποία επιβραβεύει απαντήσεις που δεν είναι μόνο σωστές αλλά επιπλέον διαφέρουν από άλλες απαντήσεις. Ανάλυση που παρουσιάστηκε ως προδημοσίευση στο arXiv διαπίστωνε ότι η προσέγγιση αυτή βελτίωσε τόσο την ποιότητα όσο και την ποικιλία των απαντήσεων.
Υπάρχουν πάντως και ειδικοί που θεωρούν ότι το φαινόμενο της ομογενοποίησης είναι απίθανο να οδηγήσει σε σοβαρές κοινωνικές επιπτώσεις. Ο Αλμπέρτο Ατσέρμπι, γνωσιακός ανθρωπολόγος στο Πανεπιστήμιο του Τρέντο στην Ιταλία, παραπέμπει στο παράδειγμα της παγκοσμιοποίησης. Ως αποτέλεσμα «είχαμε λιγότερες γλώσσες, αλλά στη συνέχεια εμφανίστηκαν νέες μικροκουλτούρες σε άλλα μέρη» λέει ο ερευνητής.
Σε γενικές γραμμές, προσθέτει, «οι πολιτισμοί φαίνεται ότι έχουν μεγάλη ανθεκτικότητα απέναντι στην υπερβολική ομογενοποίηση», καθώς οι άνθρωποι συχνά αποφεύγουν τον κομφορμισμό και αναζητούν τη δική τους, ξεχωριστή θέση.
Ας μην ξεχνάμε, εξάλλου, πως πολλοί άνθρωποι δεν βλέπουν με καλό μάτι την ΑΙ και σίγουρα δεν θέλουν να ακούγονται σαν μηχανή.
Για τον λόγο αυτό, κάποιοι αρχίζουν να αποφεύγουν να χρησιμοποιούν φρασεολογία που παραπέμπει σε μοντέλο ΑΙ.
Αντιστέκονται έτσι στην ομογενοποίηση και γίνονται δημιουργικοί για να ξεχωρίσουν.
- in.gr