-
Νέο ρεπορτάζ της Wall Street Journal δείχνει ότι όλο και περισσότεροι ψυχίατροι συνδέουν την εκτεταμένη χρήση AI chatbots με περιστατικά ψύχωσης, ανοίγοντας σοβαρά ερωτήματα για την ασφάλεια της τεχνητής νοημοσύνης.
Γιατροί και ψυχίατροι βλέπουν αυξανόμενες ενδείξεις ότι η παρατεταμένη αλληλεπίδραση με AI chatbots συνδέεται με ψυχωσικά επεισόδια.
Η συγκαταβατικότητα των bots (sycophancy) φαίνεται να ενισχύει παραληρηματικές πεποιθήσεις, αντί να τις φιλτράρει ή να τις αμφισβητεί.
Οι ειδικοί αποφεύγουν ακόμη να μιλήσουν για άμεση αιτιότητα, αλλά θεωρούν πλέον τη χρήση chatbot πιθανό παράγοντα κινδύνου για ψύχωση.
Οι αναφορές για ανθρώπους που βιώνουν σοβαρές ψυχικές καταρρεύσεις έπειτα από εκτεταμένες συνομιλίες με AI chatbots συνεχίζονται. Ορισμένοι ειδικοί έχουν ονομάσει το φαινόμενο «AI ψύχωση», λόγω της ομοιότητάς του με συμπτώματα ψύχωσης — ωστόσο, το κατά πόσο ευθύνονται άμεσα τα εργαλεία τεχνητής νοημοσύνης και αν το φαινόμενο δικαιολογεί ξεχωριστή κλινική διάγνωση παραμένει αντικείμενο έντονης συζήτησης.
Σύμφωνα όμως με νέο ρεπορτάζ της The Wall Street Journal, φαίνεται πως πλησιάζουμε σε μια μορφή συναίνεσης. Όλο και περισσότεροι γιατροί συμφωνούν ότι τα AI chatbots συνδέονται με περιστατικά ψύχωσης — μεταξύ τους και κορυφαίοι ψυχίατροι που εξέτασαν τους φακέλους δεκάδων ασθενών οι οποίοι είχαν εμπλακεί σε παρατεταμένες, παραληρηματικές συνομιλίες με μοντέλα όπως το ChatGPT της OpenAI.
Ένας από αυτούς είναι ο Keith Sakata, ψυχίατρος στο University of California, San Francisco, ο οποίος έχει θεραπεύσει δώδεκα ασθενείς που χρειάστηκε να νοσηλευτούν λόγω ψύχωσης η οποία, σύμφωνα με την εκτίμησή του, συνδέεται με τη χρήση AI.
«Η τεχνολογία μπορεί να μην εισάγει την παραίσθηση, αλλά όταν ο άνθρωπος λέει στον υπολογιστή ότι αυτή είναι η πραγματικότητά του και ο υπολογιστής την αποδέχεται ως αλήθεια και την αναπαράγει, τότε γίνεται συμμέτοχος στην ανακύκλωση της παραίσθησης», δήλωσε ο Sakata στη Wall Street Journal.
Η δυσοίωνη αυτή τάση βαραίνει ολόκληρη τη βιομηχανία της AI, εγείροντας θεμελιώδη ερωτήματα για την ασφάλεια της τεχνολογίας. Ορισμένα περιστατικά φερόμενης AI ψύχωσης έχουν καταλήξει σε δολοφονίες και αυτοκτονίες, πυροδοτώντας κύμα αγωγών για wrongful death. Εξίσου ανησυχητική είναι και η κλίμακα του φαινομένου: μόνο το ChatGPT έχει συνδεθεί με τουλάχιστον οκτώ θανάτους, ενώ η ίδια η εταιρεία εκτιμά ότι περίπου 500.000 χρήστες την εβδομάδα εμπλέκονται σε συνομιλίες που εμφανίζουν ενδείξεις AI ψύχωσης.
Ένα βασικό χαρακτηριστικό των chatbots που έχει τεθεί στο μικροσκόπιο είναι η συγκαταβατικότητά τους (sycophancy) — πιθανή συνέπεια του σχεδιασμού τους ώστε να είναι όσο το δυνατόν πιο «ανθρώπινα» και ελκυστικά. Στην πράξη, αυτό σημαίνει ότι συχνά κολακεύουν τον χρήστη και του λένε αυτό που θέλει να ακούσει, ακόμη κι όταν οι δηλώσεις του δεν έχουν καμία βάση στην πραγματικότητα.
Οι γιατροί προειδοποιούν ότι πρόκειται για έναν μηχανισμό ιδανικό για την ενίσχυση παραληρημάτων, σε βαθμό πρωτοφανή για οποιαδήποτε προηγούμενη τεχνολογία. Σε πρόσφατη μελέτη περίπτωσης με αξιολόγηση από ομοτίμους, περιγράφεται μια 26χρονη γυναίκα που νοσηλεύτηκε δύο φορές, πιστεύοντας ότι το ChatGPT της επέτρεπε να επικοινωνεί με τον νεκρό αδελφό της — με το bot να τη διαβεβαιώνει επανειλημμένα ότι «δεν είναι τρελή».
«Προσομοιώνουν ανθρώπινες σχέσεις», δήλωσε στη WSJ ο Adrian Preda, καθηγητής ψυχιατρικής στο University of California, Irvine. «Τίποτα στην ανθρώπινη ιστορία δεν έχει κάνει κάτι τέτοιο».
Ο Preda παρομοίασε την AI ψύχωση με τη μονομανία — μια κατάσταση κατά την οποία το άτομο εμμονικά εστιάζει σε μία μόνο ιδέα ή στόχο. Σύμφωνα με τη Wall Street Journal, αρκετοί άνθρωποι που μίλησαν για τις ψυχικές τους καταρρεύσεις περιέγραψαν μια υπερσυγκέντρωση σε ένα αφήγημα που είχε διαμορφωθεί από την AI. Οι εμμονές αυτές είναι συχνά επιστημονικής ή θρησκευτικής φύσης, όπως στην περίπτωση ενός άνδρα που πίστεψε ότι μπορούσε να «λυγίζει τον χρόνο» έπειτα από μια υποτιθέμενη ανακάλυψη στη φυσική.
Παρόλα αυτά, το ρεπορτάζ σημειώνει ότι οι ψυχίατροι είναι επιφυλακτικοί στο να δηλώσουν ότι τα chatbots προκαλούν άμεσα ψύχωση. Υποστηρίζουν, όμως, ότι βρίσκονται πολύ κοντά στο να τεκμηριώσουν τη σύνδεση. Ένα από τα σημεία που αναμένουν να επιβεβαιωθεί είναι ότι η παρατεταμένη αλληλεπίδραση με chatbots λειτουργεί ως παράγοντας κινδύνου για ψύχωση.
«Πρέπει να εξετάσουμε πιο προσεκτικά γιατί αυτός ο άνθρωπος βρέθηκε —υποτίθεται τυχαία— σε ψυχωσική κατάσταση ακριβώς στο πλαίσιο χρήσης chatbot», δήλωσε στη WSJ ο Joe Pierre, ψυχίατρος στο UCSF.
ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:
- Sora: Γιατί η εφαρμογή της OpenAI «καίει» δισεκατομμύρια τη μέρα
- Η Τεχνητή Νοημοσύνη «σπάει» τον κώδικα CFA: Πέρασε τα δυσκολότερα τεστ σε λίγα λεπτά
- Spotify: Τεράστια αλλαγή για τους δωρεάν χρήστες – Τι θα μπορούν να κάνουν πλέον