Η ESET προειδοποιεί ότι η χρήση chatbot τεχνητής νοημοσύνης για ιατρικές συμβουλές κρύβει σημαντικούς κινδύνους, τόσο για την υγεία των χρηστών όσο και για την προστασία των προσωπικών τους δεδομένων. Το θέμα αποκτά ιδιαίτερη σημασία καθώς όλο και περισσότεροι χρήστες στρέφονται σε εργαλεία GenAI για να ερμηνεύσουν συμπτώματα, εξετάσεις ή θεραπευτικές επιλογές.
Τα chatbot έχουν εξελιχθεί σε δημοφιλή τρόπο αναζήτησης ιατρικών πληροφοριών, καθώς είναι διαθέσιμα 24 ώρες το 24ωρο και δίνουν άμεσες απαντήσεις σχεδόν για κάθε ερώτημα. Η τάση αυτή ενισχύεται από το γεγονός ότι πολλά εθνικά συστήματα υγείας βρίσκονται υπό πίεση, με αποτέλεσμα αρκετοί άνθρωποι να επιχειρούν πρώτα μια «κατ’ οίκον» αξιολόγηση του προβλήματός τους πριν απευθυνθούν σε γιατρό.
Η ESET επισημαίνει ότι η ευκολία της τεχνολογίας δεν σημαίνει και ασφάλεια, ειδικά όταν το chatbot επιχειρεί να υποκαταστήσει την ιατρική κρίση. Όπως τονίζει η εταιρεία κυβερνοασφάλειας, το ζήτημα δεν αφορά μόνο πιθανές λανθασμένες απαντήσεις, αλλά και τον τρόπο με τον οποίο διαχειρίζονται οι πάροχοι τα ευαίσθητα δεδομένα υγείας.
Κίνδυνοι για την υγεία
Ένα από τα βασικά προβλήματα είναι οι λεγόμενες «ψευδαισθήσεις» της τεχνητής νοημοσύνης, δηλαδή οι απαντήσεις που ακούγονται πειστικές αλλά μπορεί να είναι λανθασμένες. Μελέτη του Πανεπιστημίου της Οξφόρδης που δημοσιεύθηκε στο Nature Medicine διαπίστωσε ότι τα μεγάλα γλωσσικά μοντέλα έδιναν συχνά διαφορετικές απαντήσεις σε πολύ παρόμοιες ερωτήσεις και παρείχαν συνδυασμό σωστών και λανθασμένων συμβουλών.
Η επικεφαλής ερευνήτρια της μελέτης, Ρεμπέκα Πέιν, προειδοποίησε ότι η τεχνητή νοημοσύνη δεν είναι ακόμη έτοιμη να αναλάβει τον ρόλο του γιατρού και ότι μπορεί να αποτύχει να αναγνωρίσει μια επείγουσα κατάσταση. Αυτό σημαίνει ότι ο χρήστης ενδέχεται να καθησυχαστεί λανθασμένα ή να καθυστερήσει να ζητήσει πραγματική ιατρική βοήθεια.
Ζήτημα ιδιωτικότητας
Η δεύτερη μεγάλη ανησυχία αφορά την ιδιωτικότητα, καθώς οι χρήστες μπορεί να μοιραστούν εξαιρετικά ευαίσθητες πληροφορίες με πλατφόρμες που δεν διέπονται από τους ίδιους κανόνες με τους γιατρούς ή τα νοσοκομεία. Η ESET τονίζει ότι τέτοια δεδομένα ενδέχεται να χρησιμοποιηθούν για εκπαίδευση μοντέλων, να διαρρεύσουν ή να κοινοποιηθούν σε τρίτους.
Το υλικό σημειώνει ότι τα δεδομένα υγείας διατηρούν την αξία τους για μεγάλο διάστημα και δεν μπορούν να «αντικατασταθούν» όπως ένας κλεμμένος τραπεζικός λογαριασμός, γεγονός που τα καθιστά ιδιαίτερα ευάλωτα σε κατάχρηση. Επιπλέον, πληροφορίες που αφορούν ασφάλιση ή ιατρικές υπηρεσίες μπορούν να αξιοποιηθούν για απάτες, εκβιασμό ή ψευδείς αιτήσεις αποζημίωσης.
Όταν τα δεδομένα διακινούνται
Η ανησυχία εντείνεται όταν τα δεδομένα υγείας περνούν από πολλούς ενδιάμεσους φορείς, αυξάνοντας την πιθανότητα κυβερνοεπίθεσης ή διαρροής. Πολλά εργαλεία AI στον χώρο της υγείας δεν υπόκεινται σε σαφές ρυθμιστικό πλαίσιο προστασίας προσωπικών δεδομένων στις ΗΠΑ, κάτι που αφήνει κενά ως προς την ασφάλεια των χρηστών.
Για τον λόγο αυτό, η ESET προτείνει στους χρήστες να ελέγχουν προσεκτικά πώς διαχειρίζεται η κάθε υπηρεσία τα δεδομένα, αν τα χρησιμοποιεί για εκπαίδευση και αν τα μοιράζεται με τρίτους. Η σύσταση είναι να αντιμετωπίζονται τέτοια εργαλεία ως βοηθητικά και όχι ως υποκατάστατα της ιατρικής φροντίδας.
Τι πρέπει να κάνουν οι χρήστες
Η εταιρεία συνιστά να αποφεύγονται τα γενικής χρήσης chatbots για θέματα υγείας και, όπου είναι δυνατόν, να προτιμώνται εξειδικευμένα εργαλεία που έχουν σχεδιαστεί ειδικά για ιατρικές ερωτήσεις. Παράλληλα, οι χρήστες καλούνται να μην ανεβάζουν ιατρικά έγγραφα, αποτελέσματα εξετάσεων ή άλλα ευαίσθητα αρχεία χωρίς να γνωρίζουν με ακρίβεια πώς θα χρησιμοποιηθούν.
Στις πρακτικές συμβουλές περιλαμβάνονται επίσης η αποφυγή παροχής αναγνωριστικών στοιχείων, η απενεργοποίηση λειτουργιών εκπαίδευσης ή αποθήκευσης ιστορικού και η επαλήθευση κάθε πληροφορίας από επαγγελματία υγείας ή επίσημη πηγή. Το βασικό μήνυμα είναι σαφές: η AI μπορεί να βοηθήσει στην προετοιμασία μιας ιατρικής επίσκεψης, αλλά δεν μπορεί να αντικαταστήσει τη διάγνωση και την ανθρώπινη κρίση.