Πρώην στέλεχος της Google ζητά να επιβραδυνθεί η ανάπτυξη της AI: «Τα παιδιά κινδυνεύουν ήδη»

• Ο πρώην επικεφαλής ασφάλειας της Google προειδοποιεί ότι η τεχνολογική βιομηχανία μπορεί να επαναλάβει τα λάθη της εποχής των social media στην προστασία των ανηλίκων.
• Ο Siegel αναλαμβάνει τη διεύθυνση του Youth AI Safety Institute της Common Sense Media, με στόχο την έρευνα και την ανεξάρτητη αξιολόγηση εργαλείων AI.
• Google και OpenAI υποστηρίζουν ότι διαθέτουν μέτρα προστασίας, ενώ ο Siegel ζητά ισχυρότερη επαλήθευση ηλικίας, σαφέστερες επιλογές για τους γονείς και κοινά πρότυπα ασφάλειας.

Η συζήτηση για τους κινδύνους της τεχνητής νοημοσύνης συχνά στρέφεται σε σενάρια ενός μακρινού μέλλοντος. Ο Tom Siegel, πρώην αντιπρόεδρος του τομέα εμπιστοσύνης και ασφάλειας της Google, ζητά να κοιτάξουμε πρώτα τι συμβαίνει σήμερα, καθώς παιδιά και έφηβοι χρησιμοποιούν chatbots για μάθηση, αναζήτηση πληροφοριών και προσωπικές συζητήσεις.

Μιλώντας στο Reuters, ο Siegel κάλεσε τις εταιρείες να επιβραδύνουν την ανάπτυξη και διάθεση νέων λειτουργιών AI έως ότου ενισχύσουν τις δικλίδες προστασίας των ανηλίκων. Εκτίμησε ότι η τεχνολογική βιομηχανία κινδυνεύει να επαναλάβει τα λάθη που έγιναν με τα μέσα κοινωνικής δικτύωσης και αμφισβήτησε ότι μπορεί να αντιμετωπίσει το ζήτημα μόνη της, χωρίς εξωτερικό έλεγχο. Πρόκειται για προειδοποίηση και εκτίμηση του Siegel, όχι για τεκμηριωμένη σύγκριση που αποδεικνύει ότι το AI έχει ήδη προκαλέσει μεγαλύτερη συνολική βλάβη από τα social media.

Ένα νέο ινστιτούτο για την ασφάλεια των ανηλίκων

Ο Siegel αναλαμβάνει πρώτος εκτελεστικός διευθυντής του Youth AI Safety Institute, που δημιούργησε η μη κερδοσκοπική οργάνωση Common Sense Media. Το ινστιτούτο έχει ως στόχο να ερευνά πώς επηρεάζει η τεχνητή νοημοσύνη τα παιδιά, να αξιολογεί προϊόντα και να αναπτύσσει πρότυπα ασφάλειας.

Μεταξύ των υποστηρικτών του βρίσκονται η Anthropic και το OpenAI Foundation. Ο Siegel δηλώνει ότι επιδιώκει να συνεργαστεί με τις εταιρείες AI και με ανεξάρτητους φορείς, ώστε τα εργαλεία τους να μπορούν να αξιολογούνται με κοινά κριτήρια. Παρομοιάζει την ιδέα με τις δοκιμές ασφάλειας των αυτοκινήτων: ο χρήστης πρέπει να έχει μια κατανοητή εικόνα των κινδύνων πριν χρησιμοποιήσει ένα προϊόν.

Οι ανησυχίες για την ψυχική υγεία

Ο Siegel αναφέρεται σε σοβαρούς πιθανούς κινδύνους, μεταξύ των οποίων η επιβάρυνση ανθρώπων που βρίσκονται σε ψυχική κρίση ή στρέφονται σε ένα chatbot ως αποκλειστικό συνομιλητή τους. Η δημόσια συζήτηση έχει ενταθεί και εξαιτίας αγωγών που αποδίδουν σε αλληλεπιδράσεις με συστήματα AI ρόλο σε τραγικές υποθέσεις.

Σε μία από αυτές, η οικογένεια του 16χρονου Adam Raine, ο οποίος πέθανε από αυτοκτονία, έχει στραφεί δικαστικά κατά της OpenAI, προβάλλοντας ισχυρισμούς για τις συνομιλίες του με το ChatGPT. Οι ισχυρισμοί της αγωγής δεν αποτελούν δικαστική διαπίστωση αιτιώδους ευθύνης. Η OpenAI έχει εκφράσει τη συμπαράστασή της στην οικογένεια και έχει δηλώσει ότι απαντά στους ισχυρισμούς στο πλαίσιο της δικαστικής διαδικασίας.

Η ανησυχία δεν περιορίζεται στις περιπτώσεις κρίσης. Ορισμένοι έφηβοι χρησιμοποιούν AI companions ως φίλους ή συντρόφους, γεγονός που εγείρει ερωτήματα για το πώς σχεδιάζονται αυτές οι εφαρμογές και τι συμβαίνει όταν ένας ανήλικος αναπτύσσει συναισθηματική εξάρτηση από ένα σύστημα που παράγει απαντήσεις.

Τι γνωρίζουμε για την AI και τη μάθηση

Ένα ακόμη θέμα είναι η «γνωστική εκχώρηση»: η ανάθεση στο chatbot εργασιών που διαφορετικά θα απαιτούσαν από τον μαθητή να αναζητήσει πληροφορίες, να οργανώσει τη σκέψη του και να γράψει μόνος του. Ο Siegel εκφράζει φόβους ότι η συστηματική εξάρτηση από τέτοια εργαλεία μπορεί να περιορίσει την εξάσκηση της κριτικής σκέψης.

Μια μελέτη για τη συγγραφή κειμένων με τη βοήθεια AI κατέγραψε διαφορές στα ηλεκτροεγκεφαλογραφικά δεδομένα και στην ανάκληση του περιεχομένου ανάμεσα σε συμμετέχοντες που χρησιμοποίησαν chatbot και σε όσους έγραψαν χωρίς εργαλεία. Η μελέτη είχε 54 συμμετέχοντες στα πρώτα στάδια και έχει δεχθεί μεθοδολογικές επισημάνσεις. Δεν αποδεικνύει ότι η χρήση AI προκαλεί «απώλεια μνήμης» ή μόνιμη μείωση της εγκεφαλικής δραστηριότητας στα παιδιά.

Τι απαντούν Google και OpenAI

Εκπρόσωπος της Google δήλωσε στο Reuters ότι οι λειτουργίες AI στην αναζήτησή της βοηθούν παιδιά και εφήβους να μαθαίνουν, να εξερευνούν και να κατανοούν πληροφορίες. Πρόσθεσε ότι οι γονείς διαθέτουν ελέγχους με τους οποίους μπορούν να απενεργοποιήσουν την πρόσβαση ενός παιδιού στη μηχανή αναζήτησης συνολικά. Ο Siegel ζητά μια πιο συγκεκριμένη δυνατότητα: να μπορούν να απενεργοποιούνται οι απαντήσεις AI μέσα στην αναζήτηση.

Εκπρόσωπος της OpenAI ανέφερε ότι η εταιρεία χρησιμοποιεί δηλωμένη ηλικία, στοιχεία λογαριασμού και ενδείξεις από τη χρήση της υπηρεσίας για να αναγνωρίζει ανήλικους χρήστες. Παραδέχθηκε ότι καμία μέθοδος επαλήθευσης ηλικίας δεν είναι τέλεια και δήλωσε ότι τα συστήματα ελέγχονται και βελτιώνονται συνεχώς, μεταξύ άλλων απέναντι σε προσπάθειες παράκαμψης των μέτρων ασφαλείας.

Το ερώτημα που θέτει ο Siegel είναι ποιος θα ελέγχει την αποτελεσματικότητα αυτών των μέτρων πριν ένα νέο εργαλείο φτάσει στα παιδιά. Η απάντηση, κατά τον ίδιο, δεν μπορεί να αφεθεί αποκλειστικά στις εταιρείες που το αναπτύσσουν.