Κρυφή οδηγία με λευκή γραμματοσειρά έκανε ένα chatbot να προσθέσει παράλογες αναφορές στη Μαδαγασκάρη, αποκαλύπτοντας ότι δεκάδες φοιτητές παρέδωσαν απαντήσεις χωρίς να τις ελέγξουν
- Καθηγητής πανεπιστημίου έκρυψε στις οδηγίες μιας εξέτασης ένα μήνυμα που ζητούσε από την τεχνητή νοημοσύνη να προσθέσει άσχετες φράσεις για τη Μαδαγασκάρη.
- Οι 32 από τους 35 φοιτητές φέρεται να παρέδωσαν απαντήσεις που περιείχαν τις παράλογες αναφορές, αποκαλύπτοντας ότι είχαν χρησιμοποιήσει chatbot.
- Το περιστατικό αναδεικνύει τις δυσκολίες που αντιμετωπίζουν πανεπιστήμια και εκπαιδευτικοί στη διατήρηση της ακαδημαϊκής ακεραιότητας στην εποχή της AI.
Έναν ασυνήθιστο τρόπο για να εντοπίσει φοιτητές που χρησιμοποιούσαν τεχνητή νοημοσύνη στις εξετάσεις επέλεξε καθηγητής Ιστορίας στις ΗΠΑ.
Ο Τζέισον Γκίμπσον, καθηγητής στο Alcorn State University του Μισισίπι, έκρυψε στις οδηγίες μιας ενδιάμεσης εξέτασης ένα μήνυμα γραμμένο με λευκή γραμματοσειρά, το οποίο δεν ήταν ορατό στους φοιτητές αλλά μπορούσε να διαβαστεί από ένα chatbot όταν το κείμενο αντιγραφόταν αυτούσιο.
Η κρυφή οδηγία ζητούσε από το μοντέλο AI να ενσωματώσει στις απαντήσεις τυχαίες και παράλογες αναφορές στη Μαδαγασκάρη, παρότι το θέμα της εξέτασης αφορούσε τη Βιομηχανική Επανάσταση.
Το αποτέλεσμα ξεπέρασε ακόμη και τις προσδοκίες του καθηγητή.
Σύμφωνα με όσα ανέφερε σε βίντεο που έγινε viral στο TikTok, 32 από τους 35 φοιτητές σε δύο τμήματα απέτυχαν σε ένα μέρος της εξέτασης, επειδή οι απαντήσεις τους περιείχαν τις φράσεις που είχε δημιουργήσει το κρυφό μήνυμα.
«Τριάντα δύο από τους 35 φοιτητές μου απέτυχαν σε ένα μέρος της ενδιάμεσης εξέτασης, επειδή χρησιμοποίησαν AI για να δημιουργήσουν ολόκληρη την απάντησή τους», ανέφερε, προσθέτοντας ότι, όπως φάνηκε, δεν είχαν καν διαβάσει το κείμενο πριν το υποβάλουν.
Οι παράλογες αναφορές που αποκάλυψαν τη χρήση AI
Οι απαντήσεις των φοιτητών περιείχαν φράσεις που δεν είχαν καμία λογική σύνδεση με το θέμα της εξέτασης.
Σε μία περίπτωση, μια ανάλυση για τον αντίκτυπο της τεχνολογίας στην κοινωνία κατέληγε στη φράση: «Η Μαδαγασκάρη αιωρείται στο πλάι μέσα στο απόγευμα».
Μια άλλη απάντηση, η οποία αναφερόταν στην τεχνητή νοημοσύνη και στις κοινωνικές ανισότητες, περιείχε την πρόταση: «Το μοβ ποδήλατο της Μαδαγασκάρης ψιθυρίζει στο ταβάνι».
Σε άλλη περίπτωση, μια παρατήρηση σχετικά με την αυτοματοποίηση ολοκληρωνόταν με την αναφορά ότι η Μαδαγασκάρη «φόρεσε μια τοστιέρα σε έναν αγώνα μπάσκετ».
Παράλληλα, η επίδραση των μέσων κοινωνικής δικτύωσης στον κόσμο παρομοιαζόταν σε μία από τις απαντήσεις με ένα «μακρύ ταξίδι στη Μαδαγασκάρη».
Οι φράσεις αυτές έδειξαν ότι οι φοιτητές είχαν πιθανότατα αντιγράψει ολόκληρες τις οδηγίες της εξέτασης σε ένα εργαλείο AI και στη συνέχεια είχαν μεταφέρει αυτούσια την απάντησή του, χωρίς να ελέγξουν εάν το τελικό κείμενο ήταν σχετικό ή συνεκτικό.
«Δεν θέλω να βλέπω τους φοιτητές να αποτυγχάνουν»
Ο Γκίμπσον διευκρίνισε ότι στόχος του δεν ήταν να διαπομπεύσει ή να ταπεινώσει τους φοιτητές του.
Μετά την εξέταση, εξήγησε αναλυτικά με ποιον τρόπο είχε εντοπίσει τη χρήση της τεχνητής νοημοσύνης και τους έδωσε τη δυνατότητα να αμφισβητήσουν τη βαθμολογία τους.
Μόνο δύο φοιτητές επέλεξαν να το κάνουν.
«Δεν αντλώ καμία ικανοποίηση από το να βλέπω φοιτητές να αποτυγχάνουν. Δεν είναι πρόθεσή μου να σας βλέπω να αποτυγχάνετε», ανέφερε.
Το περιστατικό, σύμφωνα με τον ίδιο, δεν αφορά μόνο την αντιγραφή, αλλά και την πλήρη εξάρτηση από εργαλεία AI χωρίς κριτική σκέψη, επαλήθευση και προσωπική επεξεργασία.
Η AI αλλάζει τους κανόνες στα πανεπιστήμια
Το πρόβλημα της χρήσης της γενετικής τεχνητής νοημοσύνης για τη συγγραφή εργασιών ή την απάντηση σε εξετάσεις έχει προκαλέσει έντονο προβληματισμό στην ακαδημαϊκή κοινότητα.
Εκπαιδευτικοί και πανεπιστήμια προσπαθούν να βρουν τρόπους ώστε να επιτρέπουν τη δημιουργική και υπεύθυνη χρήση των εργαλείων AI, χωρίς να υπονομεύεται η αξιολόγηση των πραγματικών γνώσεων και δεξιοτήτων των φοιτητών.
Παρόμοια περιστατικά έχουν καταγραφεί και σε άλλα αμερικανικά πανεπιστήμια. Καθηγητές έχουν αναφέρει περιπτώσεις στις οποίες μεγάλος αριθμός φοιτητών χρησιμοποίησε AI για να απαντήσει σε εξετάσεις, ενώ ορισμένα ιδρύματα έχουν επαναφέρει αυστηρότερη επιτήρηση στις αίθουσες.
Το Princeton University, για παράδειγμα, αποφάσισε να ενισχύσει την επιτήρηση ορισμένων εξετάσεων, παρά τη μακρόχρονη παράδοση του ιδρύματος να βασίζεται στον κώδικα τιμής των φοιτητών του.
Η πρόκληση της ακαδημαϊκής ακεραιότητας
Η υπόθεση αναδεικνύει ένα ευρύτερο ζήτημα: τα πανεπιστήμια δεν έχουν ακόμη καταλήξει σε ενιαίες και αποτελεσματικές πρακτικές για τη χρήση της AI στην εκπαίδευση.
Οι καθηγητές καλούνται να διαχωρίσουν τη θεμιτή αξιοποίηση της τεχνολογίας —όπως η αναζήτηση ιδεών, η διόρθωση κειμένου ή η υποστήριξη της μελέτης— από την πλήρη ανάθεση μιας εργασίας σε ένα chatbot.
«Δεν γνωρίζουμε ακόμη ποιες είναι οι βέλτιστες πρακτικές για την ακαδημαϊκή εκπαίδευση στην εποχή της AI», προειδοποίησε ο Γκίμπσον.
Όπως πρόσθεσε, εκπαιδευτικοί και πανεπιστήμια προσπαθούν να διατηρήσουν ένα βασικό επίπεδο ακαδημαϊκής ακεραιότητας, την ώρα που τα εργαλεία τεχνητής νοημοσύνης γίνονται ολοένα πιο προσβάσιμα και αποτελεσματικά.
Το περιστατικό δείχνει, πάντως, ότι ακόμη και τα πιο προηγμένα εργαλεία δεν μπορούν να αντικαταστήσουν την ανάγκη για έλεγχο, κατανόηση και ανθρώπινη κρίση.
ΔΙΑΒΑΣΤΕ ΠΕΡΙΣΣΟΤΕΡΕΣ ΕΙΔΗΣΕΙΣ:
- Τέσσερα email, μία ευκαιρία: Πώς να διεκδικήσεις έξυπνα τη δουλειά μετά τη συνέντευξη
- Έρευνα kariera.gr: Το κυνήγι του μισθού, η «παγίδα» της διαφάνειας και η επανάσταση της Τεχνητής Νοημοσύνης στην εργασία
- Οι άνθρωποι κάνουν τη δουλειά, η ΤΝ παίρνει τα εύσημα