Οι μαθητές και οι φοιτητές που χρησιμοποιούν την τεχνητή νοημοσύνη για να αντιγράφουν στις εργασίες τους πρόκειται να βρεθούν αντιμέτωποι με ένα νέο σύστημα υδατογράφησης, το οποίο θα αποκαλύπτει πότε ένα κείμενο έχει δημιουργηθεί από υπολογιστή. Η εταιρεία τεχνητής νοημοσύνης Anthropic ανακοίνωσε ότι θα ενσωματώσει κρυφά μοτίβα στο κείμενο που παράγεται από το ρομπότ Claude, εφαρμόζοντας στην ουσία ένα αόρατο ψηφιακό αποτύπωμα στα περάσματα των λέξεων.
Το υδατογράφημα θα είναι μη ανιχνεύσιμο από τον άνθρωπο, αλλά οι εκπαιδευτικοί θα μπορούν να περνούν το κείμενο από ένα πρόγραμμα υπολογιστή που θα το επισημαίνει ως προϊόν AI. Τα εργαλεία τεχνητής νοημοσύνης, όπως το Claude και το ChatGPT, έχουν οδηγήσει σε μια επιδημία αντιγραφής, με περισσότερους από εννέα στους δέκα προπτυχιακούς φοιτητές να τα χρησιμοποιούν για τις αξιολογήσεις τους.
Οι φοιτητές αναφέρουν ότι η χρήση AI τους εξοικονομεί χρόνο και παράγει εργασίες υψηλότερης ποιότητας, ωστόσο χιλιάδες έχουν ήδη τιμωρηθεί για τη χρήση τέτοιων εργαλείων. Στο πλαίσιο αυτό, η δανική κυβέρνηση δήλωσε την περασμένη εβδομάδα ότι οι φοιτητές θα πρέπει να υπερασπίζονται τις εργασίες τους προφορικά για την καταπολέμηση της απάτης.
Πώς λειτουργεί ο αόρατος εντοπισμός
Οι αλλαγές της Anthropic εισάγονται στο πλαίσιο των νόμων της Ευρωπαϊκής Ένωσης, οι οποίοι απαιτούν από τις εταιρείες τεχνητής νοημοσύνης να προσθέσουν λειτουργίες «διαφάνειας» που επιτρέπουν την επαλήθευση κειμένων, εικόνων και βίντεο. Η Anthropic ανέφερε ότι το Claude θα «υφαίνει ένα ανεπαίσθητο υδατογράφημα απευθείας στο ίδιο το κείμενο», προσθέτοντας ότι αυτό δεν θα αλλάξει το νόημα ή την ποιότητα του αποτελέσματος.
Αν και η εταιρεία δεν διευκρίνισε τις λεπτομέρειες, τα περισσότερα εργαλεία υδατογράφησης κειμένου ενσωματώνουν σύνθετα κρυφά μοτίβα επιλέγοντας συγκεκριμένες λέξεις κατά τη δημιουργία. Για παράδειγμα, σε μια πρόταση, η επιλογή μιας συγκεκριμένης συνώνυμης λέξης ταιριάζει με το μοτίβο του υδατογραφήματος και λειτουργεί ως σήμα παραγωγής από AI.
Ένα μεγάλο δείγμα κειμένου περιλαμβάνει δεκάδες τέτοια σήματα, επιτρέποντας στον ελεγκτή AI να συμπεράνει με βεβαιότητα την προέλευσή του. Το σύστημα χρησιμοποιεί μοτίβα λέξεων αντί για μεμονωμένες λέξεις, ώστε να μην εξουδετερώνεται εύκολα.
Παγκόσμια εφαρμογή και αντιδράσεις
Η Anthropic προειδοποίησε ότι το κείμενο θα εξακολουθεί να επισημαίνεται ως παραχθέν από AI ακόμη και αν χρησιμοποιηθούν εργαλεία για την επεξεργασία ή τη συντόμευσή του. Η πράξη για την Τεχνητή Νοημοσύνη της ΕΕ περιλαμβάνει έναν κώδικα διαφάνειας που τέθηκε σε ισχύ και απαιτεί υδατογράφηση έως τον Δεκέμβριο. Η OpenAI έχει υπογράψει τον κώδικα αλλά δεν έχει διευκρινίσει τη μέθοδό της, ενώ η Google έχει ήδη παρουσιάσει το σύστημα SynthID, σύμφωνα με την Telegraph.
Η Anthropic θα εφαρμόσει τη λειτουργία παγκοσμίως σε νέα και υπάρχοντα συστήματα, καθώς και στα παραγόμενα αρχεία. Ο Pepe Di’Iasio, γενικός γραμματέας της Ένωσης Ηγετών Σχολείων και Κολεγίων, δήλωσε: «Οι εκπαιδευτικοί θα καλωσορίσουν πραγματικά οτιδήποτε τους βοηθά να εντοπίζουν πού οι μαθητές χρησιμοποιούν AI και να εξασφαλίσουν ίσους όρους ανταγωνισμού για όλους τους μαθητές τους. Ελπίζουμε ότι και άλλες πλατφόρμες θα ακολουθήσουν το παράδειγμά της και αυτό θα γίνει βιομηχανικό πρότυπο. Οι μαθητές που είναι αποφασισμένοι να χρησιμοποιήσουν AI δεν υπάρχει αμφιβολία ότι θα προσπαθήσουν να βρουν τρόπους να παρακάμψουν τις διασφαλίσεις, αλλά αυτό είναι τουλάχιστον ένα βήμα προς τη σωστή κατεύθυνση.
Η κατάχρηση της AI δεν είναι μόνο άδικη για τους άλλους, αλλά σημαίνει επίσης ότι οι μαθητές δεν πραγματοποιούν ουσιαστικά τη μάθηση που χρειάζονται για να κατανοήσουν σωστά το αντικείμενο που σπουδάζουν και να προοδεύσουν με επιτυχία στην εκπαίδευση.»