- Στην ιατρική και τη νομική, η αδυναμία της τεχνητής νοημοσύνης να διακρίνει ειδική ορολογία (π.χ. συγχέοντας τις ιατρικές μονάδες «micro» και «milli») μπορεί να έχει ολέθριες, ακόμη και θανατηφόρες συνέπειες.
- Τα σύγχρονα μεταφραστικά εργαλεία παράγουν κείμενα που διαβάζονται απόλυτα φυσικά, καμουφλάροντας τα νοηματικά λάθη και καθιστώντας τον εντοπισμό τους πολύ πιο δύσκολο σε σχέση με το παρελθόν.
- Η πραγματική τεχνολογική υπέρβαση δεν θα έρθει μέσω της απόλυτης ακρίβειας, αλλά όταν τα συστήματα αποκτήσουν την ικανότητα να αξιολογούν τον εαυτό τους και να εκφράζουν αμφιβολία όταν δεν είναι σίγουρα για το νόημα.
Η βιομηχανία της αυτόματης μετάφρασης καταγράφει πρωτοφανή άνθιση, με τις άμεσες πωλήσεις να αγγίζουν το 1,4 δισ. δολάρια πέρυσι και πλατφόρμες όπως της Google να μεταφράζουν πλέον πάνω από ένα τρισεκατομμύριο λέξεις κάθε μήνα. Για την πλειονότητα των καθημερινών ή εταιρικών αναγκών —όπως τα εσωτερικά έγγραφα και οι περιγραφές προϊόντων— η ακατέργαστη μηχανική μετάφραση αποτελεί την απόλυτα ορθολογική λύση, καθώς το τεράστιο κόστος της ανθρώπινης επιμέλειας δεν δικαιολογείται για τη διόρθωση μικρών, ασήμαντων αποκλίσεων.
Ωστόσο, το τοπίο αλλάζει δραματικά όταν η ακρίβεια και η εγκυρότητα αποτελούν προαπαιτούμενο. Ο Τζόναθαν Ζίμερμαν, ιδρυτής του ελβετικού μη κερδοσκοπικού οργανισμού OKA, εξηγεί ότι η μετάφραση 10.000 άρθρων της Wikipedia βασίζεται μεν στην τεχνητή νοημοσύνη για τα προσχέδια, αλλά απαιτεί αυστηρό ανθρώπινο έλεγχο. Σε πρόσφατη μελέτη του οργανισμού (σε 119 άρθρα και 10 διαφορετικά ζεύγη γλωσσών), το 27% του κειμένου που παρήγαγε η ΑΙ χρειάστηκε διόρθωση, ενώ στο 5-6% των περιπτώσεων η μηχανή είχε αλλοιώσει πλήρως το αρχικό νόημα. Το δίλημμα πλέον για τη βιομηχανία δεν είναι αν η τεχνητή νοημοσύνη είναι επαρκής, αλλά αν είναι τόσο αξιόπιστη ώστε να παρακαμφθεί εντελώς ο άνθρωπος.
Οι επαγγελματίες προειδοποιούν πως βρισκόμαστε μπροστά σε μια νέα, πιο σύνθετη πρόκληση: την ψευδαίσθηση της τελειότητας. Στο παρελθόν, μια κακή αυτόματη μετάφραση ξεχώριζε αμέσως από τη «ρομποτική» της σύνταξη. Σήμερα, τα κείμενα ρέουν αψεγάδιαστα. Στον νομικό κλάδο, η ειδική μεταφράστρια Αριέλα Μπαλτιέ αναφέρει περιπτώσεις όπου η μηχανή μετέφρασε τον γαλλικό όρο για τον «ενάγοντα» ως απλό «αιτούντα» ή μπέρδεψε εντελώς τη γραμματική δομή, μετατρέποντας το ουσιαστικό (π.χ. σύζυγος) σε ρήμα (π.χ. παντρεύεται). Στις ΗΠΑ, παρόμοια μεταφραστικά λάθη σε αιτήσεις ασύλου έχουν οδηγήσει μέχρι και σε καθυστερήσεις αποφυλάκισης κρατουμένων.
Ακόμη πιο επιτακτική είναι η ανάγκη για ανθρώπινη παρουσία στον ιατρικό τομέα. Η μεταφράστρια Κάρολ Μπερόιτερ αναδεικνύει τον κίνδυνο που προκύπτει από την παρερμηνεία συμβόλων, φέρνοντας ως παράδειγμα τη λανθασμένη μετάφραση του ελληνικού γράμματος «μ» (micro) ως milli. Ουσιαστικά, μια τέτοια παραδρομή της μηχανής μπορεί να οδηγήσει στη χορήγηση χιλιαπλάσιας δόσης φαρμάκου σε έναν ασθενή.
Το δομικό μειονέκτημα των σημερινών συστημάτων παραμένει η έλλειψη κριτικής κατανόησης του πλαισίου (context). Όπως εξηγεί ο Φρανσουά Υβόν, διευθυντής ερευνών στο γαλλικό ινστιτούτο CNRS, μια μηχανή μπορεί να ερμηνεύσει τη φράση “translate into Polish” ως εντολή για “βερνίκι παπουτσιών” (polish) αντί για τη μετατροπή κειμένου στην πολωνική γλώσσα. Η λειτουργία αυτών των συστημάτων βασίζεται στην πιθανότητα, και αυτό που είναι πιθανότερο δεν είναι απαραίτητα και το νοηματικά σωστό, ειδικά στον πολύπλοκο κόσμο των ιδιωματισμών και της ορολογίας.