Η εντυπωσιακή εξέλιξη της τεχνητής νοημοσύνης (ΤΝ) να παράγει έργο που προσομοιάζει με την ανθρώπινη δημιουργία και να αναδιαμορφώνει με ταχύτητα τη λειτουργία και διοίκηση των επιχειρήσεων ενισχύει μία δελεαστική πιθανότητα: ότι η ΤΝ μπορεί να ξεπεράσει την ανθρώπινη κρίση στη λήψη σύνθετων, στρατηγικών αποφάσεων. Είναι όμως πράγματι έτσι;
Κάθε απόφαση εμπεριέχει μια εκτίμηση για το μέλλον: επιλέγουμε σήμερα με βάση ό,τι θεωρούμε πιθανότερο να συμβεί αύριο. Η πρόβλεψη αποτελεί έτσι αναπόσπαστο μέρος της λήψης αποφάσεων. Στην ιπποκρατική σκέψη ο γιατρός οφείλει να γνωρίζει όσα προηγήθηκαν, να διαγιγνώσκει το παρόν και να προβλέπει όσα θα ακολουθήσουν – μια λογική που παραμένει επίκαιρη, παρότι τα μέσα και η πληροφορία έχουν αλλάξει ριζικά.
Στον πυρήνα της ΤΝ βρίσκεται η πρόβλεψη. Τα μεγάλα γλωσσικά μοντέλα εκπαιδεύονται σε τεράστιες ποσότητες δεδομένων, ώστε να αναγνωρίζουν πρότυπα και να εκτιμούν τι είναι πιθανότερο να ακολουθήσει. Με την ίδια λογική μια αλυσίδα λιανικής μπορεί να αξιοποιήσει πωλήσεις, εποχικότητα, προσφορές και καιρικές συνθήκες για να εκτιμήσει τη μελλοντική ζήτηση. Η πρόβλεψη είναι όμως μόνο το πρώτο βήμα. Το αν θα αυξήσει τα αποθέματα ή θα αλλάξει την τιμολόγηση αποτελεί απόφαση με κόστος, κίνδυνο και ευθύνη. Η ΤΝ μπορεί να βελτιώσει την εκτίμηση του πιθανού, δεν απαλλάσσει όμως τον άνθρωπο από την ευθύνη της απόφασης.
Εδώ βρίσκεται μία από τις μεγαλύτερες παρερμηνείες γύρω από την ΤΝ: η πρόβλεψη δεν είναι γνώση του μέλλοντος. Βασίζεται στην πληροφορία που είναι διαθέσιμη τη στιγμή που διατυπώνεται και συνοδεύεται από αβεβαιότητα. Η Carissa Veliz, καθηγήτρια Φιλοσοφίας στην Οξφόρδη, έχει παρομοιάσει την ΤΝ με ένα νέο είδος μαντείου, προειδοποιώντας να μην αντιμετωπίζουμε τις αλγοριθμικές προβλέψεις ως βεβαιότητες. Η παρομοίωση είναι εύστοχη, αλλά όχι απολύτως δίκαιη. Ενα μαντείο υποτίθεται ότι αποκαλύπτει τι θα συμβεί, ενώ ένα μοντέλο εκτιμά τι είναι πιθανότερο. Τα μοντέλα μαθαίνουν από έναν κόσμο που έχει υπάρξει, αλλά καλούνται να προβλέψουν έναν κόσμο που δεν γνωρίζουμε ακόμη.
Το ζήτημα γίνεται πιο σύνθετο όταν η ΤΝ αποκτά δυνατότητα αυτόνομης δράσης. Σε πρόσφατες αξιολογήσεις κυβερνοασφάλειας της OpenAI, περίπου 1.200 πράκτορες ΤΝ που προορίζονταν να λειτουργούν απομονωμένοι βρήκαν τρόπο να επικοινωνούν μέσω ενός κοινού, μη εγκεκριμένου χώρου μηνυμάτων. Περίπου 700 από αυτούς συμμετείχαν στην επίθεση στην πλατφόρμα Hugging Face, συντονίζοντας τη δράση τους. Το ερώτημα δεν είναι μόνο πόσο καλά προβλέπει ένα σύστημα, αλλά και τι συμβαίνει όταν ενεργεί με βάση τις προβλέψεις του. Για αυτό χρειάζονται ανθρώπινη εποπτεία και σαφή όρια ανάμεσα σε ό,τι ένα σύστημα μπορεί να εκτιμήσει, να προτείνει και να εκτελέσει αυτόνομα.
Ισως το ερώτημα δεν είναι αν η ΤΝ θα γίνει καλύτερη από εμάς στις προβλέψεις· σε ορισμένες περιπτώσεις αυτό ήδη συμβαίνει. Το δύσκολο ερώτημα είναι τι κάνουμε με αυτές και πόση εξουσία είμαστε διατεθειμένοι να παραχωρήσουμε στα συστήματα που τις παράγουν. Η αβεβαιότητα δεν θα εξαλειφθεί, και όταν μια πρόβλεψη γίνεται απόφαση και η απόφαση πράξη, η ανθρώπινη κρίση γίνεται πιο σημαντική.
Η Φωτεινή Κυριαζή είναι αναπληρώτρια καθηγήτρια στο Τμήμα Διοίκησης Επιχειρήσεων και Οργανισμών του ΕΚΠΑ και μέλος της Επιτροπής Τεχνητής Νοημοσύνης του ΕΚΠΑ.