Δικαστικές ποινές, ιατρικές διαγνώσεις, ασφαλιστικές προσφορές. Πρόκειται για αποφάσεις κρίσεως που οι άνθρωποι παίρνουν κάθε μέρα. Πώς όμως παίρνονται αυτές οι αποφάσεις; Με ατελή τρόπο, καταλήγει ένας κορυφαίος σύγχρονος επιστήμονας.
Ακουσα ένα podcast στη σειρά «Sway» με καλεσμένο τον γλυκύτατο, 87χρονο πλέον, βραβευμένο με Νομπέλ Οικονομικών Επιστημών οικονομολόγο και ψυχολόγο Daniel Kahneman. Το μέσον τού πάει, η Kara Swisher, η πιο επιδραστική δημοσιογράφος της Silicon Valley, ήταν εξαιρετική και έτσι είχα την ευκαιρία μιας ευρύτερης επισκόπησης της νέας του θεωρίας, η οποία στην αρχή με ξένισε ιδιαίτερα.
Το θέμα στη λήψη δίκαιων αποφάσεων είναι ο «θόρυβος», υποστηρίζει ο Kahneman. Ο θόρυβος είναι ο όρος που χρησιμοποιεί για τη φυσική μεταβλητότητα που προκαλούν οι άνθρωποι στη λήψη αποφάσεων και αποτελεί το θέμα του νέου (ομώνυμου) βιβλίου του, το οποίο έγραψε με τον Olivier Sibony και τον Cass Sunstein. Ο θόρυβος φυσικά είναι μια πραγματικότητα της ανθρώπινης ποικιλομορφίας. Δημιουργεί ωστόσο διάφορα προβλήματα. Ο Kahneman επιμένει ότι μπορεί να είναι ανεπιθύμητος – ειδικά όταν διακυβεύεται η δικαιοσύνη ενός συστήματος, αφήνοντας τις αποφάσεις υψηλού επιπέδου στις ανθρώπινες ιδιαιτερότητες.
Ο Kahneman υποστηρίζει πως οι εταιρείες και οι ιδιώτες μπορούν να μειώσουν τον «θόρυβο» και τα συστήματα μπορούν να γίνουν πιο δίκαια. Θα ήμασταν όλοι καλύτερα, είπε, εάν αφήναμε μερικές από αυτές τις αποφάσεις να λαμβάνονται από τις μηχανές.
Οταν ακούει κάνεις ότι οι δικαστικές κρίσεις θα αφήνονται στα χέρια μηχανών με Τεχνητή Νοημοσύνη, έτσι ώστε να μειωθούν οι μεγάλες αποκλίσεις στις εκτιμήσεις των δικαστικών, αυτομάτως μεταφέρεται σε έναν άλλον κόσμο. Ναι, η δικαιοσύνη πρέπει να είναι τυφλή, αλλά μπορεί να είναι και άυλη; Να είναι αλγοριθμική; Εάν εκπαιδεύσουμε τις μηχανές έτσι ώστε να παίρνουν τις σωστές αποφάσεις, αφαιρώντας τον ανθρώπινο παράγοντα, είμαστε σίγουροι πως δεν εκχωρούμε ένα μεγάλο μέρος της ελευθερίας μας;
Ομως τα πράγματα εξελίσσονται ραγδαία. Το Συμβούλιο της Ευρώπης, πρωτοπόρο στην προστασία των ανθρωπίνων δικαιωμάτων, προχώρησε ήδη από τον Δεκέμβριο του 2018, μέσω της Ευρωπαϊκής Επιτροπής για την Αποτελεσματικότητα της Δικαιοσύνης (CEPEJ), στην υιοθέτηση του Χάρτη Δεοντολογίας για τη χρήση της Τεχνητής Νοημοσύνης στα δικαστικά συστήματα και στο περιβάλλον τους. Στον Χάρτη τονίζεται πως οι εφαρμογές Τεχνητής Νοημοσύνης και μηχανικής μάθησης γνωρίζουν ήδη ταχύτατη εξάπλωση στα δικαστικά συστήματα σε παγκόσμια κλίμακα. Επίσης, θεσπίζονται συγκεκριμένες θεμελιώδεις δεοντολογικές αρχές για τη χρήση της ΤΝ στη
Δικαιοσύνη, ενώ παράλληλα γίνεται μια συνολική διαπραγμάτευση του ζητήματος, τόσο από επιστημονική όσο και από δεοντολογική άποψη. Οπότε, θέλουμε δεν θέλουμε, τα πράγματα προχωρούν προς αυτή την κατεύθυνση. Ευτυχώς είμαστε ακόμη στη θέση να θεσπίζουμε εμείς αρχές για τη χρήση της Τεχνητής Νοημοσύνης και όχι το αντίστροφο.
Λέει ο Kahneman: «Ο θόρυβος είναι ανεπιθύμητη μεταβλητότητα. Δηλαδή: όταν το ίδιο άτομο κρίνει το ίδιο αντικείμενο πολλές φορές και καταλήγει σε διαφορετικά συμπεράσματα, πρόκειται για ένα είδος θορύβου. Τον αποκαλούμε θόρυβο συστήματος. Το δικαστικό σύστημα επιβάλλει ποινές σε κατηγορουμένους και εγκληματίες. Θέλουμε να λειτουργεί έτσι, ώστε το ίδιο έγκλημα να τιμωρείται με τον ίδιο τρόπο από διαφορετικούς δικαστές και να μην επηρεάζεται από ανεπιθύμητες μεταβλητότητες. Να μην επηρεάζεται από τα γούστα του δικαστή, από την ιδεολογική του θέση, ακόμη κι από τον καιρό ή από το τι έφαγε για μεσημέρι!».
Αντίστοιχα, θα μπορούσαμε να μιλήσουμε για προκατάληψη. Υπάρχουν π.χ. δικαστές που, για διάφορους λόγους, είναι εγγενώς προκατειλημμένοι ως προς κάποια ζητήματα. Είναι κάτι που προκαλεί προβλήματα, αλλά όμως είναι ανθρώπινο. Η προκατάληψη είναι εξαιρετικά δύσκολο να αντιμετωπιστεί, ο «θόρυβος» όμως μπορεί να σταματήσει; Μάλλον ναι, λέει ο Kahneman.
Οταν ένας ικανός αριθμός από επαγγελματίες οι οποίοι εργάζονται για λογαριασμό ενός οργανισμού δεν συμφωνούν σε πολλές από τις εκτιμήσεις/αποφάσεις τους, υπάρχει πρόβλημα. Εάν λόγου χάρη παρουσιάσετε την ίδια μαγνητική τομογραφία σε πέντε γιατρούς και τους ζητήσετε να κάνουν τη διάγνωση, τι θα συμβεί εάν έχετε τρεις ή παραπάνω απόψεις; Θόρυβος, τον οποίο η Τεχνητή Νοημοσύνη θα είναι σε θέση να εξαλείψει. Ηδη τα ΤΝ συστήματα έχουν ξεπεράσει την ικανότητα του ανθρώπου να εντοπίσει τον κίνδυνο καρδιακής προσβολής αλλά και ορισμένους τύπους καρκίνου μόνο και μόνο από την ανάλυση εικόνων. Τα ιατρικά λάθη υπάρχουν, δεν είναι σπάνια και είναι δύσκολο να τα επισημάνει κανείς, οπότε σε αυτή την περίπτωση πρόκειται για μια εξέλιξη αφάνταστα χρήσιμη.
Βέβαια, αυτά ισχύουν σε πεδία όπου υπάρχει η σωστή απάντηση, όπως η διάγνωση μιας αρρώστιας, η πρόγνωση του καιρού κ.λπ. Υπάρχουν άλλα πεδία ωστόσο πιο ρευστά, όπου τα πράγματα δεν είναι σωστά ή λάθος. Εδώ η μεταβλητότητα είναι ζητούμενο. Π.χ. θέλουμε να έχουμε διαφορετικές απόψεις από τους κριτικούς θέατρου.
Δεν θέλουμε όμως μεταβλητότητα σε ποινές που αφορούν το ίδιο έγκλημα.
Υπάρχουν φυσικά και οι αντίθετες απόψεις. Ο Nick Bilton, αρθρογράφος των «New York Times», λέει: «Οι αναταραχές που δημιουργεί η Τεχνητή Νοημοσύνη μπορούν να κλιμακωθούν γρήγορα και να γίνουν τρομακτικές, ακόμη και κατακλυσμικές. Φανταστείτε ένα ιατρικό ρομπότ, αρχικά προγραμματισμένο να δρα με στόχο την εξάλειψη του καρκίνου, να κατέληγε στο συμπέρασμα ότι ο καλύτερος τρόπος για την εξάλειψη της νόσου είναι το να εξοντώσει ανθρώπους που είναι γενετικά επιρρεπείς στην ασθένεια».
Η ΤΝ δεν είναι μια μακρινή εξέλιξη. Ηδη υπάρχει δίπλα μας και γιγαντώνεται με εκθετικούς ρυθμούς. Για να καταστεί ένα θαυμαστό εργαλείο στην υπηρεσία του ανθρώπου – θα είναι και πιο σημαντικό από καταβολής –, πρέπει να υπάρχει μια αναλογία στη συνύπαρξη μηχανών και ανθρώπων. Δύσκολο; Θα δούμε.
Οπως λέει και ο κορυφαίος επιστήμονας πληροφορικής Alan Kay, διάσημος για την ευρυγωνική του ματιά στον κόσμο: «Κάποιοι φοβούνται πως η Τεχνητή Νοημοσύνη θα μας κάνει να νιώθουμε κατώτεροι, ωστόσο ποιος άνθρωπος με σώας τας φρένας δεν νιώθει σύμπλεγμα κατωτερότητας κάθε φορά που κοιτάζει ένα λουλούδι;».
Ο κ. Αλέξης Σταμάτης είναι συγγραφέας.