«Ίσως το μεγαλύτερο λάθος μου ήταν ότι στάθμιζα υπερβολικά το ταλέντο κάποιου και όχι την προσωπικότητά του. Πιστεύω ότι έχει σημασία αν κάποιος έχει καλή καρδιά“.
– Elon Musk, ιδρυτής της SpaceX και διευθύνων σύμβουλος της Tesla
«Όλοι κυνηγούσαν αυτό το ιερό δισκοπότηρο», είπε ένας από τους ειδήμονες της Amazon. «Θα ήθελαν στ’ αλήθεια να είναι μία μηχανή που να της δίνεις 100 βιογραφικά, να σου ξερνάει τους 5 καλύτερους, και να τους προσλαμβάνεις».
Αυτό ήταν ένα μυστικό πρότζεκτ στην Amazon, πριν από μερικά χρόνια. Το σύστημα βαθμολογούσε τα βιογραφικά με 1 έως 5 αστεράκια, περίπου όπως γίνεται με τα προϊόντα στον ιστότοπο της Amazon. Έπασχε όμως από ένα σοβαρό πρόβλημα: δεν συμπαθούσε τις γυναίκες. Παρά τις αγαθές προθέσεις των προγραμματιστών, για να εκπαιδευτεί το μοντέλο της Amazon είχαν χρησιμοποιηθεί δεδομένα από βιογραφικά που είχαν υποβληθεί στην εταιρεία τα προηγούμενα 10 χρόνια. Τα περισσότερα ήταν ανδρών, οι οποίοι τότε υπερτερούσαν συντριπτικά στα τεχνολογικά επαγγέλματα. Έτσι τα μοτίβα και τα χαρακτηριστικά που το σύστημα «έβλεπε» ήταν κυρίως ανδρικά. Οι γυναίκες έπεφταν και χάνονταν στις χαραμάδες. Θορυβημένη η Amazon διέκοψε το 2015 την λειτουργία του συστήματος. Όταν τελικά το πρότζεκτ διέρρευσε, αποτέλεσε ένα γλαφυρό παράδειγμα της χρήσης της Τεχνητής Νοημοσύνης σε εφαρμογές υψηλού κινδύνου, όπως είναι οι προσλήψεις και οι διαδικασίες διαχείρισης ανθρώπινου δυναμικού γενικότερα.
Εκχώρηση Αρμοδιοτήτων και Παρενέργειες
To 2017, δυο χρόνια μετά το άδοξο τέλος της εφαρμογής της Amazon, το 55% των διευθυντών ανθρώπινου δυναμικού, σε μια ερεύνα που έκανε η εταιρεία λογισμικού Career Builder, πίστευε ότι σε πέντε χρόνια η Τεχνητή Νοημοσύνη θα αποτελεί ένα καθημερινό εργαλείο της δουλειάς τους. Και όντως: σήμερα οι εφαρμογές ΤΝ έχουν εξελιχθεί και μπορούν π.χ. να βοηθήσουν έναν υπεύθυνο πρόσληψης (οι πρωτοποριακές εφαρμογές της Workable έρχονται στο νου) να θέσει στη συνέντευξη τα κατάλληλα, εξειδικευμένα ερωτήματα για κάθε υποψήφιο. Άλλες όμως εφαρμογές, περισσότερο αυτόνομες, μπορεί να ακολουθήσουν διαφορετικά μονοπάτια. Το ποτάμι της ΤΝ δεν γυρίζει πίσω, έχει γίνει ορμητικότερο, και τα φράγματα δεν έχουν ακόμη ανεγερθεί. Οι επιχειρήσεις, όπως έχουν δηλώσει στελέχη μεγάλων εταιρειών, έχουν ήδη εκχωρήσει- ή σχεδιάζουν να το πράξουν- αρμοδιότητες στις μηχανές, προκειμένου εκείνες να κρίνουν για λογαριασμό τους ποιοι είναι οι καταλληλότεροι υποψήφιοι για μία θέση, αφήνοντας τους ανθρώπους να κάνουν την τελική επιλογή.
Αυτή η εκχώρηση αρμοδιοτήτων στις μηχανές, ωστόσο, έχει και άλλες, αρχικά αθέατες, παρενέργειες. Είναι γνωστό ότι πριν μερικά χρόνια η μηχανή Alpha Go της Google νίκησε τον παγκόσμιο πρωταθλητή του Go (ενός παιχνιδιού πιο περίπλοκου από το σκάκι), χρησιμοποιώντας την Τεχνητή Νοημοσύνη. Πριν αρχίσουν οι μηχανές να παίζουν παιχνίδια το ανθρώπινο πλαίσιο ήταν διαφορετικό: έπαιζες το παιχνίδι όχι μόνον για να κερδίσεις, αλλά και για να μάθεις νέες στρατηγικές, τις οποίες μπορούσες να χρησιμοποιήσεις και σε άλλες εμπειρίες και δραστηριότητες της ζωής σου. Η μηχανή, απεναντίας, έχει έναν και μοναδικό στόχο: να νικήσει —με αποτέλεσμα οι κινήσεις της να είναι αλλόκοτες και αλλόκοσμες, που ένας άνθρωπος δεν θα μπορούσε καν να σκεφτεί.
Με άλλα λόγια, για μας τους ανθρώπους αυτό που μετράει περισσότερο κι από τη νίκη είναι το σκέπτεσθαι. Έτσι ένας διευθυντής ανθρώπινων πόρων που αναθέτει σε μία μηχανή να ξεχωρίσει τα βιογραφικά θα μαραζώσει· και ως επαγγελματίας και ως άνθρωπος. Το ένστικτό του, η κρίση του, το συναίσθημα, όλα αυτά που τον βοηθούν να κάνει τις σωστές επιλογές θα ατροφήσουν. Επίσης και η μάθησή του: πώς θα αφεθεί να κάνει λάθη και πώς θα μάθει από αυτά; Είναι φανερό πως ο κόσμος βρίσκεται σε ένα κρίσιμο σημείο.
Η Ευρώπη (και η Ελλάδα) στο Σταυροδρόμι
Αλήθεια μας νοιάζουν όλα τούτα, σε τούτη την γωνιά του πλανήτη; Δεν φαίνονται απόμακρα, να αφορούν άλλους; Δεν είναι πολύ φουτουριστικά; Όχι, κάθε άλλο μάλιστα. Η χώρα μας βρίσκεται στην θάλασσα της ανοιχτής οικονομίας και κάθε κυματισμός την αναταράζει αισθητά. Οι πολυεθνικές που θα εφαρμόσουν αυτή την αυτοματοποιημένη μέθοδο δεν πρόκειται να κάνουν εξαιρέσεις για μία περιφερειακή οικονομία, το αντίθετο μάλιστα. Εκτός βέβαια και αν υπάρξει μία υπερεθνική αρχή που θα ρυθμίσει τις εφαρμογές της Τεχνητής Νοημοσύνης σε ευαίσθητα θέματα, όπως είναι η απασχόληση. Μία τέτοια υπερεθνική αρχή είναι η Ευρωπαϊκή Ένωση, η οποία πρωτοπορεί παγκοσμίως (είναι αρκετά μπροστά από τις ΗΠΑ), και προσπαθεί να προλάβει τις εξελίξεις πριν την προλάβουν και την υπερκεράσουν εκείνες. Γι΄ αυτό έχει σημασία να είμαστε ενήμεροι και να παρακολουθούμε τα τεκταινόμενα.
Η Ευρωπαϊκή Ένωση λοιπόν πρόσφατα ανακοίνωσε μία πρόταση για την ρύθμιση της χρήσης της Τεχνητής Νοημοσύνης. Θεωρώντας απαραίτητη την απόκτηση εμπιστοσύνης σε αυτά που έχει να προσφέρει («Στην Τεχνητή Νοημοσύνη η εμπιστοσύνη είναι απαραίτητη, όχι μόνον καλό να υπάρχει», δήλωσε η Margrethe Vestager, Εκτελεστική Αντιπρόεδρος της Ευρωπαϊκής Επιτροπής με αρμοδιότητες για την μετάβαση στην Ψηφιακή Εποχή), η πρόταση κατηγοριοποιεί τις περιοχές εφαρμογών σε: 1) μη αποδεκτές, όπως αυτές που χειραγωγούν την ανθρώπινη συμπεριφορά και υπονομεύουν την ελεύθερη βούληση, και οι οποίες δεν θα πρέπει να υλοποιηθούν ποτέ, ακόμη και αν προσφέρουν ορισμένα οφέλη· 2) υψηλού κινδύνου (όπως είναι η εκπαίδευση, η κατάρτιση και η απασχόληση)· 3) περιορισμένου κινδύνου (όπως είναι τα chatbots, όπου ο χρήστης πρέπει να ξέρει ότι μιλάει με μία μηχανή) και 4) ελάχιστου κινδύνου (όπως είναι οι περισσότερες εφαρμογές της ΤΝ, βιντεοπαιχνίδια, φίλτρα spam, και πάρα πολλά άλλα).
Υψηλός Κίνδυνος — Αυστηρές Υποχρεώσεις
Οι εφαρμογές της ΤΝ που αφορούν στην απασχόληση ανήκουν αυτοδίκαια στην κατηγορία υψηλού κινδύνου. Εφαρμογές που παίρνουν αποφάσεις ή τις υποστηρίζουν -όπως είναι η αξιολόγηση βιογραφικών για προσλήψεις- και οι οποίες είναι ακατάλληλες, κρυψίνοες ή προκατειλημμένες μπορούν να παρεμποδίσουν ή να καταστρέψουν την σταδιοδρομία πολλών ανθρώπων. Αυτές οι εφαρμογές, επομένως, οφείλουν να τηρούν ορισμένες αυστηρές υποχρεώσεις (μία ανθρωπομορφική δέσμευση, αλλά θα μπορούσε να γίνει αλλιώς;) πριν πέσουν στην αγορά: πρώτα και κύρια θα πρέπει να έχει γίνει μία ανεξάρτητη εκτίμηση κινδύνου, μαζί με πλήρη τεκμηρίωση, για να μπορούν οι εποπτεύουσες αρχές (που ακόμη μένει να καθοριστούν και να ιδρυθούν) να ελέγξουν την συμμόρφωση. Εξ ίσου σημαντικά είναι και τα δεδομένα με τα οποία εκπαιδεύονται τα συστήματα της ΤΝ: αν αυτά δεν είναι υψηλής ποιότητας, οι διακρίσεις, όπως αυτές που συνέβησαν στην Amazon, όχι μόνον θα ξανασυμβούν, αλλά μπορεί και να ενισχύονται με την πάροδο του χρόνου και το σύστημα της ΤΝ να αποκλίνει από τους αρχικούς του στόχους.
Επιπλέον, η συνολική δραστηριότητα του συστήματος θα πρέπει να καταγράφεται, ώστε να υπάρχει ιχνηλασιμότητα και το σύστημα να είναι πλήρως ασφαλισμένο από εξωτερικές παρεμβάσεις. Εδώ τα πράγματα δυσκολεύουν, γιατί ναι μεν το σύστημα θα έχει πάρει μία απόφαση πρόσληψης που βγάζει νόημα γι΄ αυτό το ίδιο, αλλά θα του είναι αδύνατον να την εξηγήσει, όπως π.χ. έχει συμβεί με την μηχανή που παίζει Go. Αυτή η απαίτηση, ειδικά σε εφαρμογές μηχανικής μάθησης μέσω νευρωνικών δικτύων, είναι πιθανότερο να μην μπορεί να ικανοποιηθεί ούτε κατ΄ αρχήν (και όπου η Ευρωπαϊκή Επιτροπή, θα πρέπει να βρει μία ρεαλιστική και συνάμα ικανοποιητική λύση). Επιπλέον, η εφαρμογή δεν θα πρέπει ποτέ να αντανακλά την συνήθη υπεροψία αυτών που την έχουν αναπτύξει και που συνοψίζεται στο «εσείς δεν ξέρετε, και δεν μπορείτε να καταλάβετε». Σε κάθε περίπτωση, ο χρήστης (όπου χρήστης δεν είναι μόνον το στέλεχος του ανθρώπινου δυναμικού που χρησιμοποιεί την εφαρμογή, αλλά και ο υποψήφιος για μία θέση) θα πρέπει να έχει ξεκάθαρη και επαρκή πληροφόρηση.
Και τέλος -και το πιο σημαντικό- το σύστημα πρέπει να έχει την κατάλληλη (και όχι τυπική) ανθρώπινη εποπτεία, που θα μειώνει τον κίνδυνο, και θα χρησιμοποιεί μηχανισμούς επανόρθωσης, αν κάτι πάει στραβά. Ένας υπαρκτός κίνδυνος είναι ότι όσο βελτιώνεται η ακρίβεια των μοντέλων της ΤΝ που κάνουν ανάλυση χαρακτηριστικών (profiling) υποψηφίων, τόσο μπορεί να μεγαλώσει η πιθανότητα και κάνουν διακρίσεις, ή να μην μπορούν να σταθμίσουν ικανοποιητικά την προσωπικότητα των υποψηφίων και έτσι να χαθούν μερικά «κρυφά διαμάντια». Γι΄ αυτό δεν πρέπει να αφεθούν μόνες τους. Όπως είπε η Lea Busque, ιδρύτρια του TaskRabbit.com και με γνώση του αντικειμένου: «Οι προσλήψεις είναι δύσκολο πράγμα. Δεν πρόκειται απλώς για το φιλτράρισμα εκατοντάδων αιτήσεων και η αφιέρωση μεγάλων τμημάτων της μέρας σου σε συνεντεύξεις –-αυτά είναι τα εύκολα κομμάτια. Το δύσκολο πράγμα είναι εκείνη η βασανιστική αίσθηση πως -παρά τις καλύτερες δυνατές σου προσπάθειες- ο τέλειος υποψήφιος με κάποιο τρόπο θα χαθεί μέσα από τις χαραμάδες». Και ποια μηχανή θα είχε αυτήν την αγωνία;
Ο Γιώργος Ναθαναήλ είναι σύμβουλος του Τομέα Απασχόλησης και Αγοράς Εργασίας του ΣΕΒ