Log in

Η παραχώρηση λήψης αποφάσεων σε ΑΙ παρουσιάζει ένα παράδοξο

aiΗ βασική τεχνική πίσω από τις πρόσφατες εξελίξεις στο AI αντιπροσωπεύει ελάχιστα το όνομα «τεχνητή νοημοσύνη». Δεν υπάρχει πολλή νοημοσύνη σε αυτές: η εκμάθηση μηχανών είναι μια άσκηση βίαιης δύναμης σε μεγάλη ανάλυση δεδομένων, αναζητώντας κρυμμένα μοτίβα που έχουν προγνωστική αξία.

Αλλά αν αυτό το κάνει πόνυ που ξέρει ένα μοναδικό κόλπο, είναι ένα εξαιρετικά εντυπωσιακό κόλπο. Τα συστήματα μηχανικής μάθησης ταιριάζουν ή ξεπερνούν τους ανθρώπους στην αναγνώριση εικόνων και την αποκρυπτογράφηση της ομιλίας και έχουν τεθεί σε χρήση σε μια σειρά προβλημάτων, από τη διάγνωση ασθενειών έως τη λήψη αποφάσεων για το τι βρίσκει τον δρόμο του ως τη ροή ειδήσεων του Facebook.

Ωστόσο, παρ’ όλη τη δεξιοτεχνία, η δουλειά τους συχνά στερείται διαφάνειας και δεν είναι σαφές πόση δύναμη πρέπει να παραχωρηθεί στις μηχανές. Απαιτούνται τρεις εξελίξεις για να ενισχυθεί αυτό που μπορεί να είναι η πιο σημαντική τεχνολογική εξέλιξη της δεκαετίας - και να διασφαλιστεί ότι θα λειτουργήσει για το κοινό καλό.

Η πρώτη ανάγκη είναι να ξεπεραστούν οι περιορισμοί στις τεχνικές μηχανικής μάθησης. Η πιο συνηθισμένη προσέγγιση - γνωστή ως εποπτευόμενη μάθηση - περιλαμβάνει τη διοχέτευση σε έναν υπολογιστή μεγάλου αριθμού ζευγών δεδομένων, επιτρέποντάς του να ταιριάζει τις εισροές με τις εξόδους (για παράδειγμα, αυτή η εικόνα ισούται με αυτή τη φυλή σκυλιών). Αλλά απαιτεί μεγάλους όγκους δεδομένων και ένας αλγόριθμος εκπαιδευμένος σε ένα πρόβλημα δεν μπορεί να εφαρμοστεί σε άλλες εργασίες.

Οι τεχνικές που καλύπτουν τις αδυναμίες περιλαμβάνουν τη μη επιτηρούμενη μάθηση, όπου η μηχανή μαθαίνει από μη κατηγοριοποιημένα δεδομένα, τη μάθηση μεταφορών, όπου ένα μάθημα για την επίλυση ενός προβλήματος μπορεί να χρησιμοποιηθεί σε άλλα, και την ενίσχυση της μάθησης, όπου οι αλγόριθμοι προσαρμόζονται με βάση την ανατροφοδότηση.

Η δεύτερη ανάγκη είναι για καλύτερο ποιοτικό έλεγχο. Αν το «σκουπίδια μέσα, σκουπίδια έξω» ήταν πάντα μια λέξη-κλειδί της πληροφορικής, τότε ο έλεγχος των εισροών γίνεται κρίσιμο πρόβλημα όταν εξαρτάται τόσο πολύ από τα δεδομένα που χρησιμοποιούνται για την εκπαίδευση. Χωρίς προσοχή, τα συστήματα μηχανικής μάθησης θα αντηχούν και θα μεγεθύνουν τις ανθρώπινες προκαταλήψεις.

Υπάρχει επίσης ανάγκη να βρεθούν νέοι τρόποι για την επικύρωση των αποτελεσμάτων. Δεν υπάρχει εύκολος τρόπος ακόμη και για τους εμπειρογνώμονες να κατανοήσουν πώς τα πιο προηγμένα συστήματα βαθιάς μάθησης καταλήγουν στις απαντήσεις τους και, παρ’ όλη την υπερφυσική διορατικότητα τους, τέτοια συστήματα είναι εγγενώς «εύθραυστα». Αυτό απαιτεί περισσότερη δουλειά για την επαλήθευση των αποτελεσμάτων, όπως αντίπαλα δίκτυα που αμφισβητούν τα συμπεράσματά τους. Απαιτείται επίσης περισσότερη ανάπτυξη σε ένα πεδίο γνωστό ως «Εξηγήσιμο AI», έτσι ώστε τα συστήματα μηχανικής μάθησης να μην παραμένουν αδιαπέραστα μαύρα κουτιά.

Η τρίτη ανάγκη είναι να αναπτυχθεί μια σαφής και διαφανής δομή διακυβέρνησης για την τεχνητή νοημοσύνη. Πόση δικαιοδοσία λήψης αποφάσεων πρέπει να παραχωρήσουμε στα ευφυή συστήματα; Και πώς να διασφαλιστεί ότι ενεργούν - και φαίνεται ότι ενεργούν - με τρόπους που υποστηρίζουν τα συμφέροντα της κοινωνικής δικαιοσύνης; Αυτό θα απαιτήσει ένα πλαίσιο που θα επιτρέπει στους ανθρώπους να κάνουν πλήρη χρήση αυτών των ισχυρών εργαλείων, εξασφαλίζοντας παράλληλα ότι κατευθύνονται προς τους βέλτιστους σκοπούς.

Αυτό παρουσιάζει ένα παράδοξο. Θα είναι δύσκολο να αφεθεί η τελική απόφαση σε ένα άτομο όταν το σύστημα φαίνεται να «ξέρει» πολύ περισσότερα. Πώς θα μπορούσε ένας άνθρωπος μάνατζερ να δικαιολογήσει την αμφισβήτιση μιας μηχανής με υπεράνθρωπες δυνάμεις μνήμης και ανάλυσης αν αργότερα αποδειχθεί ότι κάνει λάθος; Και η απαίτηση διαφάνειας για τον τρόπο με τον οποίο οι υπολογιστές λαμβάνουν αποφάσεις, όπως απαιτείται από τους ευρωπαϊκούς κανόνες προστασίας δεδομένων, δεν έχει μεγάλη χρησιμότητα όταν η τεχνολογία είναι τόσο αδιαπέραστη.

Οι πρόσφατες εξελίξεις στο AI οδήγησαν σε μια προσκόλληση στις στενές περιοχές στις οποίες οι μηχανές ξεπερνούν τους δημιουργούς τους. Αλλά είναι λάθος να εκτιμήσουμε τις έξυπνες μηχανές σε ανθρώπινη κλίμακα. Πρέπει να κριθούν για το πόσο καλά ενισχύουν τους δημιουργούς τους. Αυτή η πρόκληση θα απαιτήσει συγκεντρωμένη ανθρώπινη σκέψη, όχι σιλικονένια ανάλυση δεδομένων, για να λυθεί.

Leave a comment

Make sure you enter all the required information, indicated by an asterisk (*). HTML code is not allowed.