Αν θέλουμε να αντιμετωπίσουμε τις πιεστικότερες και επίμονες προκλήσεις της κοινωνίας, από την αλλαγή του κλίματος μέχρι την ανισότητα, τότε η τεχνολογία θα παίξει πρωταγωνιστικό ρόλο.
Οι επιστημονικές ανακαλύψεις που διευκολύνθηκαν από την τεχνητή νοημοσύνη θα μπορούσαν να κάνουν σημαντική διαφορά, βοηθώντας στην ανακάλυψη νέων γνώσεων, ιδεών και στρατηγικών στους τομείς που μας απασχολούν περισσότερο.
Όμως, η αυξανόμενη ανησυχία του κοινού σχετικά με ορισμένα στοιχεία της τεχνολογικής βιομηχανίας πρέπει να χρησιμεύσει ως μια κλήση αφύπνισης. Η τεχνολογία είναι πολύ σημαντική και τα αποτελέσματά της είναι πολύ ευρεία για να μην αποτελούν μέρος της δημόσιας συζήτησης. Κάτω από τα επιμέρους ζητήματα που τίθενται, υπάρχουν τουλάχιστον τρεις ασυμμετρίες μεταξύ του κόσμου της τεχνολογίας και του πραγματικού κόσμου.
Πρώτον, η αποσύνδεση μεταξύ των ανθρώπων που αναπτύσσουν τεχνολογίες και των κοινοτήτων που τις χρησιμοποιούν. Οι μισθοί στη Silicon Valley είναι διπλάσιοι από τους μισθούς για το υπόλοιπο των ΗΠΑ και η βάση των εργαζομένων δεν είναι αντιπροσωπευτική όσον αφορά το φύλο, τη φυλή, την τάξη και άλλα. Η τεχνολογία δεν είναι ουδέτερη από πλευράς αξίας και πρέπει να οικοδομηθεί και να διαμορφωθεί από διάφορες κοινότητες, προκειμένου να ελαχιστοποιηθεί ο κίνδυνος ακούσιων βλαβών.
Αυτό είναι ένα επείγον πρόβλημα. Οι γυναίκες και οι μειονότητες παραμένουν εξαιρετικά υποεκπροσωπούμενες και οι ηγέτες πρέπει να δράσουν ενεργά για να σπάσουν το καλούπι.
Δεύτερον, υπάρχει μια ασυμμετρία πληροφοριών σχετικά με το πώς λειτουργεί η τεχνολογία. Η επίλυση αυτού του προβλήματος πρέπει να είναι μια συλλογική προσπάθεια και απαιτεί νέους τύπους οργανισμών που διευκολύνουν την βαθιά κατανόηση του τρόπου λειτουργίας των περίπλοκων αλγορίθμων και των επιπτώσεών τους στην κοινωνία. Αυτό απαιτεί θάρρος, εμπιστοσύνη και προτεραιότητα στον πραγματικό διάλογο και τη δέσμευση πάνω από την άνεση των θεσμικών μας ρόλων, στους οποίους οι ακτιβιστές, οι κυβερνήσεις και οι τεχνολόγοι έχουν συχνά περισσότερες πιθανότητες να επικρίνουν ο ένας τον άλλο, παρά να συνεργαστούν.
Απαιτεί επίσης μεγαλύτερη προβολή του τρόπου με τον οποίο χρησιμοποιούνται τα δεδομένα. Υπάρχουν προσπάθειες που βρίσκονται σε εξέλιξη εντός των επιχειρήσεων, μαζί με ακαδημαϊκούς και μη κερδοσκοπικούς οργανισμούς, οι οποίοι αναπτύσσουν τρόπους για να καταστήσουν ευκολότερη την κατανόηση των επιπτώσεων των αλγορίθμων.
Η ερευνητής του MIT Joy Buolamwini, και η Algorithmic Justice League έχουν δημιουργήσει μουσειακά εκθέματα για να αυξήσουν την ευαισθητοποίηση για τους ανησυχητικούς τρόπους που οι τεχνολογίες αναγνώρισης προσώπου συχνά αποτυγχάνουν για άτομα με πιο σκούρες αποχρώσεις του δέρματος.
Τρίτον – και αυτό δεν είναι καθόλου μοναδικό στην τεχνολογία – υπάρχει μια διαρθρωτική ανισορροπία κινήτρων.
Τα τυποποιημένα μέτρα επιχειρηματικής επιτυχίας, από τις αποτιμήσεις συλλογής κεφαλαίων μέχρι τους ενεργούς χρήστες, δεν καταγράφουν την κοινωνική ευθύνη που πηγάζει από την προσπάθεια αλλαγής του κόσμου.
Αυτή η αποσύνδεση ξεκινά νωρίς. Μπορεί να υπάρχουν πολλά χρήματα στην τεχνολογία, αλλά η μεγάλη πλειοψηφία των επιχειρηματιών εξακολουθεί να αποτυγχάνει. Οποιοσδήποτε ιδρυτής ελπίζει να εκκινήσει μια νέα επιχείρηση πρέπει να πείσει τους επενδυτές και το προσωπικό για τη μελλοντικής ανάπτυξης και στη συνέχεια να την παραδώσει αμείλικτα. Για να το κάνει αυτό χρειάζεται μια μονοδιάστατη εστίαση στις μετρήσεις που φαίνονται να έχουν σημασία, με ελάχιστο περιθώριο εξέτασης σύνθετων κοινωνικών εξωτερικότητες ή να ακούσουν τους επικριτές.
Αυτός είναι εν μέρει ο λόγος που ορισμένα από τα πιο λαμπρά μυαλά του κόσμου στρέφονται προς τις ασφαλέστερες και πιο αποδεδειγμένες ιδέες και επιχειρηματικά μοντέλα. Καταλήγουν να δημιουργούν νέες υπηρεσίες για την εξατομίκευση ανθρακούχων ποτών όταν μισό δισεκατομμύριο άνθρωποι δεν έχουν πρόσβαση σε καθαρό νερό, ή νέους τρόπους παραγγελίας φαγητού μέσω τηλεφώνου όταν υποσιτίζονται περισσότερα από 800 εκατομμύρια άτομα. Χρειαζόμαστε νέες δομές κινήτρων για να ενθαρρύνουμε περισσότερους ιδρυτές να τα βάλουν πραγματικά προβλήματα και να το πράξουν με την ηθική στην καρδιά τους.
Τίποτα από αυτά δεν είναι εύκολο. Αλλά ένας δικαιότερος κόσμος δε θα εμφανιστεί τυχαία. Τα θετικά ηθικά αποτελέσματα εξαρτώνται από πολύ περισσότερα από αλγόριθμους και δεδομένα: εξαρτώνται επίσης από την ποιότητα της κοινωνικής συζήτησης και της λογοδοσίας. Το έπαθλο είναι τεράστιο. Εάν το καταφέρουμε συλλογικά, μπορούμε να προσβλέπουμε σε απίστευτη επιστημονική και κοινωνική πρόοδο τις επόμενες δεκαετίες. Όλοι εμείς που πιστεύουμε στη δύναμη της τεχνολογίας πρέπει να κάνουμε ό, τι μπορούμε για να διασφαλίσουμε ότι αυτά τα συστήματα αντανακλούν τον καλύτερο συλλογικό εαυτό της ανθρωπότητας.