Σε ένα εσωτερικό σημείωμα, ο διευθύνων σύμβουλος της Microsoft, Σάτια Ναντέλα, έλαβε θέση σχετικά με την εντεινόμενη συζήτηση για το αν ο κλάδος της τεχνητής νοημοσύνης εξελίσσεται με υπερβολικά γρήγορους ρυθμούς.
Ο Σάτια Ναντέλα δήλωσε ότι η τεχνητή νοημοσύνη πρέπει να παραμείνει υπό ανθρώπινο έλεγχο
Ο Ναντέλα δήλωσε ότι η τεχνητή νοημοσύνη πρέπει να παραμείνει υπό ανθρώπινο έλεγχο, τάχθηκε υπέρ της διεξαγωγής ευρύτερων δοκιμών από τρίτους και προειδοποίησε ότι οι εταιρείες πρέπει να αφιερώσουν τον απαραίτητο χρόνο για να διασφαλίσουν την ασφάλεια της τεχνολογίας, σύμφωνα με το σημείωμα, το οποίο αναρτήθηκε στο εσωτερικό φόρουμ της εταιρείας αργά τη Δευτέρα.
«Καθώς τα διακυβεύματα γίνονται όλο και μεγαλύτερα, πρέπει να αφιερώνουμε όσο χρόνο χρειάζεται», έγραψε ο Ναντέλα. «Διαφορετικά, θα χάσουμε ούτως ή άλλως την άδεια λειτουργίας μας.»
Τα σχόλιά του έρχονται μετά από σοβαρές προειδοποιήσεις από ορισμένους ερευνητές στον τομέα της τεχνητής νοημοσύνης, οι οποίοι δήλωσαν την περασμένη εβδομάδα ότι η τεχνολογία αυτή ενδέχεται να εξοντώσει το σύνολο της ανθρωπότητας.
Αυτό το Σαββατοκύριακο, ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, πρότεινε την επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης και δήλωσε ότι η εταιρεία του θα επιτρέψει την εξωτερική παρακολούθηση της προόδου των μοντέλων της. Ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, συμφώνησε όσον αφορά την παρακολούθηση από τρίτους και εξέφρασε την υποστήριξή του στην επιβράδυνση της ανάπτυξης, όταν αυτό είναι απαραίτητο, προκειμένου να διασφαλιστεί η ευθυγράμμιση και η ασφάλεια.
Το τμήμα τεχνητής νοημοσύνης της Microsoft δημοσίευσε τη Δευτέρα ένα προσχέδιο του κώδικα δεοντολογίας 37 σελίδων για τα «ανθρωπιστικά» μοντέλα τεχνητής νοημοσύνης της. «Πράγματα για τα οποία ανησυχούσαμε εδώ και πολύ καιρό σε θεωρητικό επίπεδο έχουν γίνει πλέον πολύ πραγματικά», έγραψε ο Mustafa Suleyman, διευθύνων σύμβουλος του τμήματος τεχνητής νοημοσύνης της Microsoft.
Το σημείωμα του Σάτια Ναντέλα
«Το Σαββατοκύριακο έγινε πολύς λόγος για την τεχνητή νοημοσύνη. Ως εταιρεία πλατφόρμας, για εμάς η προσοχή παραμένει στην εφαρμογή της προσέγγισής μας σε τρεις τομείς.
Πρώτον, πρέπει να είμαστε σαφείς ως προς τον στόχο του σχεδιασμού. Όπως ανέφερα, η τεχνητή νοημοσύνη πρέπει να παραμείνει υπό ανθρώπινο έλεγχο και να ωφελεί ευρέως την κοινωνία. Αυτό σημαίνει τη δημιουργία ενός πρωτοποριακού οικοσυστήματος όπου μπορούν να αναπτυχθούν τόσο κλειστά όσο και ανοιχτού κώδικα μοντέλα, καθώς και τη συνειδητή διαχείριση του ρυθμού όσον αφορά την ευθυγράμμιση. Το σκέφτομαι σαν τις δοκιμές. Όλοι ρυθμίζουμε προσεκτικά το ρυθμό όταν πρόκειται για έρευνα και ανάπτυξη πριν από την κυκλοφορία και για δοκιμές. Και το να έχουμε περισσότερες εξωτερικές δοκιμές ή δοκιμαστές από τρίτους είναι θετικό. Και καθώς τα διακυβεύματα γίνονται μεγαλύτερα, πρέπει να αφιερώνουμε όσο χρόνο χρειάζεται! Διαφορετικά, θα χάσουμε ούτως ή άλλως την άδεια λειτουργίας. Έτσι δουλεύουμε κάθε μέρα. Θα προσεγγίσουμε αυτό το θέμα με όλες τις εργασίες που πραγματοποιούμε για να διασφαλίσουμε την παρατηρησιμότητα σε κάθε επίπεδο της στοίβας και θα το χρησιμοποιήσουμε για να επιβάλουμε τη διακυβέρνηση και τον περιορισμό. Θα το χρησιμοποιήσουμε επίσης ως οδηγό για τον τρόπο με τον οποίο δημιουργούμε τα μοντέλα μας. Ο Mustafa δημοσίευσε σήμερα τον «Κώδικα Δεοντολογίας» που αποτελεί τη βάση των δικών μας μοντέλων MAI πρώτου μέρους, για δημόσια διαβούλευση.
Δεύτερον, για τους πελάτες μας, το κλειδί είναι να διασφαλίσουμε ότι διατηρούν τον έλεγχο της μοναδικής και σιωπηρής γνώσης τους, ώστε να μπορούν να δημιουργήσουν τον δικό τους κύκλο συνεχούς μάθησης/μηχανισμό «hill climbing», χωρίς να εξαρτώνται από κάποιον συγκεκριμένο πάροχο μοντέλων. Αυτό ακριβώς επιτρέπει το Foundry, και παρουσιάστηκε μια εξαιρετική επίδειξη που έδειξε πώς καθιστά τους μακροχρόνιους πράκτορες έτοιμους για εταιρική χρήση, με ασφάλεια, μηχανισμούς προστασίας, FinOps κ.λπ., όλα ενσωματωμένα από την αρχή.
Και τρίτον, πρέπει να κερδίσουμε την άδεια να χτίσουμε την υποδομή που τροφοδοτεί όλα αυτά, διασφαλίζοντας ότι τα οφέλη γίνονται αισθητά σε τοπικό επίπεδο. Το κέντρο δεδομένων μας στο Quincy είναι πιθανώς το καλύτερο παράδειγμα του πώς μοιάζει η μακροπρόθεσμη ανάπτυξή μας παράλληλα με μια κοινότητα, και ο Brad μοιράστηκε αυτή την ιστορία την Κυριακή.
Ουσιαστικά, λοιπόν, πρόκειται για μία προσέγγιση που καλύπτει τρία επίπεδα: πώς χτίζουμε στα όρια της καινοτομίας, πώς δίνουμε στους πελάτες μας τη δυνατότητα να διατηρούν τον έλεγχο και πώς διασφαλίζουμε ότι τα οικονομικά οφέλη διαχέονται ευρέως σε κοινότητες και χώρες.
Και το σημαντικότερο, ως εταιρεία μπορούμε να επιδείξουμε πραγματικές πράξεις πίσω από τα λόγια.»