Ο ρατσιστής αλγόριθμος και το αυτοκίνητο που αποφασίζει ποιος ζει και ποιος πεθαίνει

Related

SHOPFLIX.gr: Νέα πλατφόρμα

Το SHOPFLIX.gr συνεχίζοντας τη ραγδαία αναπτυξιακή του πορεία και έχοντας σε πολύ σύντομο χρονικό διάστημα, εδραιωθεί ως ένας από τους πρωτοπόρους στον κλάδο του ηλεκτρονικού εμπορίου στην Ελλάδα, επενδύει σε μία πρωτοποριακή πλατφόρμα με στόχο την απόλυτη αγοραστική εμπειρία.  Μετά από δύο μόλις χρόνια ενεργού παρουσίας στην ελληνική αγορά, το SHOPFLIX.gr μελέτησε ενδελεχώς τη συμπεριφορά…

Η Acer επεκτείνει τη σειρά laptop Chromebook Plus με νέο μοντέλο 14 ιντσών με επεξεργαστή Intel Core

Η Acer επέκτεινε σήμερα τη σειρά laptop Chromebook Plus με το Acer Chromebook Plus 514 (CB514-4H/T), προσφέροντας στους χρήστες ένα μοντέλο compact και ανθεκτικό, που έχει δημιουργηθεί με γνώμονα τις επιδόσεις και τους επιτρέπει να κάνουν περισσότερα με τις δυνατότητες του ChromeOS που υποστηρίζονται από AI. «Το νέο Acer Chromebook Plus 514 (CB514-4H/T) παρέχει τον…

Νέο soundbar LG S40T: Ο ιδανικός συνδυασμός για την τηλεόραση LG

Η LG Electronics συνεχίζει να επαναπροσδιορίζει την εμπειρία της οικιακής ψυχαγωγίας με το λανσάρισμα του νέου soundbar LG S40T. Σχεδιασμένο για να προσφέρει καθηλωτική ποιότητα ήχου και απρόσκοπτη συνδεσιμότητα, το LG S40T soundbar πρόκειται να αναβαθμίσει τον τρόπο με τον οποίο απολαμβάνετε τις αγαπημένες σας ταινίες, μουσική και παιχνίδια. Διαθέτοντας προηγμένες τεχνολογίες ήχου, το LG…

Το COSMOTE HISTORY προβάλλει τα Πράσινα & Έξυπνα Νησιά του Ν. Αιγαίου

Επικαιρότητα Δευτέρα 22.04.2024 14:55 Rodiaki NewsRoom Από την περιφέρεια Νοτίου Αιγαίου εκδόθηκε η ακόλουθη ανακοίνωση: Τα επιτυχημένα επιχειρησιακά πράσινα μοντέλα που υλοποιούνται στην Περιφέρεια Νοτίου Αιγαίου και συγκεκριμένα στα νησιά Ρόδο, Αστυπάλαια, Σύρο, Χάλκη και Τήλο, προσελκύοντας κολοσσούς των νέων τεχνολογιών και των επιχειρήσεων, παρουσιάζονται στο ντοκιμαντέρ, που προβάλλεται από το COSMOTE HISTORY, σήμερα, 22…

Το COSMOTE HISTORY προβάλλει τα Πράσινα & Έξυπνα Νησιά του Ν. Αιγαίου

12 Τα επιτυχημένα επιχειρησιακά πράσινα μοντέλα που υλοποιούνται στην Περιφέρεια Νοτίου Αιγαίου και συγκεκριμένα στα νησιά Ρόδο, Αστυπάλαια, Σύρο, Χάλκη  και Τήλο, προσελκύοντας κολοσσούς των νέων τεχνολογιών και των επιχειρήσεων, παρουσιάζονται στο ντοκιμαντέρ, που προβάλλεται από το COSMOTE HISTORY, σήμερα, 22 Aπριλίου 2024, Ημέρα της Γης, στις 22:00, ενώ διαθέσιμο θα είναι για τους τηλεθεατές…

Το COSMOTE HISTORY προβάλλει τα Πράσινα και Έξυπνα Νησιά του Νοτίου Αιγαίου

Τα επιτυχημένα επιχειρησιακά πράσινα μοντέλα που υλοποιούνται στην Περιφέρεια Νοτίου Αιγαίου και συγκεκριμένα στα νησιά Ρόδο, Αστυπάλαια, Σύρο, Χάλκη  και Τήλο, προσελκύοντας κολοσσούς των νέων τεχνολογιών και των επιχειρήσεων, παρουσιάζονται στο ντοκιμαντέρ, που προβάλλεται από το COSMOTE HISTORY, σήμερα, 22 Aπριλίου 2024, Ημέρα της Γης, στις 22:00, ενώ διαθέσιμο θα είναι για τους τηλεθεατές και…

Άλλα λένε και άλλα ισχύουν… τελικά η Meizu δεν εγκαταλείπει τη βιομηχανία smartphone;

Το τελευταίο χρονικό διάστημα δεν ήταν λίγοι οι insiders της αγοράς, οι οποιοι μιλούσαν για μια πιθανή έξοδο της Meizu από τη βιομηχανία των smartphones. Ωστόσο πρόσφατες διαρροές που είδαν το φως της δημοσιότητας μας παρουσιάζουν μια τελείως διαφορετική εικόνα. Μάλιστα, σύμφωνα με όλες τις ενδείξεις, η Meizu εργάζεται πάνω σε ένα ολοκαίνουργιο smartphone ενώ…

Paramount+: Επίσημα διαθέσιμο στην Ελλάδα μέσα από την COSMOTE TV

Η ώρα του Paramount+ στην Ελλάδα έφτασε, μέσω της COSMOTE TV. Η δημοφιλής πλατφόρμα έχει ήδη συνεργασία με την Paramount για το τηλεοπτικό της περιεχόμενο και πλέον όλο αυτό έρχεται σε μια ξεχωριστή θεματική ενότητα στο ίδιο UI. Εκεί, μπορεί να βρει κανείς δημοφιλείς σειρές και ταινίες των Paramount Pictures, Showtime, CBS και Paramount Television…

Το Try Galaxy App ξεπέρασε τις 27 χιλιάδες λήψεις στην Ελλάδα

Η εφαρμογή Try Galaxy, που προσφέρει μία επική εμπειρία προσομοίωσης του Galaxy S24 σε χρήστες IOS και Android, έχει σημειώσει από τις 17 Ιανουαρίου περισσότερες από 27 χιλιάδες λήψεις στην Ελλάδα. Η εφαρμογή της Samsung φέρνει την εμπειρία Galaxy AI, δίνοντας παράλληλα τη δυνατότητα στους χρήστες να εξερευνήσουν απευθείας από το κινητό τους, τις προηγμένες…

Η Ομάδα της ESET Hellas εργάστηκε εθελοντικά στο Πασχαλινό Παζάρι του “Χαμόγελου του Παιδιού”

Η ESET Hellas εργάστηκε εθελοντικά στο Smile Bazaar, το πασχαλινό παζάρι που διοργανώνει “Το Χαμόγελο του Παιδιού” ενόψει των ημερών της Ανάστασης. Η ενεργός συμμετοχή της εταιρείας αναδεικνύει την αφοσίωσή της στην κοινωνική ευθύνη και στήριξη των παιδιών και της κοινωνίας.  “Η ESET Hellas πιστεύει στη δύναμη του εθελοντισμού και τη σημασία της προσφοράς στην…

Συνεχίζει να καινοτομεί η Huawei, με νέα δυνατότητα στο Pura 70 Ultra

Η Huawei παλεύει ακόμη με το ένα χέρι δεμένο και μάλιστα συνεχίζει να καινοτομεί και εμείς εξακολουθούμε να αναριωτιόμαστε τι θα μπορούσε να είχε πετύχει χωρίς τις κυρώσεις των ΗΠΑ; Τον Σεπτέμβριο του 2022, η Κινεζική εταιρεία ήταν στην πραγματικότητα η πρώτη που πρόσφερε δορυφορική συνδεσιμότητα σε smartphone, ξεπερνώντας την σειρά iPhone 14 από την…

Οι αθλητικές μεταδόσεις της Δευτέρας 22/04

Ο τελικός του UEFA Youth League ανάμεσα στον Ολυμπιακό και τη Μίλαν και το μεγάλο ντέρμπι ανάμεσα στη Μίλαν και την Ίντερ, ξεχωρίζoυν στο πρόγραμμα με τις αθλητικές μεταδόσεις της ημέρας. Αναλυτικά όλες οι επιλογές: 16:00 Action 24 ΠΟΤ Ηρακλής – Αιολικός Super League 2 17:00 ΕΡΤ3 Ολυμπιακός-Παναθηναϊκός Τελικός Volley League Ανδρών 19:00 COSMOTE SPORT…

COSMOTE: Για πρώτη φορά ταχύτητες έως και 10Gbps στο δίκτυο COSMOTE Fiber

Το έργο αυτό αποτελεί ακόμα μια απόδειξη ότι ο Όμιλος ΟΤΕ επενδύει εντατικά, όχι μόνο στην επέκταση αλλά και στη συνεχή αναβάθμιση του COSMOTE Fiber, του μεγαλύτερου δικτύου οπτικών ινών στη χώρα, που έχει παρουσία σε 145 δήμους από όλη την Ελλάδα. Μέσα από το πιλοτικό έργο που εγκαινιάζει σήμερα τη νέα τεχνολογία του μέλλοντος,…

COSMOTE: Οι προκλήσεις και οι ευκαιρίες στην πορεία του Ομίλου ΟΤΕ προς τη βιώσιμη ανάπτυξη – ΣΕΒ σύνδεσμος επιχειρήσεων και βιομηχανιών

Η κα Ντέπη Τζιμέα παρουσίασε το case study του Ομίλου ΟΤΕ σε ESG Ημερίδα, που διοργανώθηκε από το Executive MBA του Οικονομικού Πανεπιστημίου Στις προκλήσεις και ευκαιρίες που αντιμετώπισε ο Όμιλος ΟΤΕ στην πορεία του προς τη βιώσιμη ανάπτυξη αναφέρθηκε η κα Ντέπη Τζιμέα, Executive Director Εταιρικής Επικοινωνίας και Βιώσιμης Ανάπτυξης Ομίλου ΟΤΕ, κατά τη…

Ο Μάνθος Πάγκαλος νέος CEO της Westnet

 Ενισχύεται η διοικητική ομάδα της εταιρείας Westnet μέλος της Olympia Group, καθώς από 1η Μαΐου αναλαμβάνει Διευθύνων Σύμβουλος ο Μάνθος Πάγκαλος.   Ο κ. Πάγκαλος διαθέτει βαθιά γνώση της αγοράς των καταναλωτικών ηλεκτρονικών προϊόντων έχοντας αναλάβει στο παρελθόν κομβικές θέσεις σε σημαντικές εταιρείες τεχνολογίας, όπως η Sony Hellas, η Hitachi Europe – Hellas Α.Ε. και…

Share

Μπορούν τα ρομπότ να σώσουν το παγκόσμιο ασφαλιστικό σύστημα από την επαπειλούμενη κατάρρευση;

Πόσο πιθανό είναι ένας …καλοκάγαθος αλγόριθμος να εξελιχθεί σε ρατσιστή συνωμοσιολόγο μέσα σε λίγες ώρες;

Θα εναπόκειται στις ηθικές αξίες του …software ενός αυτοοδηγούμενου αυτοκινήτου να αποφασίσει ποιος ζει και ποιος πεθαίνει, όταν το όχημα «συνειδητοποιεί» ότι επίκειται ένα σοβαρό αυτοκινητιστικό ατύχημα με εμπλοκή πεζών;

Πώς θα χρησιμοποιήσει τη στατιστική ένα ρομπότ, για να αποφασίσει σε ποιον υποψήφιο πελάτη θα δώσει η τράπεζα ένα δάνειο και ποιος θεωρείται αναξιόπιστος;

Είναι εφικτό μια ομάδα ανθρώπων να «πείσει» έναν αξιόπιστο αλγόριθμο αναγνώρισης εικόνας ότι μια καραμπίνα που έχει μπροστά του είναι ένα αθώο παιδικό παιχνίδι;

Η εποχή της τεχνητής νοημοσύνης έρχεται «φορτωμένη» με υποσχέσεις, προκλήσεις και κινδύνους. Και παρότι για να ανοίξει ο νέος αυτός οικονομικός κύκλος στην ιστορία της ανθρωπότητας απαιτείται ένα μεγάλο άλμα (η μετάβαση από την τεχνητή νοημοσύνη ειδικών εφαρμογών -που ήδη «βλέπουμε» να εφαρμόζεται σε αρκετές περιπτώσεις- στη γενική τεχνητή νοημοσύνη, η πλήρης ανάπτυξη της οποίας πιθανότατα θα απαιτήσει αρκετές δεκαετίες), μια νέα συναρπαστική εποχή ήδη ανατέλλει.

Το βράδυ της Τρίτης στη Θεσσαλονίκη, ο γεννηθείς το 1981 Κωνσταντίνος Δασκαλάκης, καθηγητής της Επιστήμης των Υπολογιστών στο περίφημο ΜΙΤ, μοιράστηκε με τους παρευρισκόμενους στην κατάμεστη αίθουσα τελετών του ΑΠΘ τις εκτιμήσεις του για την εξέλιξη της τεχνητής νοημοσύνης τα επόμενα «πέντε έως 50 χρόνια», παραδεχόμενος ότι η πραγματικότητα ενδέχεται τελικά να διαψεύσει κάθε πρόβλεψη.

Κατά τον Έλληνα καθηγητή, που μεταξύ άλλων έχει λάβει το βραβείο Kalai από την Διεθνή Ένωση Θεωρίας Παιγνίων και το βραβείο έρευνας από το ίδρυμα Giuseppe Sciacca του Βατικανού, το πιθανότερο είναι ότι σε πέντε χρόνια από σήμερα θα έχουμε έναν προσωπικό γραμματέα με τεχνητή νοημοσύνη και αυτο-οδηγούμενα αυτοκίνητα, ενώ σε 15 χρόνια η διεπαφή του ανθρώπινου εγκεφάλου με την τεχνολογία θα γίνει ενδεχομένως πολύ πιο άμεση και το όριο που διαχωρίζει το πού ξεκινά ο άνθρωπος και πού αρχίζει η μηχανή πιο δυσδιάκριτο.

«Μπορεί όλο αυτό να ξεφύγει από τον έλεγχο; Ναι, θα μπορούσε όπως έχει συμβεί και με άλλα πράγματα στο παρελθόν. Το να είμαστε όμως αρνητικοί απέναντι στο ποτάμι που έρχεται κατά πάνω μας δεν είναι εποικοδομητικό, αυτό που πρέπει να σκεφτόμαστε, είναι πώς θα το βάλουμε στη σωστή κατεύθυνση» σημείωσε, μιλώντας σε εκδήλωση που διοργάνωσαν τα Τμήματα Πληροφορικής και Μαθηματικών της Σχολής Θετικών Επιστημών του ΑΠΘ.

Wonderland, Pessiland, Stagnatia

Ο ίδιος ανέλυσε τρία σενάρια για την εξέλιξη της τεχνητής νοημοσύνης στα επόμενα «πέντε έως 50 χρόνια», επισημαίνοντας ότι αυτό που πιθανότατα θα επικρατήσει είναι η μίξη τους. Με βάση το πρώτο (θετικό) σενάριο, με τίτλο «Wonderland», η αλληλεπίδραση ανθρώπων- μηχανών είναι θετική και ο πρώτος κερδίζει από την ύπαρξη των δεύτερων. Οι μηχανές κάνουν τις χειρονακτικές εργασίες, ο άνθρωπος έχει περισσότερο ελεύθερο χρόνο ή εκτελεί πνευματικές εργασίες και το ασφαλιστικό σύστημα σώζεται, αφού η έλλειψη νέων ανθρώπων που εργάζονται και καταβάλουν εισφορές αναπληρώνεται από την ύπαρξη των ρομπότ, που δεν χρειάζονται ασφάλιση ή σύνταξη. Προϋπόθεση για να επαληθευτεί αυτό το σενάριο είναι να κατακτήσει η επιστήμη τη γενική νοημοσύνη, δηλαδή η μηχανή να μάθει να χρησιμοποιεί τη διαίσθηση και την εμπειρία που αποκτά από μια νοητική λειτουργία και να τη μεταφέρει σε μια που δεν ξέρει καθόλου (πχ, όταν γνωρίζει να παίζει σκάκι, να μπορεί να χρησιμοποιήσει στρατηγική και στο πόκερ).

Βάσει του δεύτερου -αρνητικού- σεναρίου, με τίτλο «Pessiland», η επιστήμη κατακτά την γενική νοημοσύνη, αλλά αυτή δεν είναι προσβάσιμη σε όλους, αλλά μόνο σε εργαστήρια εταιρειών ή κρατών, που τη χρησιμοποιούν για ιμπεριαλιστική επιρροή. «Αν πάμε σε αυτή την κατεύθυνση, το σενάριο είναι προφανώς δυστοπικό» επισήμανε ο καθηγητής.

Το τρίτο σενάριο, με τίτλο «Stagnatia», για το οποίο ο δρ Δασκαλάκης επισήμανε ότι «έχει αρκετές πιθανότητες (επαλήθευσης)», είναι αυτό κατά το οποίο ενώ υπάρχουν ολοένα και περισσότερες εφαρμογές ειδικής τεχνητής νοημοσύνης (πχ αναγνώριση εικόνας και ήχου ή μετάφραση), η επιστήμη δεν καταφέρνει να κάνει το άλμα στη γενική τεχνητή νοημοσύνη και επικρατεί σχετική στασιμότητα.

Όταν ο αλγόριθμος «βλέπει» μια χελώνα σαν …καραμπίνα

Κατά τον δρα Δασκαλάκη, σήμερα ένας από τους βασικούς προβληματισμούς της ανθρωπότητας είναι η αξιοπιστία της τεχνολογίας. «Υπάρχουν μεγάλα θέματα αξιοπιστίας και ένας από τους λόγους είναι ότι όταν τα δεδομένα με τα οποία τροφοδοτείς τον αλγόριθμο είναι ελλιπή ή μη αντιπροσωπευτικά, μπορεί να οδηγήσουν σε λανθασμένες ή ελλιπείς νοητικές λειτουργίες. Πχ, έγινε γνωστό ότι ένα αυτοκίνητο Tesla έπεσε σε φορτηγό σταματημένο στην αριστερή λωρίδα. Γιατί συνέβη αυτό; Ίσως γιατί ποτέ στα δεδομένα που εισήχθησαν για να προπονηθεί ο αλγόριθμος στην αναγνώριση εικόνας δεν υπήρχε αυτοκίνητο σταματημένο στην αριστερή λωρίδα του δρόμου, επειδή αυτό σπάνια συμβαίνει. Ο αλγόριθμος θα επεξεργαστεί τα ελλιπή δεδομένα που τού δώσαμε και θα ενσωματώσει την έλλειψη» σημείωσε, ενώ πρόσθεσε ότι φοιτητές του ΜΙΤ επιτέθηκαν στον καλύτερο αλγόριθμο αναγνώρισης εικόνας και τον έκαναν να «πιστέψει» ότι μια τρισδιάστατη χελώνα τυπωμένη σε εκτυπωτή 3D ήταν …καραμπίνα. «Δεν έχουμε τόσο αξιόπιστη Τεχνητή Νοημοσύνη σήμερα. Προσπαθούμε να φτιάξουμε τρόπους προστασίας αλγορίθμων από τέτοιου είδους επιθέσεις» επισήμανε.

Ποιος αποφασίζει ποιος θα χάσει τη ζωή του;

Ενα άλλο θέμα, πρόσθεσε, έχει να κάνει με ηθικά διλήμματα. «Ενα κλασικό πρόβλημα είναι το εξής. Σκεφτείτε ότι φτιάχνουμε αυτοοδηγούμενα αυτοκίνητα που κινούνται μαζικά στους δρόμους. Αναπόφευκτα κάποιο από αυτά θα βρει τον εαυτό του σε φάση αναγνώρισης του γεγονότος ότι σε μερικά δευτερόλεπτα θα γίνει ένα αναπόφευκτο ατύχημα με εμπλοκή πεζών. Ο αλγόριθμος που οδηγεί καταλαβαίνει τότε ότι έχει δύο δυνατότητες: να πάει ευθεία και να σκοτώσει τους πεζούς ή να πάει αριστερά, να χτυπήσει στο στηθαίο και να σκοτώσει τους επιβαίνοντες. Δεν μπορεί να σώσει και τους δύο. Πώς θα πάρει την απόφαση; Ο αλγόριθμος μπορεί επίσης να καταλαβαίνει ότι οι πεζοί είναι ένα παιδάκι 8 χρονών, ο μπαμπάς του, 41, και ο σκύλος τους και οι επιβαίνοντες μια έγκυος γυναίκα 30 ετών και το αγοράκι της. Πώς εγώ που σχεδιάζω τον αλγόριθμο θα λάβω την απόφαση για το ποιος θα ζήσει»;

Ο ρατσιστής αλγόριθμος

Κατά τον δρα Δασκαλάκη, η Τεχνητή Νοημοσύνη είναι σαν ένα μωρό. Το μωρό έρχεται στον κόσμο με γενετικά χαρακτηριστικά, αλλά εν πολλοίς είναι tabula rasa. Οι γονείς τού δίνουν δεδομένα και στόχους. Αν τα δεδομένα που λαμβάνει το μωρό περιέχουν ρατσιστικές απόψεις ή προκαταλήψεις ή θέσεις, αυτές τις θέσεις θα τις υιοθετήσει. Το ίδιο ισχύει και για την Τεχνητή Νοημοσύνη, η οποία μαθαίνει από την αλληλεπίδραση με τους ανθρώπους.

Χαρακτηριστικό είναι το παράδειγμα ενός chat bot (σ.σ. ρομπότ που κάνει διάλογο μέσω κειμένου ή ήχου). Μια ομάδα χρηστών του επιτέθηκε, παρέχοντάς του ρατσιστικό και συνωμοσιολογικό περιεχόμενο. «Μέσα σε 17 ώρες έγινε τρελός ρατσιστής και συνωμοσιολόγος» σημείωσε ο καθηγητής.

Τίθενται επίσης ζητήματα αμεροληψίας, γιατί αν τα δεδομένα είναι ελλιπή, η τεχνητή νοημοσύνη θα υιοθετήσει στατιστικές που δεν είναι αντιπροσωπευτικές. Κι εδώ για παράδειγμα το ερώτημα είναι: έστω πως φτιάχνω τεχνολογία που αποφαίνεται αν κάποιος είναι άξιος λήψης δανείου, αλλά έχω ελλιπή στοιχεία για μια πληθυσμιακή ομάδα. Τι γίνεται τότε; «Πρέπει να προστατέψουμε την τεχνητή νοημοσύνη από το να κάνει τέτοια στατιστικά λάθη, αλλά το πρόβλημα είναι ότι η στατιστική είναι δύσκολη επιστήμη» σημείωσε, σύμφωνα με το Αθηναϊκό Πρακτορείο Ειδήσεων.

Ο δρ Δασκαλάκης είναι απόφοιτος των Ηλεκτρολόγων του Ε.Μ.Π. Έκανε διδακτορικό στο Πανεπιστήμιο του Μπέρκλεϋ, και εργάστηκε ως μεταδιδακτορικός ερευνητής στη Microsoft. Η έρευνά του επικεντρώνεται στην θεωρητική πληροφορική και την διεπαφή της με τα Οικονομικά, την Στατιστική και την Τεχνητή Νοημοσύνη. Έχει μεταξύ άλλων τιμηθεί με το βραβείο της καλύτερης διδακτορικής διατριβής στην πληροφορική από τον διεθνή οργανισμό επιστήμης των υπολογιστών ACM, με το βραβείο Kalai από την διεθνή ένωση Θεωρίας Παιγνίων, το βραβείο εξαιρετικής δημοσίευσης από την διεθνή ένωση εφαρμοσμένων μαθηματικών SIAM, το Career Award από το Ίδρυμα Επιστημών της Αμερικής, το βραβείο Πληροφορικής του Ιδρύματος Sloan και την ερευνητική υποτροφία της Microsoft.