- -
Η ανθρωπότητα «πρέπει να ξυπνήσει» απέναντι στους δυνητικά καταστροφικούς κινδύνους των ισχυρών συστημάτων Τεχνητής Νοημοσύνης, προειδοποιεί ο επικεφαλής της Anthropic, Ντάριο Αμοντέι, κάνοντας λόγο για απειλές που εκτείνονται από τη βιοτρομοκρατία έως την παγκόσμια αποσταθεροποίηση.
Ο CEO της Anthropic προειδοποιεί ότι η ισχυρή AI μπορεί σύντομα να ξεπεράσει σε ικανότητες κορυφαίους επιστήμονες και ηγέτες, χωρίς επαρκείς δικλίδες ασφαλείας.
Μεταξύ των κινδύνων που περιγράφει είναι η βιοτρομοκρατία, η μαζική απώλεια θέσεων εργασίας και η ενίσχυση αυταρχικών καθεστώτων.
Η παρέμβαση Αμοντέι εντείνει τη σύγκρουση γύρω από τη ρύθμιση της AI στις ΗΠΑ, με φόντο τον ανταγωνισμό Anthropic–OpenAI και τις επιλογές της κυβέρνησης Τραμπ.
Η ανθρωπότητα «πρέπει να ξυπνήσει» απέναντι στους δυνητικά καταστροφικούς κινδύνους που ενέχουν τα ισχυρά συστήματα Τεχνητής Νοημοσύνης τα επόμενα χρόνια, προειδοποιεί ο επικεφαλής της Anthropic, Ντάριο Αμοντέι, η εταιρεία του οποίου βρίσκεται στην αιχμή της ανάπτυξης της τεχνολογίας.
Οπως μεταδίδουν οι Financial Times, σε ένα δοκίμιο σχεδόν 20.000 λέξεων, ο Αμοντέι περιγράφει τους κινδύνους που μπορεί να προκύψουν εάν η Τεχνητή Νοημοσύνη εξελιχθεί ανεξέλεγκτα – από μαζικές απώλειες θέσεων εργασίας έως τη βιοτρομοκρατία.
«Η ανθρωπότητα πρόκειται να αποκτήσει μια σχεδόν αδιανόητη ισχύ και είναι βαθιά αβέβαιο αν τα κοινωνικά, πολιτικά και τεχνολογικά μας συστήματα διαθέτουν την ωριμότητα για να τη διαχειριστούν», γράφει ο Αμοντέι.
Συστήματα πιο ικανά και από επιστήμονα βραβευμένο με Νόμπελ
Το κείμενο αποτελεί μια σκληρή προειδοποίηση από έναν από τους πιο ισχυρούς επιχειρηματίες στον κλάδο της Τεχνητής Νοημοσύνης, ότι οι υπάρχουσες δικλίδες ασφαλείας γύρω από την AI είναι ανεπαρκείς.
Ο Αμοντέι περιγράφει τους κινδύνους που μπορεί να συνοδεύσουν την έλευση αυτού που αποκαλεί «ισχυρή AI» -συστήματα που θα είναι «πολύ πιο ικανά από οποιονδήποτε βραβευμένο με Νόμπελ, πολιτικό ηγέτη ή κορυφαίο τεχνολόγο»- και εκτιμά ότι αυτή η εξέλιξη είναι πιθανή μέσα στα επόμενα «λίγα χρόνια».
Μεταξύ των κινδύνων που αναφέρει είναι η δυνατότητα μεμονωμένων ατόμων να αναπτύξουν βιολογικά όπλα ικανά να σκοτώσουν εκατομμύρια ανθρώπους ή, «στη χειρότερη περίπτωση, ακόμη και να καταστρέψουν κάθε μορφή ζωής στη Γη».
Η τεχνητή νοημοσύνη μπορεί να οδηγήσει σε παγκόσμια ολοκληρωτική δικτατορία
«Ένας διαταραγμένος μοναχικός δράστης, που σήμερα μπορεί να διαπράξει μια επίθεση σε σχολείο αλλά πιθανότατα δεν μπορεί να κατασκευάσει ένα πυρηνικό όπλο ή να εξαπολύσει μια πανδημία, θα αναβαθμιστεί σε επίπεδο ικανοτήτων σε αντίστοιχο ενός διδάκτορα ιολόγο», γράφει ο Αμοντέι.
Παράλληλα, επισημαίνει τον κίνδυνο η Τεχνητή Νοημοσύνη να «ξεφύγει από τον έλεγχο και να υπερισχύσει της ανθρωπότητας» ή να ενισχύσει αυταρχικά καθεστώτα και άλλους κακόβουλους δρώντες, οδηγώντας σε «μια παγκόσμια ολοκληρωτική δικτατορία».
Ο Αμοντέι, η εταιρεία του οποίου, η Anthropic, αποτελεί τον βασικό ανταγωνιστή της OpenAI (δημιουργού του ChatGPT), έχει έρθει σε αντιπαράθεση με τον Ντέιβιντ Σακς, τον «τσάρο» της τεχνητής νοημοσύνης και των κρυπτονομισμάτων του προέδρου των ΗΠΑ Ντόναλντ Τραμπ, σχετικά με την κατεύθυνση της αμερικανικής ρύθμισης στον τομέα της AI.