Η κινεζική startup τεχνητής νοημοσύνης DeepSeek θα είναι μία από τις εταιρείες που θα ενημερώσουν το Συμβούλιο Ασφαλείας των Ηνωμένων Εθνών αυτή την εβδομάδα σχετικά με τους κινδύνους που ενέχει η τεχνητή νοημοσύνη, σύμφωνα με δύο πηγές που είναι ενήμερες για το θέμα, καθώς οι ηγέτες του κόσμου συγκεντρώνονται στη Νέα Υόρκη για την ετήσια Γενική Συνέλευση του ΟΗΕ.
Οι επικεφαλής των κορυφαίων εταιρειών ανάπτυξης μοντέλων της Κίνας σπάνια έχουν εκφράσει δημοσίως την πιθανότητα τα ολοένα και πιο ικανά συστήματα τεχνητής νοημοσύνης να μπορούν τα ίδια να εξαπατήσουν τους ανθρώπους, να ξεφύγουν από τον έλεγχο ή να προκαλέσουν καταστροφικές ζημίες
Το 15μελές Συμβούλιο Ασφαλείας πρόκειται να συνεδριάσει την Τετάρτη για να συζητήσει θέματα τεχνητής νοημοσύνης και διεθνούς ασφάλειας, λίγες εβδομάδες αφότου αρκετοί ηγέτες του κλάδου της τεχνητής νοημοσύνης ζήτησαν μια συντονισμένη επιβράδυνση της ανάπτυξης των ολοένα και πιο ισχυρών συστημάτων τεχνητής νοημοσύνης, προειδοποιώντας ότι αυτά θα μπορούσαν σύντομα να εξελιχθούν από μόνα τους και να ξεφύγουν από τον ανθρώπινο έλεγχο.
Ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, σχεδιάζει να ενημερώσει τη συνάντηση, στην οποία οι διπλωμάτες αναμένουν επίσης τη συμμετοχή ανώτερων εκπροσώπων της Anthropic, όπως ανέφερε το Reuters την περασμένη εβδομάδα.
Η DeepSeek και άλλες κινεζικές εταιρείες τεχνητής νοημοσύνης, συμπεριλαμβανομένης της Moonshot, έχουν προσκληθεί να προβούν σε δηλώσεις, ανέφερε μία από τις πηγές.
Ο ιδρυτής της DeepSeek, Liang Wenfeng, δεν σκοπεύει να παραστεί, ανέφερε η πηγή, προειδοποιώντας ωστόσο ότι τα σχέδια παραμένουν ρευστά και ενδέχεται να αλλάξουν την τελευταία στιγμή.
Στο επίκεντρο οι κίνδυνοι από την τεχνητή νοημοσύνη
Το Συμβούλιο Ασφαλείας του ΟΗΕ, το οποίο είναι επιφορτισμένο με τη διατήρηση της διεθνούς ειρήνης και ασφάλειας, συνεδρίασε για πρώτη φορά το 2023 με θέμα τους κινδύνους της τεχνητής νοημοσύνης. Τότε, η Κίνα προειδοποίησε ότι η τεχνολογία δεν πρέπει να μετατραπεί σε «αχαλίνωτο άλογο», ενώ οι ΗΠΑ προειδοποίησαν κατά της χρήσης της για λογοκρισία ή καταστολή των πολιτών.
Ο Γενικός Γραμματέας του ΟΗΕ Αντόνιο Γκουτέρες προειδοποίησε την περασμένη εβδομάδα τους ηγέτες του κόσμου ότι η ραγδαία πρόοδος της τεχνητής νοημοσύνης ενέχει κινδύνους που δεν μπορούν να αγνοηθούν, θέτοντάς τον σε αντίθεση με τον Πρόεδρο των ΗΠΑ Ντόναλντ Τραμπ, ο οποίος υποστηρίζει ότι τα υφιστάμενα μέτρα προστασίας είναι επαρκή και ότι η Κίνα θα επωφεληθεί από την αμφισβήτηση που διατυπώνεται σχετικά με την ανάπτυξη της τεχνητής νοημοσύνης.
Τα κρατικά μέσα ενημέρωσης της Κίνας έχουν απορρίψει τις εκκλήσεις για επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης, χαρακτηρίζοντάς τις ως προερχόμενες από ένα «σενάριο του Ψυχρού Πολέμου», με στόχο τη διατήρηση της κυριαρχίας της Ουάσιγκτον στην τεχνολογία αιχμής και τον αποκλεισμό του Πεκίνου από το παγκόσμιο σύστημα διακυβέρνησης της τεχνητής νοημοσύνης.
Σε αντίθεση με τους επικεφαλής πρωτοποριακών εργαστηρίων των ΗΠΑ, όπως τα OpenAI και Anthropic, οι επικεφαλής των κορυφαίων εταιρειών ανάπτυξης μοντέλων της Κίνας σπάνια έχουν εκφράσει δημοσίως την πιθανότητα τα ολοένα και πιο ικανά συστήματα τεχνητής νοημοσύνης να μπορούν τα ίδια να εξαπατήσουν τους ανθρώπους, να ξεφύγουν από τον έλεγχο ή να προκαλέσουν καταστροφικές ζημίες.
Επίσης, έχουν παραμείνει σε μεγάλο βαθμό σιωπηλοί όσον αφορά αυτούς τους κινδύνους από τότε που η συζήτηση εντάθηκε στις ΗΠΑ αυτό το μήνα.
Ανώτεροι αξιωματούχοι των ΗΠΑ και της Κίνας συμφώνησαν να πραγματοποιήσουν περαιτέρω συνομιλίες σχετικά με την ασφάλεια της τεχνητής νοημοσύνης, όπως δήλωσε τη Δευτέρα ο υπουργός Οικονομικών των ΗΠΑ Σκοτ Μπέσεντ, μετά από συνάντηση που πραγματοποιήθηκε εν όψει των προγραμματισμένων συνομιλιών του Τραμπ με τον Κινέζο πρόεδρο Σι Τζινπίνγκ αργότερα αυτή την εβδομάδα στην Ουάσινγκτον.