Μια νέα μονάδα της Ευρωπαϊκής Επιτροπής πρόκειται να έχει την εξουσία να επιβάλει πρόστιμα ή ακόμη και να κλείσει κορυφαίες εταιρείες που δραστηριοποιούνται στην Τεχνητή Νοημοσύνη αν δεν διασφαλίζουν την ασφάλεια.
Οι κορυφαίες εταιρείες τεχνητής νοημοσύνης στον κόσμο έχουν μια νέα πρόκληση, αναφέρει χαρακτηριστικά το Politico: μια ομάδα 37 δημοσίων υπαλλήλων που εργάζονται από ένα κτίριο γραφείων στις Βρυξέλλες.
Από την Κυριακή, μια μονάδα της Ευρωπαϊκής Επιτροπής που δημιουργήθηκε πριν από δύο χρόνια θα αποκτήσει ένα οπλοστάσιο ρυθμιστικών εξουσιών με σκοπό να επιβλέπει τις ενέργειες των μεγάλων παικτών της AI όπως η αμερικανική OpenAI ή η Anthropic, αλλά και οι ανερχόμενοι Κινέζοι ανταγωνιστές τους όπως οι Moonshot και Deepseek.
Αν στους ρυθμιστές της ΕΕ δεν αρέσει αυτό που βλέπουν, θα μπορούσαν να επιβάλουν πρόστιμα ή ακόμα και να απαγορεύσουν τα μοντέλα στην αγορά.
Η μονάδα ασφάλειας της Τεχνητής Νοημοσύνης της Επιτροπής είναι η πρώτη μεγάλη παγκόσμια προσπάθεια να εφαρμοστεί ένα μόνιμο εγχειρίδιο κανόνων για τα πιο ικανά μοντέλα τεχνητής νοημοσύνης στον κόσμο, προκειμένου να αντιμετωπιστούν οι πιο σοβαροί κίνδυνοι που φέρνουν. Ένα πρόσφατο περιστατικό με έναν ΑΙ agent που ξέφυγε και χάκαρε άλλη εταιρεία αυξάνει την πίεση στην σχετικά μικρή ομάδα που εδρεύει στις Βρυξέλλες να θέσει το πρότυπο για το πώς οι κυβερνήσεις μπορούν να βοηθήσουν στη διασφάλιση της ΑΙ.
Ο νόμος της ΕΕ για την τεχνητή νοημοσύνη, που εφαρμόστηκε τον Αύγουστο του 2024, πιέζει τους παρόχους των πιο εξελιγμένων μοντέλων ΑΙ, όπως οι OpenAI, Anthropic και Google, να «αξιολογήσουν και να μετριάσουν πιθανούς συστημικούς κινδύνους» που προκύπτουν από την κυκλοφορία αυτών των μοντέλων στην αγορά.
Πριν από ένα χρόνο, ξεχώρισε τέσσερις συγκεκριμένους κινδύνους: η Τεχνητή Νοημοσύνη να διευκολύνει μια χημική, βιολογική ή πυρηνική επίθεση· η απώλεια ελέγχου ενός μοντέλου ΑΙ· ένα μοντέλο ΑΙ να ξεκινήσει μια κυβερνοεπίθεση· και η Τεχνητή Νοημοσύνη να εκτελεί εκτεταμένη χειραγώγηση.
Η Επιτροπή έχει μια σειρά εργαλείων για να ανταποκριθεί αν πιστεύει ότι οι εταιρείες δεν τα καταφέρνουν, σημειώνει το Politico. Μπορεί να ζητήσει μέτρα μετριασμού όταν υπάρχει «σοβαρή και τεκμηριωμένη ανησυχία για συστημικό κίνδυνο». Μπορεί να πει στις εταιρείες να περιορίσουν, να αποσύρουν ή να ανακαλέσουν τα μοντέλα τους.
Πρόστιμα έως 15 εκατομμύρια ευρώ ή 3% του παγκόσμιου ετήσιου τζίρου των εταιρειών είναι μια επιλογή όταν οι εταιρείες δεν παρέχουν τις ζητούμενες πληροφορίες, δεν δίνουν πρόσβαση σε ένα μοντέλο ή όταν αποτυγχάνουν να εφαρμόσουν τα μέτρα που επιβάλλει η Επιτροπή.
Αν και μόνο οι απειλές προστίμων μπορεί να μην καθυστερήσουν την κούρσα της AI, οι νέες εξουσίες της ΕΕ θα φέρουν περαιτέρω έλεγχο σε μια κρίσιμη στιγμή για την ανάπτυξη αυτών των εταιρειών: λίγο πριν λανσάρουν ένα νέο μοντέλο στην αγορά.
Κυνήγι ταλέντων
Μέσα στο Γραφείο Τεχνητής Νοημοσύνης της Επιτροπής, στην καρδιά της ΕΕ, μία από τις έξι μονάδες επικεντρώνεται συγκεκριμένα στο πώς ελέγχει τους πρωτοπόρους της AI όσον αφορά τους αναφερόμενους συστημικούς κινδύνους.
Από την ίδρυσή της, η μονάδα, γνωστή ως «A3», έχει ήσυχα θέσει τα θεμέλια για την καθοριστική ημερομηνία υλοποίησης αυτήν την εβδομάδα, αναφέρει το Politico.
Το περασμένο καλοκαίρι, η μονάδα εξέδωσε έναν κώδικα δεοντολογίας με στόχο να βοηθήσει τις μεγαλύτερες εταιρείες AI του κόσμου να συμμορφωθούν με τις υποχρεώσεις που αναφέρονται στον νόμο. Αυτό δεν πήγε ακριβώς όπως είχε προγραμματιστεί, με τη Meta να μην υπογράφει τον κώδικα.
Η μονάδα είχε επίσης προβλήματα στο προσωπικό. Από τα μέσα του 2024 μέχρι το τέλος του 2025, η μονάδα λειτουργούσε χωρίς επικεφαλής, με τη γενική διευθύντρια του Γραφείου Τεχνητής Νοημοσύνης, Λουκίλα Σιόλι, να αναλαμβάνει προσωρινά. Η Επιτροπή τελικά όρισε τον Ματιέ Ντελεσκλούς ως επικεφαλής της μονάδας τον Ιανουάριο.
Ο Ντελεσκλούς είναι παλιός γραφειοκράτης της Επιτροπής και έχει εργαστεί σε διάφορα θέματα κατά τη διάρκεια της καριέρας του, συμπεριλαμβανομένης της πολιτικής στις τηλεπικοινωνίες, των τελών περιαγωγής και της κατανομής των προγραμμάτων χρηματοδότησης για τεχνολογία και καινοτομία της ΕΕ. Δεν έχει ειδική εμπειρία στην ασφάλεια της τεχνητής νοημοσύνης. Σύμφωνα με το προφίλ του στο LinkedIn, έχει διδακτορικό στη νευροεπιστήμη από το Πανεπιστήμιο Pierre και Marie Curie στο Παρίσι και έχει σπουδάσει επίσης στο Κολλέγιο της Ευρώπης στη Βαρσοβία, στο Natolin.
Σε μια εκδήλωση νωρίτερα φέτος που διοργάνωσε η μη κερδοσκοπική ερευνητική οργάνωση FAR.ai στο Λονδίνο, ο Ντελεσκλούς έδωσε μια γεύση από την προσέγγισή του: «Έχουμε τα μέσα… να πιέσουμε τις εταιρείες να χρησιμοποιούν το state-of-the-art στην αξιολόγηση και στην εκτίμηση του ρίσκου των μοντέλων τους».
Είπε ότι η μονάδα του βρίσκεται ήδη «σε διάλογο με τους περισσότερους παρόχους», αλλά σημείωσε ότι μέχρι τώρα λειτουργούσε χωρίς τις σημαντικές νέες εξουσίες που τώρα δίνονται.
«Αν χρειαστεί και όπου είναι κατάλληλο, μπορούμε επίσης να πάμε ένα βήμα παραπέρα και να κάνουμε επίσημα αιτήματα πληροφόρησης, πρόσβαση σε μοντέλα και, όπου χρειάζεται, διορθωτικά μέτρα, ακόμα και πρόστιμα», προειδοποίησε.
Η Ευρωπαϊκή Επιτροπή έχει κρατήσει κλειστά τα χαρτιά της σχετικά με την ομάδα των εμπειρογνωμόνων που πραγματοποιεί πραγματικά τις έρευνες, ακολουθώντας την συνήθη πολιτική της να μην αποκαλύπτει τα ονόματα των κατώτερων υπαλλήλων. Παρ’ όλα αυτά, έχουν διαρρεύσει κάποια ονόματα, δίνοντας μια ιδέα για το ποιοι βρίσκονται μέσα στη μονάδα των 37.
Την Παρασκευή, η Εκτελεστική Επιτροπή της ΕΕ επιβεβαίωσε ότι αναζητά συμβασιούχους πράκτορες για δύο μονάδες εντός του Γραφείου για την Τεχνητή Νοημοσύνη, οι οποίες τελικά θα αυξήσουν σημαντικά τον αριθμό του προσωπικού της κατά τη διάρκεια του 2027.
Στην εκδήλωση του Λονδίνου, ο Ντελεσκλούς ήταν στη σκηνή μαζί με τον Σάιμον Μέλλερ, ο οποίος καυχάται τον τίτλο «υπεύθυνος ροής εργασίας ασφάλειας AI» στο LinkedIn.
Ο Μέλλερ εργαζόταν στη Google στη Ζυρίχη πριν ενταχθεί στην Επιτροπή, υποδεικνύοντας ότι η μονάδα έχει εσωτερική γνώση για τις διαδικασίες των τεχνολογικών εταιρειών.
Ένα ακόμα όνομα που έχει εμφανιστεί είναι αυτό του Βουτ Σχέλαρτ, ο οποίος έκανε «γενικές αξιολογήσεις επικεντρωμένες στην ασφάλεια» ως σύμβουλος για την OpenAI το 2023, πριν μεταβεί να δουλέψει στην Επιτροπή στις αρχές του 2025. Ο Σχέλαρτ επιβεβαίωσε στο Politico ότι είχε πρόσφατα φύγει από την Επιτροπή.
Κάποιοι παρατηρητές εξέφρασαν τις ανησυχίες τους για το αν το Γραφείο Τεχνητής Νοημοσύνης μπορεί να προσελκύσει ικανούς ερευνητές AI, που μπορούν να λαμβάνουν υπέρογκους μισθούς στον ιδιωτικό τομέα.
Η παροχή επαρκών πόρων είναι ένα πράγμα σε αυτό το πλαίσιο, είπε ο Τζίμι Φάρελ, υπεύθυνος πολιτικής για την AI στην ΕΕ στο think tank Pour Demain, αλλά «δεν είναι τα πάντα».
Ο Φάρελ είπε ότι το Γραφείο θα πρέπει επίσης να δείξει «διοικητική καινοτομία», με «ανταγωνιστικούς μισθούς, ασφαλείς συμβάσεις και άμεσους διαύλους επικοινωνίας».
Οι εταιρείες λένε ότι είναι έτοιμες να συνεχίσουν τη συζήτηση και να συνεργαστούν με τη μονάδα ασφάλειας AI.
Ο Τομ Νταφ Γκόρντον, αντιπρόεδρος για την πολιτική στην Ευρώπη στην OpenAI, είπε ότι η εταιρεία του έχει συνεργαστεί με την ΕΕ και άλλους φορείς της βιομηχανίας για το πώς εφαρμόζεται ο νόμος για την AI. «Έχουμε συνεργαστεί στενά… και θα συνεχίσουμε να δουλεύουμε μαζί», είπε. «Πιστεύουμε ότι η υπεύθυνη AI μπορεί να βοηθήσει στην ενίσχυση της ανταγωνιστικότητας και της ευημερίας της Ευρώπης».