Αν και έπρεπε να έχει γίνει «χθες», κρίνοντας από τους καταιγιστικούς ρυθμούς ανάπτυξης της Τεχνητής Νοημοσύνης, η Ευρωπαϊκή Ένωση προχώρησε μόλις στα μέσα του περασμένου Σεπτεμβρίου σε μια πρώτη πραγματική προσπάθεια να συγκροτήσει ένα συγκροτημένο κανονιστικό πλαίσιο για την προστασία του πολιτιστικού τομέα από τη νέα τεχνολογία, μέσω του σχεδίου έκθεσης σχετικά με τους πολιτιστικούς και δημιουργικούς τομείς στην εποχή της Τεχνικής Νοημοσύνης, που έθεσε σε δημόσια διαβούλευη η Επιτροπή Πολιτισμού και Παιδείας της Ευρωπαϊκής Επιτροπής.
Οι κίνδυνοι από αυτήν την αργοπορία – τόσο μεγάλη που αρχίζει να εκκινεί υποψίες αδιαφορίας – είναι εύλογοι και προφανείς, καθώς, ένα από τα προνομιακά πεδία εφαρμογής της Τεχνητής Νοημοσύνης είναι η δημιουργία περιεχομένου.
Δηλαδή, η ασύδωτη χρήση της – και όχι φυσικά η ίδια η τεχνολογία – απειλεί ευθέως τη σύγχρονη καλλιτεχνική δημιουργία, σε κάθε επίπεδο, από την δημιουργική δραστηριότητα, μέχρι τα πνευματικά δικαιώματα και την εν δυνάμει άλωση των εργασιακών σχέσεων και συνθηκών σε έναν ιδιαίτερα δυναμικό τομέα, όπως ο πολιτιστικός.
Πολιτιστικοί – Δημιουργικοί Τομείς: Οικονομικό απόθεμα ή πεδίο ελεύθερης αδιαμεσολάβητης έκφρασης;
Η ΤΝ έρχεται σε μια στιγμή κατά την οποία, η οικονομική δυναμική των λεγόμενων «δημιουργικών βιομηχανιών», γνωστών και ως «πολιτιστικών βιομηχανιών», ή βιομηχανιών του «ελεύθερου χρόνου» είναι εδώ και δεκαετίες κοινός τόπος, οδηγώντας την Ευρωπαϊκή Ένωση να τις αντιμετωπίζει ως σημαντικό πεδίο επιχειρηματικής δραστηριότητας.
Ωστόσο, το παραπάνω γεγονός, με τη σειρά του, προκαλεί αντιδράσεις και συζητήσεις για τα όρια της επέκτασης των κανόνων της αγοράς στη διαχείριση του πολιτισμού, κυρίως της πολιτιστικής κληρονομιάς, εξαιτίας της ιδιαίτερης φύσης της ως φορέα συλλογικής μνήμης και αναπαλλοτρίωτης κοινωνικής ιδιοκτησίας που πρέπει να περάσει στις επόμενες γενιές, δίχως αγοραία διαμεσολάβηση.
Επιπλέον, ήδη προκαλεί και ανησυχία στους εργαζόμενους, σε αυτήν, καθώς και τους δημιουργούς, οι οποίοι καλούνται να λειτουργήσουν ως μικρο – «επιχειρηματίες», σε ένα εν πολλοίς εχθρικό οικονομικό περιβάλλον (και) για την Τέχνη.
Αν, όμως, η παραπάνω συζήτηση στην Ευρώπη άνοιξε κυρίως τις τρεις τελευταίες δεκαετίες, για τους διεθνείς οικονομικούς φορείς, η κατάσταση στο εν λόγω πεδίο είναι μάλλον ξεκάθαρη, δεδομένων των εντυπωσιακών αριθμών.
Διότι, οι δημιουργικές βιομηχανίες παράγουν ετήσια έσοδα άνω των 2,3 τρισεκατομμυρίων δολαρίων παγκοσμίως, απασχολούν πάνω από 200 εκατομμύρια ανθρώπους και αντιπροσωπεύουν το 6,2% της παγκόσμιας απασχόλησης.
Η Ευρωπαϊκή Ένωση εκτιμούσε, πριν την έλευση της ΤΝ, ότι η ενίσχυση και η προώθηση των Πολιτιστικών και Δημιουργικών Τομέων μπορεί να τονώσει την περιφερειακή ανάπτυξη και την τοπική ανταγωνιστικότητα.
Οι στρατηγικές αναζωογόνησης και ανάπτυξης που βασίζονται στον πολιτισμό μπορούν να μεταμορφώσουν περιοχές, λένε στις Βρυξέλλες.
Οι εν λόγω βιομηχανίες δεν προσφέρουν μόνο οικονομικά οφέλη (μέσω της τοπικής φορολογίας, της δημιουργίας θέσεων εργασίας, της καινοτομίας και των αλυσίδων εφοδιασμού) και κοινωνικά οφέλη (π.χ. ευημερία και κοινωνική συνοχή), αλλά συμβάλλουν επίσης στη διαμόρφωση της ταυτότητας του τόπου («place-making»), καθιστώντας τις πόλεις και τις περιφέρειες πιο ελκυστικές για εργασία και διαβίωση, ενθαρρύνοντας τις εισερχόμενες επενδύσεις και τη ροή εργατικού δυναμικού, καθώς και ενισχύοντας την παραγωγικότητα και τον τουρισμό.
Οι πολιτικές αναζωογόνησης και ανάπτυξης με επίκεντρο τον πολιτισμό εστιάζουν στην οικονομική και κοινωνική ανάπτυξη μιας πόλης ή περιφέρειας, προωθώντας και διευκολύνοντας την πολιτιστική και δημιουργική δραστηριότητα.
Γι’ αυτό και το μεγαλύτερο μέρος των κρατικών δαπανών για πολιτιστικές υπηρεσίες προέρχεται από τις εθνικές αρχές.
Οι εθνικές αρχές αντιπροσώπευαν σχεδόν το 60% των συνολικών δημόσιων δαπανών για πολιτιστικές υπηρεσίες το 2019.
Επίσης, οι εθνικές αρχές διαθέτουν πολύ μεγαλύτερο ποσοστό του προϋπολογισμού τους σε πολιτιστικές δραστηριότητες σε σύγκριση με τις κεντρικές κυβερνήσεις, καθώς οι πολιτιστικές υπηρεσίες αντιστοιχούν κατά μέσο όρο στο 3% των δαπανών των υποεθνικών αρχών, έναντι 1,2% των δαπανών των κεντρικών κυβερνήσεων στις χώρες του ΟΟΣΑ.
Ο «εισοδισμός» της ΤΝ στον πολιτισιτκό τομέα
Γίνεται εύκολα κατανοητό, ότι όλα τα παραπάνω οικονομικά μεγέθη θα επηρεαστούν καταλυτικά με διάφορους τρόπου από την Τεχνητή Νοημοσύνη, καθώς, όπως τονίζεται στην Έκθεση, αυτή «μετασχηματίζει τους πολιτιστικούς και δημιουργικούς τομείς με ρυθμό που καμία προηγούμενη τεχνολογία δεν έχει επιτύχει».
Ήδη, αναφέρει η Έκθεση, σύμφωνα με τη Eurostat, σχεδόν οι μισές ευρωπαϊκές επιχειρήσεις (με τουλάχιστον 10 εργαζομένους) στους πολιτιστικούς και δημιουργικούς τομείς (ΠΔΤ) έχουν ήδη υιοθετήσει τουλάχιστον μία τεχνολογία ΤΝ, ενώ το αντίστοιχο ποσοστό παραμένει κάτω από μία στις πέντε στο σύνολο της οικονομίας.
Ωστόσο, λέει η Έκθεση, οι ΠΔΤ δεν είναι συνηθισμένοι κλάδοι.
«Είναι φορείς ταυτότητας, γλώσσας και συλλογικής μνήμης. Διαμορφώνουν τον τρόπο με τον οποίο οι κοινωνίες μας αντιλαμβάνονται τον εαυτό τους και εξελίσσονται με την πάροδο του χρόνου, και οι ίδιοι διαμόρφωσαν το ευρωπαϊκό εγχείρημα, το οποίο αναπτύχθηκε από μια κοινή πολιτιστική κληρονομιά πολύ πριν αρχίσει να θεσπίζει νόμους που επηρεάζουν εκατομμύρια ανθρώπους.
Επομένως, ένας βαθύς μετασχηματισμός της πολιτιστικής παραγωγής αποτελεί μετασχηματισμό της ίδιας της κοινωνίας».
Αυτό έχει ξανασυμβεί: «Η αλλαγή καθαυτή ούτε είναι κάτι νέο ούτε είναι ανεπιθύμητη. Η τυπογραφία, η φωτογραφία, η ηχογράφηση, το ραδιόφωνο, ο κινηματογράφος, η τηλεόραση και η ψηφιακή μετάβαση άλλαξαν, το καθένα με τον δικό του τρόπο, τον τρόπο με τον οποίο δημιουργούνταν, αναπαράγονταν και μοιράζονταν ο πολιτισμός, και ο ευρωπαϊκός πολιτισμός ανανεώθηκε μέσα από κάθε μία από αυτές τις αλλαγές.».
Ωστόσο, το διαφορετικό τώρα «δεν είναι μόνο η ταχύτητα της αλλαγής αλλά και η πηγή της».
Διότι «για πρώτη φορά, το πολιτιστικό περιεχόμενο μπορεί να παράγεται σε κλίμακα χωρίς να περνά από ανθρώπινο νου».
Έτσι, αυτός ο «μετασχηματισμός», «δεν μπορεί να αντιμετωπιστεί ως ένα ακόμη βήμα σε μια οικεία ακολουθία, και γι’ αυτό οι συνθήκες υπό τις οποίες λαμβάνει χώρα απαιτούν πολιτική και ρυθμιστική απάντηση αντί για εμπιστοσύνη στον ίδιο τον κλάδο».
Το ερώτημα
Συνεπώς, «το ερώτημα ενώπιον της Επιτροπής Πολιτισμού και Παιδείας δεν είναι απλώς πώς μια νέα τεχνολογία επηρεάζει μια αγορά: είναι ποιος διαμορφώνει την πολιτιστική παραγωγή στην εποχή της ΤΝ, υπό ποιες συνθήκες και με ποια πρόθεση».
Όντως, λέει η Έκθεση, η ΤΝ προσφέρει πραγματικές ευκαιρίες σε ολόκληρη την αλυσίδα αξίας της δημιουργικής οικονομίας: ευρύτερη πρόσβαση στον πολιτισμό, μεγαλύτερη προσβασιμότητα για τα άτομα με αναπηρία, αποκατάσταση και ανασύνθεση της πολιτιστικής κληρονομιάς, καλύτερη δυνατότητα εντοπισμού ευρωπαϊκών έργων και νέες μορφές καλλιτεχνικής έκφρασης.
Ταυτόχρονα, η τρέχουσα ανάπτυξή της και η εύκολη και μαζική χρήση της ασκούν στον ΠΔΤ «πρωτοφανή δομική πίεση».
Μερικές πτυχές αυτής της πίεσης είναι ότι «τα προστατευόμενα έργα χρησιμοποιούνταν και χρησιμοποιούνται σε μεγάλη κλίμακα χωρίς άδεια».
Αυτό σημαίνει, ότι «τα έσοδα έτσι εκτρέπονται από εκείνους που δημιουργούν ή εκτελούν».
«Η προβολή καθορίζεται ολοένα και περισσότερο από συστήματα των οποίων τα κριτήρια δεν είναι διαφανή, και, τέλος, οι καταναλωτές σπάνια ενημερώνονται για αυτές τις πρακτικές και τις επιπτώσεις τους».
Η Επιτροπή λέει ότι η «πρόκληση αυτής της έκθεσης δεν είναι να επιλέξει μεταξύ τεχνολογίας και πολιτισμού».
«Είναι να αξιολογήσει τη διασταύρωσή τους και να διασφαλίσει ότι η χρήση της ΤΝ δεν θα εκμεταλλευτεί ή θα ξαναγράψει την ψυχή του ευρωπαϊκού μας πολιτισμού ούτε θα ζημιώσει περαιτέρω όσους εξαρτώνται από αυτόν».
Μάλιστα, κάνει αναφορά και στον Πάπας Λέων ΙΔ΄, ο οποίος, τον περασμένο Μάιο, αφιέρωσε την πρώτη εγκύκλιο της Magnifica Humanitas, «στη διαφύλαξη του ανθρώπινου προσώπου στην εποχή της τεχνητής νοημοσύνης, θέτοντας την αξιοπρέπεια του ανθρώπινου προσώπου ως το θεμελιώδες κριτήριο με βάση το οποίο θα πρέπει να καθοδηγείται η τεχνολογική πρόοδος, και υπενθυμίζοντας την αξιοπρέπεια της ανθρώπινης εργασίας ως προτεραιότητα σε όλες τις μελλοντικές εξελίξεις.».
Η ευθύνη
Το άρθρο 167 της Συνθήκης για τη λειτουργία της Ευρωπαϊκής Ένωσης δεσμεύει την Ένωση να προάγει την άνθηση του πολιτισμού των κρατών μελών, σεβόμενη την εθνική και περιφερειακή τους πολυμορφία και αναδεικνύοντας την κοινή πολιτιστική τους κληρονομιά.
Η Σύμβαση της UNESCO για την Προστασία και την Προώθηση της Πολυμορφίας των Πολιτιστικών Εκφράσεων, στην οποία η Ένωση είναι συμβαλλόμενο μέρος, συνεπάγεται δικές της υποχρεώσεις.
Οι διατάξεις αυτές καθορίζουν μια ευθύνη που βαρύνει την Ένωση, και η ΤΝ τη δοκιμάζει πλέον.
Τα μεγέθη
Η Επιτροπή λέει ότι οι σχετικοί τομείς «απασχολούν περίπου οκτώ εκατομμύρια ανθρώπους και αντιπροσωπεύουν περίπου το 4% της προστιθέμενης αξίας της Ένωσης».
«Αποτελούνται σε συντριπτικό βαθμό από μικρές και πολύ μικρές επιχειρήσεις, μεμονωμένους δημιουργούς και ελεύθερους επαγγελματίες, οι οποίοι είναι ακριβώς οι παράγοντες που έχουν τη μικρότερη δυνατότητα να διαπραγματευτούν με τις μεγαλύτερες τεχνολογικές εταιρείες του κόσμου και να επαληθεύσουν τη συμπεριφορά τους.
»Πέρα από το οικονομικό τους βάρος, οι τομείς αυτοί στηρίζουν τη γλωσσική πολυμορφία, τον πλουραλισμό των μέσων ενημέρωσης και λειτουργούν ως φυλαχτά του δημοκρατικού διαλόγου.
»Η ευθύνη της Ένωσης είναι επίσης πρακτική, καθώς οι συνθήκες υπό τις οποίες η ΤΝ συναντά τον ευρωπαϊκό πολιτισμό καθορίζονται σε μεγάλο βαθμό σε επίπεδο Ένωσης, μέσω της Πράξης για την Τεχνητή Νοημοσύνη, της Πράξης για τις Ψηφιακές Υπηρεσίες, της Πράξης για τις Ψηφιακές Αγορές, του πλαισίου για τα δικαιώματα πνευματικής ιδιοκτησίας, της οδηγίας για τις υπηρεσίες οπτικοακουστικών μέσων και της Ευρωπαϊκής Πράξης για την Ελευθερία των Μέσων Ενημέρωσης».
Η Επιτροπή αναγνωρίζει, ότι η «εμπειρία των ΠΔΔ από αυτή την τεχνολογία θα εξαρτηθεί από τον τρόπο με τον οποίο εφαρμόζονται αυτά τα οριζόντια μέσα και από το τι κάνει η Ένωση όταν αυτά αποδεικνύονται ανεπαρκή. Οι πιεστικοί χρόνοι καθιστούν αυτή την ευθύνη ακόμη πιο επιτακτική».
Η Επιτροπή έχει ανακοινώσει, στο πλαίσιο της Πολιτιστικής Πυξίδας για την Ευρώπη, μια στρατηγική για την ΤΝ για τους πολιτιστικούς και δημιουργικούς τομείς για τις αρχές του 2027.
Οι προκλήσεις
Το θέμα όμως είναι ότι μάλλον η ΕΕ έχει αργήσει.
Η ίδια η Επιτροπή, στην Έκθεση, περιγράφει με πολύ μελανά χρώματα τη σημερινή κατάσταση:
«Μια λεπτή γραμμή χωρίζει τη συμβολή από την ιδιοποίηση. Η εκπαίδευση (σσ: της ΤΝ) χωρίς συναίνεση σε προστατευόμενα έργα υπερβαίνει αυτή τη γραμμή, καθώς η αξία απορρέει από το ευρωπαϊκό πολιτιστικό οικοσύστημα χωρίς άδεια, διαφάνεια ή αμοιβή.
»Προστατευόμενα έργα έχουν χρησιμοποιηθεί σε πολύ μεγάλη κλίμακα για την εκπαίδευση παραγωγικών συστημάτων, και τα συστήματα που έχουν δημιουργηθεί πάνω σε αυτά πλέον ανταγωνίζονται την ίδια τη δημιουργικότητα πάνω στην οποία εκπαιδεύτηκαν.
»Η επιφύλαξη δικαιωμάτων που προβλέπεται στο δίκαιο της Ένωσης έχει αποδειχθεί ανεπαρκής στην πράξη, ιδίως για μεμονωμένους δημιουργούς που στερούνται της τεχνικής και νομικής ικανότητας να την ασκήσουν.
»Οι δικαιούχοι δεν μπορούν να διαπιστώσουν αν τα έργα τους έχουν χρησιμοποιηθεί, γεγονός που καθιστά τα δικαιώματα στην πράξη μη επιβλητά ακόμη και όταν είναι σαφή από νομική άποψη.
»Από την πλευρά της προσφοράς, το πλήρως παραγόμενο από AI περιεχόμενο έχει αυξηθεί σε τέτοιο βαθμό ώστε, σε μία μεγάλη υπηρεσία streaming, να υπερβαίνει το ήμισυ της νέας μουσικής που παραδίδεται κατά τις ημέρες αιχμής, ενώ προσελκύει μόνο οριακό μερίδιο της πραγματικής ακρόασης, μια απόκλιση που υποδηλώνει ότι μεγάλο μέρος αυτού του όγκου κατευθύνεται σε δεξαμενές δικαιωμάτων παρά σε ακροατήρια».
Ορισμένες προκλήσεις είναι κοινές σε όλους τους ΠΔΤ, λέει η Επιτροπή:
- Η πρώτη αφορά τη διαφάνεια, η οποία έχει δύο διακριτές διαστάσεις, που θα πρέπει να ξεχωρίζονται σαφώς: τη διαφάνεια όσον αφορά το περιεχόμενο που χρησιμοποιείται από τα συστήματα ΤΝ, και τη διαφάνεια όσον αφορά τα αποτελέσματά τους, ιδίως μέσω της επισήμανσης περιεχομένου που έχει παραχθεί από ΤΝ. «Η πρώτη αποτελεί τη βάση για την αποτελεσματική άσκηση των δικαιωμάτων και τη λειτουργία των αγορών αδειοδότησης, ενώ η δεύτερη είναι απαραίτητη για τη διατήρηση της εμπιστοσύνης του κοινού».
- Μια δεύτερη πρόκληση αφορά τα ίδια τα άτομα, καθώς η φωνή, η εικόνα και η ομοιότητά τους μπορούν πλέον να αναπαραχθούν πειστικά χωρίς τη συγκατάθεσή τους, δεδομένου ότι αυτά τα χαρακτηριστικά δεν προστατεύονται ολοκληρωμένα βάσει του δικαίου της Ένωσης».
- Μια τρίτη πρόκληση αφορά τον αντίκτυπο στις σταδιοδρομίες στους ΠΔΤ. «Τα καθήκοντα που αυτοματοποιούνται ευκολότερα είναι επίσης εκείνα που παραδοσιακά παρείχαν στους νέους επαγγελματίες ένα σημείο εισόδου σε αυτούς τους τομείς και τους επέτρεπαν να αναπτύξουν τις δεξιότητές τους. Η αυτοματοποίησή τους, επομένως, κινδυνεύει να υπονομεύσει τη μακροπρόθεσμη ανανέωση και μεταβίβαση της ευρωπαϊκής δημιουργικής τεχνογνωσίας».
Η πορεία
Η κατεύθυνση που ακολουθείται στην παρούσα έκθεση βασίζεται σε πέντε επιλογές:
- Η ανθρωποκεντρική αρχή αντιμετωπίζεται ως κανόνας λειτουργίας. «Το διακύβευμα είναι σημαντικό: χωρίς σαφείς δικλίδες ασφαλείας, η ανάπτυξη της ΤΝ κινδυνεύει να εκτοπίσει την ανθρώπινη δημιουργική δραστηριότητα αντί να την υποστηρίξει. »Ως εκ τούτου, μια ουσιαστική και αναγνωρίσιμη ανθρώπινη δημιουργική συμβολή αποτελεί το σημείο αναφοράς που εφαρμόζεται με συνέπεια σε ολόκληρη την έκθεση, από την επισήμανση έως τη δημόσια χρηματοδότηση».
- Οι υφιστάμενοι οριζόντιοι κανόνες είναι αναγκαίοι αλλά όχι επαρκείς. Οι ΠΔΤ διαφέρουν σημαντικά ως προς τις αλυσίδες αξίας τους, τις πρακτικές αδειοδότησης και την έκθεσή τους σε προκλήσεις που σχετίζονται με την ΤΝ. Ως εκ τούτου, η έκθεση συμπληρώνει τα μέτρα σε επίπεδο Ένωσης με τομεακές απαντήσεις για τη μουσική, τα οπτικοακουστικά μέσα και τα βιντεοπαιχνίδια, τα βιβλία και τις εκδόσεις, την πολιτιστική κληρονομιά και τα ειδησεογραφικά μέσα.
- Οι δημιουργοί πρέπει να διατηρούν αποτελεσματικό έλεγχο επί των έργων τους. «Ο έλεγχος αυτός πρέπει να είναι ουσιαστικός στην πράξη και να ασκείται μέσω πραγματικής επιλογής, σαφώς καθορισμένων: δικαιωμάτων και αποτελεσματικών μηχανισμών εκούσιας αδειοδότησης, προσαρμοσμένων στις πραγματικότητες κάθε τομέα».
- Η εμπιστοσύνη του κοινού εξαρτάται από την ικανότητα διάκρισης του περιεχομένου που έχει δημιουργηθεί από ανθρώπους από το περιεχόμενο που έχει παραχθεί από ΤΝ. «Το περιεχόμενο που έχει παραχθεί εξ ολοκλήρου από ΤΝ θα πρέπει να επισημαίνεται με σαφήνεια και συνέπεια, με τις υποχρεώσεις διαφάνειας να συνοδεύουν το εν λόγω περιεχόμενο σε όλη την αλυσίδα διανομής, αντί να σταματούν στο σημείο παραγωγής ή να επαφίενται αποκλειστικά στους προγραμματιστές ΤΝ».
- Η προστασία πρέπει να συμβαδίζει με την ικανότητα δράσης. Η έκθεση ζητά επενδύσεις στον γραμματισμό και στις δεξιότητες ΤΝ σε ολόκληρο τον ΠΔΤ, πρόσβαση σε ευρωπαϊκή υπολογιστική ικανότητα και σε υψηλής ποιότητας, συμβατά με τα δικαιώματα και γλωσσικά ποικιλόμορφα σύνολα δεδομένων, σε αξιόπιστα ευρωπαϊκά εργαλεία, συμπεριλαμβανομένων λύσεων ανοικτού κώδικα, καθώς και σε κοινά πρότυπα που θα επιτρέπουν στα ιδρύματα πολιτιστικής κληρονομιάς να υιοθετούν αυτές τις τεχνολογίες με υπευθυνότητα.
Η πολιτιστική και γλωσσική πολυμορφία της Ευρώπης πρέπει να εκπροσωπείται στα ίδια τα συστήματα, όχι απλώς να προστατεύεται από τις επιπτώσεις τους.
«Το ερώτημα δεν είναι αν η Ευρώπη θα προσαρμοστεί στην ΤΝ. Είναι αν η Ευρώπη θα διαμορφώσει τις συνθήκες υπό τις οποίες η ΤΝ εισέρχεται στα πολιτιστικά και δημιουργικά της οικοσυστήματα» λέει η Επιτροπή.
«Αν δεν το πράξει, οι συνέπειες δεν θα περιοριστούν σε μεμονωμένα έργα ή επαγγέλματα: κινδυνεύουν να αποδυναμώσουν τα ίδια τα θεμέλια από τα οποία εξαρτάται η ευρωπαϊκή πολιτιστική δημιουργία: η ανθρώπινη δημιουργία, η πολιτιστική και γλωσσική πολυμορφία και η ικανότητα των νέων γενεών να εισέρχονται, να διατηρούν και να ανανεώνουν αυτούς τους τομείς».