Στο στόχαστρο της Ευρωπαϊκής Επιτροπής βρίσκεται εκ νέου το TikTok, με τις ευρωπαϊκές ρυθμιστικές αρχές να κατηγορούν την πλατφόρμα για παραβίαση κρίσιμων διατάξεων του Νόμου για τις Ψηφιακές Υπηρεσίες, εξαιτίας του τρόπου λειτουργίας του αλγορίθμου που προτείνει βίντεο στους χρήστες.
Η Κομισιόν ζητά ουσιαστικές αλλαγές στο σύστημα εξατομικευμένων συστάσεων της πλατφόρμας και ειδικότερα στη δημοφιλή ροή «Για εσάς» (For You), εκτιμώντας ότι ο σημερινός σχεδιασμός της ενδέχεται να έχει αρνητικές επιπτώσεις στην ψυχική υγεία και την ευημερία των χρηστών, ιδιαίτερα των παιδιών.
Στο επίκεντρο βρίσκεται το λεγόμενο «rabbit hole effect», δηλαδή το φαινόμενο κατά το οποίο ο χρήστης παρασύρεται σε μια ατελείωτη αλληλουχία παρόμοιων βίντεο, από την οποία δυσκολεύεται να απομακρυνθεί.
Η εταιρεία ByteDance, στην οποία ανήκει το TikTok, αντιμετωπίζει το ενδεχόμενο επιβολής προστίμου που μπορεί να φτάσει έως και το 6% του παγκόσμιου ετήσιου κύκλου εργασιών της, εφόσον διαπιστωθεί οριστικά παράβαση των ευρωπαϊκών κανόνων.
Πώς λειτουργεί η «κουνελότρυπα» του TikTok
Σύμφωνα με την Ευρωπαϊκή Επιτροπή, ο αλγόριθμος του TikTok ενδέχεται να εγκλωβίζει τους χρήστες σε έναν επαναλαμβανόμενο κύκλο περιεχομένου, ενισχύοντας τη συνεχή παρακολούθηση βίντεο.
Κάθε αλληλεπίδραση, όπως ένα «like» ή η παρακολούθηση ενός βίντεο, μπορεί να επηρεάσει τις επόμενες προτάσεις της πλατφόρμας, οδηγώντας σε ολοένα μεγαλύτερη έκθεση σε παρόμοιο περιεχόμενο.
Οι ευρωπαϊκές αρχές εκφράζουν ιδιαίτερη ανησυχία για την επαναλαμβανόμενη προβολή βίντεο που σχετίζονται με τη θλίψη, την κοινωνική απομόνωση ή την εξωτερική εμφάνιση, καθώς εκτιμούν ότι η συνεχής έκθεση σε τέτοιες θεματικές μπορεί να επιβαρύνει την ψυχική υγεία των χρηστών.
Η αρμόδια για την τεχνολογία επίτροπος της ΕΕ, Χένα Βίρκουνεν, περιέγραψε το πρόβλημα με χαρακτηριστικό τρόπο.
«Κάθε φορά που ένας χρήστης κάνει scroll ή like σε ένα βίντεο στο TikTok, ο αλγόριθμος τον σπρώχνει σε κουνελότρυπες από τις οποίες δεν μπορεί εύκολα να ξεφύγει», δήλωσε.
Τι αλλαγές ζητά η Ευρωπαϊκή Επιτροπή
Η Κομισιόν θεωρεί ότι το TikTok δεν έχει εφαρμόσει επαρκή και αποτελεσματικά μέτρα για τον περιορισμό των κινδύνων που συνδέονται με τον σχεδιασμό της πλατφόρμας.
Στο πλαίσιο αυτό, ζητά από την εταιρεία να επανεξετάσει τον τρόπο λειτουργίας του συστήματος συστάσεων, ώστε οι προτάσεις βίντεο να βασίζονται περισσότερο στις ρητές επιλογές και προτιμήσεις των χρηστών.
Παράλληλα, οι ευρωπαϊκές αρχές ζητούν να γίνουν πιο εύχρηστα και προσβάσιμα τα εργαλεία με τα οποία οι χρήστες μπορούν να ελέγχουν το περιεχόμενο που εμφανίζεται στην οθόνη τους.
Στις προτεινόμενες παρεμβάσεις περιλαμβάνονται επίσης τακτικές δοκιμές και αξιολογήσεις του αλγορίθμου, προκειμένου να εντοπίζονται και να περιορίζονται πιθανοί κίνδυνοι.
«Οι σημερινές αυστηρές συστάσεις δείχνουν για άλλη μια φορά ότι το TikTok πρέπει να εντείνει τις προσπάθειές του για την προστασία της ευημερίας των χρηστών, συμπεριλαμβανομένων των ανηλίκων», τόνισε η Χένα Βίρκουνεν.
Η απάντηση του TikTok: «Οι κατηγορίες είναι ανακριβείς»
Το TikTok απέρριψε κατηγορηματικά τα συμπεράσματα της Ευρωπαϊκής Επιτροπής, υποστηρίζοντας ότι δεν ανταποκρίνονται στον τρόπο λειτουργίας της πλατφόρμας.
«Η Επιτροπή έχει κάνει μια σειρά από ανακοινώσεις που είναι ουσιαστικά ανακριβείς και διαστρεβλώνουν την αρχιτεκτονική της πλατφόρμας μας και τη δέσμευσή μας για την ασφάλεια των χρηστών», ανέφερε η εταιρεία.
Παράλληλα, υπερασπίστηκε τα μέτρα προστασίας που εφαρμόζει.
«Έχουμε ένα ισχυρό ιστορικό προστασίας της κοινότητάς μας, παρέχοντας παράλληλα στους χρήστες άμεσο και εύληπτο έλεγχο της εμπειρίας περιεχομένου τους», σημείωσε.
Πρόστιμο έως 6% του παγκόσμιου τζίρου
Τα προκαταρκτικά ευρήματα της Κομισιόν εντάσσονται στην ευρύτερη έρευνα για τη συμμόρφωση του TikTok με τον Νόμο για τις Ψηφιακές Υπηρεσίες (Digital Services Act – DSA).
Το ευρωπαϊκό νομοθετικό πλαίσιο επιβάλλει στις πολύ μεγάλες διαδικτυακές πλατφόρμες αυξημένες υποχρεώσεις για τον εντοπισμό, την αξιολόγηση και τον περιορισμό συστημικών κινδύνων.
Εάν η διαδικασία καταλήξει σε οριστική διαπίστωση παράβασης, η εταιρεία μπορεί να βρεθεί αντιμέτωπη με χρηματική κύρωση έως και 6% του παγκόσμιου ετήσιου κύκλου εργασιών της.
Τα σημερινά ευρήματα είναι προκαταρκτικά και δεν συνιστούν ακόμη τελική απόφαση ή επιβολή προστίμου.
Στο μικροσκόπιο και Facebook – Instagram
Η υπόθεση εντάσσεται σε μια ευρύτερη ευρωπαϊκή προσπάθεια ελέγχου των επιπτώσεων που μπορεί να έχουν οι αλγόριθμοι των μέσων κοινωνικής δικτύωσης, ιδιαίτερα στους ανήλικους χρήστες.
Οι ανησυχίες για την επίδραση της παρατεταμένης χρήσης των πλατφορμών στην ψυχική υγεία των παιδιών έχουν οδηγήσει αρκετές κυβερνήσεις να εξετάσουν ή να υιοθετήσουν περιορισμούς στην πρόσβαση των ανηλίκων στα social media.
Την ίδια ώρα, η Ευρωπαϊκή Επιτροπή διερευνά ξεχωριστά αντίστοιχους κινδύνους που ενδέχεται να συνδέονται με τα συστήματα συστάσεων του Facebook και του Instagram, τα οποία ανήκουν στη Meta.
Η εξέλιξη αυτή εντείνει την πίεση προς τις μεγάλες τεχνολογικές εταιρείες να αποδείξουν ότι ο σχεδιασμός των υπηρεσιών τους δεν ενθαρρύνει προβληματικές μορφές χρήσης, ιδίως μεταξύ των νεότερων ηλικιών.