Στο στόχαστρο της Κομισιόν έχει μπει η ροή «Για εσάς» του TikTok, καθώς σύμφωνα με προκαταρκτικά ευρήματα ο σχεδιασμός του αλγορίθμου της πλατφόρμας παραβιάζει τους κανόνες ασφαλείας και κρίνεται επικίνδυνος για την ψυχική υγεία των χρηστών.
Σύμφωνα με προκαταρκτικό πόρισμα της Επιτροπής, ο αλγόριθμος προβάλλει στους χρήστες μια ατέρμονη ροή εξατομικευμένων βίντεο, ακόμη και όταν αυτά σχετίζονται με προβλήματα ψυχικής υγείας και ζητήματα εικόνας του σώματος. Όσο περισσότερο αλληλεπιδρά ένας χρήστης με έναν συγκεκριμένο τύπο περιεχομένου, τόσο περισσότερο ο αλγόριθμος της ροής «Για εσάς» του TikTok του συστήνει παρόμοιο περιεχόμενο, αναφέρει η Κομισιόν.
Ο σχεδιασμός αυτός μπορεί να είναι επιβλαβής, όταν η αδιάκοπη και επαναλαμβανόμενη έκθεση περιλαμβάνει, για παράδειγμα, περιεχόμενο σχετικά με τη θλίψη, την απομόνωση ή την εικόνα του σώματος. Η παγίδευση σε αυτά τα «αλγορυθμικά λαγούμια» μπορεί να έχει αρνητικές επιπτώσεις στην ψυχική υγεία των χρηστών, ιδίως των ευάλωτων ενηλίκων και ανηλίκων, ανανφέρει η Επιτροπή.
Η αρχιτεκτονική της εφαρμογής είναι σχεδιασμένη ώστε να μεγιστοποιεί τον χρόνο παραμονής στην οθόνη, αγνοώντας τις αρνητικές επιπτώσεις, ειδικά σε ανηλίκους και ευάλωτους ενήλικες. Η Επιτροπή διαπίστωσε ότι το TikTok δίνει προτεραιότητα στον χρόνο θέασης ενός βίντεο αντί να λαμβάνει υπόψη ρητές επιλογές των χρηστών, όπως το κουμπί «Δεν με ενδιαφέρει». Τα εργαλεία ελέγχου χρόνου και οι γονικοί έλεγχοι που εφαρμόζει η πλατφόρμα κρίθηκαν αναποτελεσματικά και εύκολα προσπελάσιμα.
Η Κομισιόν ζητάει από την εταιρεία να αλλάξει ριζικά τον σχεδιασμό της ροής «Για εσάς». Ζητά να αφαιρεθεί ο χρόνος παρακολούθησης ως βασικός δείκτης προτάσεων, να ενισχυθεί ο έλεγχος των ίδιων των χρηστών πάνω στο τι βλέπουν και να διαφοροποιείται το περιεχόμενο ώστε να μην δημιουργούνται ψυχολογικές «παγίδες. Αναφορικά με τα επόμενα βήματα, αν οι κατηγορίες επιβεβαιωθούν και το TikTok δεν συμμορφωθεί, αντιμετωπίζει πρόστιμο που μπορεί να αγγίξει το 6% των παγκόσμιων ετήσιων εσόδων του.
