TikTok και Meta κατηγορούνται ότι προωθούσαν επιβλαβές περιεχόμενο για να κερδίσουν τη μάχη των αλγορίθμων

Πληροφοριοδότες υποστηρίζουν ότι οι κολοσσοί των social media έλαβαν

αποφάσεις που επέτρεψαν την εμφάνιση περισσότερου επιβλαβούς περιεχομένου στις ροές των χρηστών, αφού εσωτερικές έρευνες για τους αλγορίθμους τους έδειξαν πως η οργή και η έντονη αντίδραση αυξάνουν σημαντικά την αλληλεπίδραση.

Περισσότεροι από δώδεκα πληροφοριοδότες και εσωτερικές πηγές περιέγραψαν στο BBC πώς οι εταιρείες πήραν ρίσκα σε ζητήματα ασφάλειας των χρηστών τους, όπως η βία, ο σεξουαλικός εκβιασμός και η τρομοκρατία, καθώς ανταγωνίζονταν για την προσοχή των χρηστών σε μια ολοένα πιο έντονη «κούρσα» αλγορίθμων.

Καταγγελίες για «οριακά επιβλαβές» περιεχόμενο

Ένας μηχανικός στη Meta, στην οποία ανήκουν το Facebook και το Instagram, δήλωσε ότι του είχε ζητηθεί από ανώτερα στελέχη να επιτρέψει περισσότερο «οριακά» επιβλαβές περιεχόμενο στις ροές των χρηστών ώστε να ανταγωνιστεί το TikTok. Σε αυτό το περιεχόμενο περιλαμβάνονταν αναρτήσεις με μισογυνικό χαρακτήρα και θεωρίες συνωμοσίας.

 «Μας είπαν κάπως ότι αυτό γινόταν επειδή η τιμή της μετοχής έπεφτε», ανέφερε.

Την ίδια στιγμή, εργαζόμενος στο TikTok έδωσε στο BBC σπάνια πρόσβαση στους εσωτερικούς πίνακες ελέγχου της εταιρείας που καταγράφουν καταγγελίες χρηστών. Σύμφωνα με το ρεπορτάζ, υπήρχαν περιπτώσεις όπου το προσωπικό είχε λάβει οδηγία να δώσει προτεραιότητα σε υποθέσεις που αφορούσαν πολιτικά πρόσωπα αντί για καταγγελίες σχετικά με επιβλαβές περιεχόμενο που εμπλέκει παιδιά.

Ο ίδιος υποστήριξε ότι τέτοιες αποφάσεις λαμβάνονταν για να «διατηρηθεί μια ισχυρή σχέση» με πολιτικούς και κυβερνήσεις και να αποφευχθούν πιθανές ρυθμίσεις ή απαγορεύσεις λειτουργίας της πλατφόρμας.

Η εκρηκτική άνοδος του TikTok και η αντίδραση των ανταγωνιστών

Οι αποκαλύψεις έγιναν στο πλαίσιο του ντοκιμαντέρ του BBC «Inside the Rage Machine», το οποίο εξετάζει πώς η βιομηχανία των social media αντέδρασε μετά τη ραγδαία άνοδο του TikTok. Ο εξαιρετικά ελκυστικός αλγόριθμος προτάσεων σύντομων βίντεο της πλατφόρμας άλλαξε ριζικά τον τρόπο λειτουργίας των κοινωνικών δικτύων και πίεσε τους ανταγωνιστές να προσαρμοστούν.

Ένας ανώτερος ερευνητής της Meta, ο Ματ Μότιλ, δήλωσε ότι το Instagram Reels, η απάντηση της εταιρείας στο TikTok, κυκλοφόρησε το 2020 χωρίς επαρκείς δικλίδες ασφαλείας. Εσωτερική έρευνα που κοινοποιήθηκε στο BBC έδειχνε ότι στα σχόλια των Reels υπήρχε σημαντικά υψηλότερη παρουσία bullying, παρενόχλησης, ρητορικής μίσους και υποκίνησης βίας σε σχέση με άλλες λειτουργίες του Instagram.

Σύμφωνα με πρώην στέλεχος της Meta, η εταιρεία επένδυσε σε περίπου 700 εργαζομένους για να αναπτύξει το Reels, ενώ οι ομάδες ασφάλειας δυσκολεύονταν να εξασφαλίσουν έγκριση ακόμη και για μικρό αριθμό νέων προσλήψεων που θα ασχολούνταν με την προστασία παιδιών ή την ακεραιότητα εκλογικών διαδικασιών.

Οι αλγόριθμοι ως «μαύρο κουτί»

Ο Ρουοφάν Ντινγκ, μηχανικός μηχανικής μάθησης που εργάστηκε στο TikTok από το 2020 έως το 2024, περιέγραψε τους αλγορίθμους ως ένα «μαύρο κουτί» του οποίου η λειτουργία είναι δύσκολο να ελεγχθεί πλήρως.

Όπως εξήγησε, οι μηχανικοί που αναπτύσσουν τα συστήματα προτάσεων συχνά δεν εξετάζουν το ίδιο το περιεχόμενο των αναρτήσεων. «Για εμάς κάθε περιεχόμενο είναι απλώς ένα ID, ένας αριθμός», είπε.

Σύμφωνα με τον ίδιο, οι ομάδες ανάπτυξης βασίζονται στις ομάδες ασφάλειας για να αφαιρούν προβληματικές αναρτήσεις πριν αυτές προωθηθούν από τον αλγόριθμο. Ωστόσο, καθώς το TikTok προσπαθούσε να βελτιώνει συνεχώς τον αλγόριθμό του για να αυξήσει το μερίδιο αγοράς, ο ίδιος άρχισε να βλέπει περισσότερο «οριακό» περιεχόμενο να εμφανίζεται στους χρήστες μετά από παρατεταμένη χρήση της εφαρμογής.

Ο όρος «οριακό περιεχόμενο» χρησιμοποιείται συνήθως από τις εταιρείες social media για να περιγράψει αναρτήσεις που είναι επιβλαβείς αλλά όχι παράνομες, όπως ρατσιστικό ή μισογυνικό περιεχόμενο και θεωρίες συνωμοσίας.

Ριζοσπαστικοποίηση και ανησυχίες για τους εφήβους

Έφηβοι που μίλησαν στο BBC ανέφεραν ότι τα εργαλεία που υποτίθεται πως επιτρέπουν στους χρήστες να αποφεύγουν προβληματικό περιεχόμενο δεν λειτουργούν αποτελεσματικά και ότι συνεχίζουν να λαμβάνουν προτάσεις για βίαια ή μισαλλόδοξα βίντεο.

Σε μία περίπτωση, ένας 19χρονος δήλωσε ότι «ριζοσπαστικοποιήθηκε από τον αλγόριθμο» από την ηλικία των 14 ετών, καθώς οι προτεινόμενες αναρτήσεις ενίσχυαν θυμό και ακραίες απόψεις.

Ειδικοί της αντιτρομοκρατικής αστυνομίας στο Ηνωμένο Βασίλειο δήλωσαν ότι έχουν παρατηρήσει τους τελευταίους μήνες μια αυξανόμενη «κανονικοποίηση» ρατσιστικού, αντισημιτικού και βίαιου περιεχομένου στα κοινωνικά δίκτυα.

Οι απαντήσεις των εταιρειών

Οι εταιρείες απορρίπτουν τις καταγγελίες. Η Meta δήλωσε ότι διαθέτει αυστηρές πολιτικές προστασίας των χρηστών και ότι έχει επενδύσει σημαντικά στην ασφάλεια και την προστασία των πλατφορμών της την τελευταία δεκαετία.

Το TikTok χαρακτήρισε τους ισχυρισμούς «κατασκευασμένους» και υποστήριξε ότι επενδύει σε τεχνολογία που αποτρέπει την εμφάνιση επιβλαβούς περιεχομένου, ενώ οι λογαριασμοί εφήβων διαθέτουν δεκάδες προεπιλεγμένες λειτουργίες ασφαλείας και εργαλεία για γονικό έλεγχο.