Ένα εμπιστευτικό εσωτερικό έγγραφο του TikTok, το οποίο η εταιρεία αρνείται να παραδώσει σε δύο Αμερικανούς γερουσιαστές, φέρνει στο φως το - Businessweek, αποκαλύπτοντας νέες λεπτομέρειες για ένα αμφιλεγόμενο πείραμα του αλγορίθμου της πλατφόρμας σε εκατομμύρια χρήστες.
Ανάμεσά τους βρισκόταν ο 16χρονος Τσέις Νάσκα, ο οποίος αυτοκτόνησε το 2022.
Σύμφωνα με το έγγραφο, το TikTok είχε εξαιρέσει το 10% των χρηστών του στις ΗΠΑ –περίπου 15 εκατομμύρια ανθρώπους εκείνη την εποχή– από μια δικλίδα ασφαλείας που είχε σχεδιαστεί για να διακόπτει την επαναλαμβανόμενη προβολή δυνητικά επιβλαβούς περιεχομένου και να περιορίζει τη δημιουργία των λεγόμενων «filter bubbles».
Ο Τσέις ήταν ένας από αυτούς. Και το ίδιο το εσωτερικό έγγραφο αναφέρει ότι οι συγκεκριμένες δικλίδες ασφαλείας «δεν ενεργοποιήθηκαν σε αυτόν τον χρήστη εκ σχεδιασμού».
Χιλιάδες βίντεο για θλίψη, απόγνωση και αυτοκτονία
Το έγγραφο συντάχθηκε από το TikTok το 2023, μετά από ερωτήματα του - Businessweek σχετικά με το γιατί ο λογαριασμός του Τσέις εξακολουθούσε να τροφοδοτείται με περιεχόμενο σχετικό με την αυτοκτονία ακόμη και έναν χρόνο μετά τον θάνατό του.
Περιλαμβάνει λεπτομερή ανάλυση του ιστορικού παρακολούθησης του 16χρονου. Σύμφωνα με αυτήν, ο αλγόριθμος του είχε προτείνει χιλιάδες βίντεο σχετικά με τη θλίψη, την απελπισία, τη μοναξιά και την αυτοκτονία, μέχρι και λίγο πριν από τον θάνατό του.
Ο Τσέις αναζητούσε επίσης περιεχόμενο για αθλητισμό και κωμωδία. Είχε όμως κάνει αναζητήσεις και για τραγούδια σχετικά με τη μοναξιά και την απελπισία.
Κατά την εσωτερική ανάλυση του TikTok, αυτά τα τραγούδια, από δημοφιλείς καλλιτέχνες που είχαν μιλήσει για κατάθλιψη ή αυτοκτονικό ιδεασμό, πιθανότατα λειτούργησαν ως σήμα προς τον αλγόριθμο ώστε να συνεχίσει να του προτείνει παρόμοιο περιεχόμενο.
«Ισορροπία» ανάμεσα στην ασφάλεια και τους ενεργούς χρήστες
Ίσως το πιο αποκαλυπτικό σημείο του εγγράφου αφορά τον τρόπο με τον οποίο περιγράφεται το ίδιο το πείραμα.
Η εταιρεία, σύμφωνα με το έγγραφο, δοκίμαζε τη μη εφαρμογή του μηχανισμού ασφαλείας σε μέρος των χρηστών προκειμένου να μπορέσει να μετρήσει την επίδρασή του.
Το πείραμα χαρακτηρίζεται ως μια «λεπτή ισορροπία μεταξύ της ασφάλειας και της δυνατότητας μέτρησης της επίδρασης στους ημερήσιους ενεργούς χρήστες (DAU) και σε βασικούς δείκτες».
Με άλλα λόγια, η εταιρεία ήθελε να αξιολογήσει πώς η συγκεκριμένη δικλίδα ασφαλείας επηρέαζε όχι μόνο το περιεχόμενο που έβλεπαν οι χρήστες, αλλά και κρίσιμους επιχειρηματικούς δείκτες της πλατφόρμας.
Γιατί δύο γερουσιαστές απαίτησαν το έγγραφο
Μετά την πρώτη αποκάλυψη του - Businessweek για την ύπαρξη του εγγράφου, δύο γερουσιαστές –η Ρεπουμπλικανή Μάρσα Μπλάκμπερν και ο Δημοκρατικός Ρίτσαρντ Μπλούμενταλ– ζήτησαν απαντήσεις από το TikTok. Έστειλαν στην εταιρεία 13 ερωτήματα.
Μεταξύ άλλων, απαίτησαν να μάθουν ποιοι εργαζόμενοι γνώριζαν για το πείραμα, γιατί επιτράπηκε να συμπεριληφθούν ανήλικοι, πότε ενημερώθηκαν τα ανώτατα στελέχη και ζήτησαν την πλήρη, χωρίς διαγραφές, έκδοση του εμπιστευτικού εγγράφου.
Έδωσαν στο TikTok προθεσμία έως την 1η Σεπτεμβρίου. Η εταιρεία δεν τους το παρέδωσε.
«Δεν μπορούμε να απαντήσουμε»
Σε επιστολή δικηγόρου της εταιρείας, το TikTok υποστήριξε ότι δεν μπορεί να παραδώσει το έγγραφο ούτε να απαντήσει λεπτομερώς στα ερωτήματα εξαιτίας των δικαστικών διαδικασιών που βρίσκονται σε εξέλιξη.
Η εταιρεία ανέφερε ότι συμμερίζεται τη δέσμευση των γερουσιαστών για την προστασία των χρηστών και ότι διατηρεί ισχυρά μέτρα ασφαλείας, ρυθμίσεις κατάλληλες για κάθε ηλικία και εργαλεία γονικού ελέγχου.
Η απάντηση εξόργισε τους δύο γερουσιαστές. «Η μη απάντηση του TikTok είναι απαράδεκτη, αλλά κάθε άλλο παρά έκπληξη προκαλεί», δήλωσε η Μπλάκμπερν, κατηγορώντας την εταιρεία ότι επί χρόνια «αρνείται, αποπροσανατολίζει και αποφεύγει την ευθύνη» όταν βρίσκεται αντιμέτωπη με ζητήματα ασφάλειας των παιδιών.
Ο Μπλούμενταλ χαρακτήρισε την απάντηση «προσβλητική».
Εδώ βρίσκεται και η νέα ανατροπή της υπόθεσης. Το TikTok αρνήθηκε να δώσει στους δύο γερουσιαστές το έγγραφο, το οποίο παραμένει σφραγισμένο στο πλαίσιο των δικαστικών διαδικασιών.
Το - Businessweek όμως το απέκτησε και αποφάσισε να το δημοσιοποιήσει.
Το μέσο αφαίρεσε τα ονόματα εργαζομένων του TikTok, καθώς δεν μπόρεσε να εξακριβώσει ποιον ακριβώς ρόλο είχαν στο πείραμα ή στη σύνταξη της έκθεσης, καθώς και τα ονόματα ανηλίκων πλην του Τσέις Νάσκα, η υπόθεση του οποίου είχε ήδη δημοσιοποιηθεί.
Χιλιάδες αγωγές κατά των social media
Η αποκάλυψη έρχεται ενώ το TikTok βρίσκεται αντιμέτωπο με χιλιάδες αγωγές στις ΗΠΑ.
Οι προσφυγές στρέφονται επίσης κατά της Meta, του YouTube της Google και του Snapchat της Snap και κατηγορούν τις πλατφόρμες ότι σχεδίασαν εθιστικά προϊόντα τα οποία έχουν βλάψει την ψυχική υγεία εφήβων.
Ανάμεσα στους ενάγοντες βρίσκονται μεμονωμένοι χρήστες και οικογένειες –μεταξύ αυτών και οι γονείς του Τσέις–, σχολικές περιφέρειες και γενικοί εισαγγελείς αμερικανικών πολιτειών.
Το TikTok έχει υποστηρίξει στο παρελθόν ενώπιον του Κογκρέσου ότι δεν θεωρεί πως η πλατφόρμα του προκαλεί αυτοκτονίες χρηστών. Μετά τις προηγούμενες αποκαλύψεις του Businessweek δήλωσε επίσης ότι είναι «βαθιά προσηλωμένο στην ασφάλεια και την ευημερία των χρηστών», ιδιαίτερα των εφήβων.
Η νέα αποκάλυψη, επομένως, δεν απαντά στο εξαιρετικά σύνθετο ερώτημα τι οδήγησε τον 16χρονο Τσέις στην αυτοκτονία.
Φέρνει όμως στο προσκήνιο ένα διαφορετικό, συγκεκριμένο ερώτημα για το TikTok: γιατί μια δικλίδα που είχε σχεδιαστεί για να εμποδίζει τους χρήστες να εγκλωβίζονται σε κύκλους επιβλαβούς περιεχομένου απενεργοποιήθηκε πειραματικά για περίπου 15 εκατομμύρια ανθρώπους – ανάμεσά τους και ανήλικοι.
Και πλέον το ερώτημα αυτό δεν βρίσκεται μόνο στα χέρια δικηγόρων και γερουσιαστών. Βρίσκεται δημόσια, μέσα στις σελίδες του ίδιου του εμπιστευτικού εγγράφου.
Προτιμώμενη πηγή στην Google
Για να εμφανίζονται περισσότερα άρθρα της - στις αναζητήσεις σας εύκολα και γρήγορα, πρέπει να προσθέσετε το site στις προτιμώμενες πηγές σας. Μπορείτε να το κάνετε πηγαίνοντας εδώ.