Faire dire, faire taire : la modération (algorithmique) des réseaux sociaux numériques au prisme des sexualités
Voicing out, shutting down: (Algorithmic) content moderation through sexualities
Résumé
This thesis explores the challenges of content moderation on digital social media. Itstarts from examining the paradox of using AI systems and algorithms as aids in the mod-eration process, which can inadvertently silence certain marginalized voices and identitiesonline. Through a reinterpretation of the concepts of dispositive de sexualité and disposi-tif d’écriture, the thesis postulates that moderation shapes, silences, and reshapes sexualand gender identities online. The thesis also gives significant attention to digital methodsand « savoirs d’expérience » in the study of digital devices : how to collect and analyzedeleted content on social social media (such as Twitter/X and TikTok in particular)? Fi-nally, I focus on the algorithmic circumvention tactics employed by online gay communities to distribute sexually explicit content on social media that claim to prohibit it. Drawingon Anglo-Saxon references in porn, gender, and post-colonial studies, the thesis also con-tributes to the circulation of a number of English-language works on algorithmic bias andonline discrimination and helps define platform affordances in the study of digital devices.The thesis adheres to the following outline : a first part composed of two chapters presentswhat constitutes content moderation (between human labor, machines, and texts) and whatdistinguishes it from platform regulation. In this first part, I also explore a little-knownhistory of the internet through the prism of gender and sexuality. The second part invites tothink about content moderation as the custodian of the dispositif de sexualités and disposi-tif d’écriture online. Through reinterpretations of Michel Foucault’s concept of dispositif desexualité, I propose to consider how moderation shapes, silences, and reshapes sexualitiesonline. This part also presents all the methodological apparatus set up with computer en-gineers at CERES (Sorbonne University) to collect and analyze content deleted by contentmoderation. I also present several methodological leads for studying the role of algorithmsin the moderation process. To overcome the opacity of these digital devices, I give signifi-cant importance to « savoirs d’expérience » in the construction of research hypotheses. Inparticular, I return to the hypothesis of an invisibility of sexual and gendered communitiesonline, due to the keywords that would be used to designate these identities - and that al-gorithms would mistakenly classify as abusive or exclusively pornographic content. Finally,this part includes a self-reflective exploration of the use of digital methods in humanitiesscholarship. The third part presents the results of the study, focusing on the specific casesof Twitter/X and TikTok. The modalities of expression of sexual and gendered communitiesonline, the automated deletion of content by keyword on Twitter, and the circumventiontactics implemented by gay internet users and sex workers to post sexually explicit contenton TikTok are the main research tracks studied in this part. In short, this part invites us toconsider the modalities of adjustment of the closet of sexual and gendered communities tobecome (in)visible online.
La thèse porte sur les enjeux de modération de contenus dans les réseaux sociaux numé-riques. Le point de départ de la thèse est d’explorer le paradoxe qu’il peut exister dans lerecours aux systèmes d’IA et aux algorithmes comme des aides au processus de modérationet qui invisibilisent certains discours et identités minorisées en ligne. A travers une relecturedes notions de dispositifs de sexualités et d’écriture, la thèse postule que la modération faitdire, fait taire et fait dire autrement les identités sexuelles et de genre en ligne. La thèse faitégalement la part belle aux méthodes numériques et aux savoirs d’expérience dans l’étudedes dispositifs numériques : Comment collecter et analyser des contenus supprimés dans lesRSN (comme Twitter/X et TikTok en particulier)? A partir de références anglosaxonnes enporn studies et en études décoloniales, la thèse participe aussi à la circulation d’un certainnombre de travaux anglophones sur les biais et discriminations algorithmiques en ligne, etcontribue à la définition des affordances de plateforme dans l’étude des dispositifs numé-riques. La thèse suit donc le plan suivant : une première partie composée de deux chapitresprésente ce qui constitue la modération des réseaux sociaux (entre travail humain, machineset textes) et ce qui la distingue de la régulation des plateformes. Dans cette première partie,j’explore également une histoire méconnue d’internet au prisme du genre et des sexualités.La seconde partie invite à penser la modération de contenus comme la garante du disposi-tif de sexualités et d’écriture des réseaux sociaux numériques. A travers des relectures dela notion de dispositif de sexualité de Michel Foucault, je propose de considérer commentla modération fait dire, fait taire et fait dire autrement les sexualités en ligne. Cette par-tie présente également tout l’appareillage méthodologique mis en place avec des ingénieursen informatique du CERES (Sorbonne Université) pour collecter et analyser des contenussupprimés par la modération de contenus. Je présente aussi un certain nombre de pistes mé-thodologiques pour étudier la part de recours aux algorithmes dans le travail de modération. Pour pallier l’opacité de ces dispositifs numériques, j’accorde une place importante aux sa-voirs d’expérience dans la construction d’hypothèses de recherche. En particulier, je revienssur l’hypothèse d’une invisibilisation des communautés sexuelles et de genre en ligne, enraison des mots-clés qui seraient utilisés pour désigner ces identités – et, que les algorithmesassimileraient, à tort, à des contenus injurieux ou exclusivement pornographiques. Enfin,cette partie comporte un retour réflexif sur la place des méthodes numériques dans l’envi-ronnement de la recherche en SHS. La troisième partie présente les résultats de l’étude en sefocalisant sur les terrains de Twitter/X et TikTok en particulier. Les modalités d’expressiondes communautés sexuelles et de genre en ligne, la suppression automatisée de contenus parmot-clé sur Twitter et les tactiques de contournement mises en place par les internautesgay et les travailleurs du sexe pour poster des contenus à caractère sexuel sur TikTok sontles principales pistes de travail étudiées dans cette partie. En somme, cette partie invite àconsidérer les modalités d’ajustement du placard des communautés sexuelles et de genrepour se rendre (in)visible en ligne.
Infos complémentaires
-
thesis advisor :
-
associated name :
-
Langue originale :français
-
Date de la thèse : 2024-12-12
-
Informations sur la thèse : Domaine : Humanities and Social Sciences/Library and information sciences
-
Institution :
-
Accès : Distributed under a Creative Commons Attribution 4.0 International License
FAQ
Liens FAQ