Au-delà des Fake News : une approche structurelle et dynamique de la désinformation et des manipulations d’opinion en ligne

Beyond Fake News : A Structural and Dynamic Approach towards Analyzing Online Misinformation and Manipulation of Public Opinion

• Auteur / Autrice : Victor Chomel
• Direction : David Chavalarias
• Type : Thèse de doctorat
• Discipline(s) : Sciences de la Société
• Date : Soutenance le 16/12/2022
• Etablissement(s) : Paris, EHESS
• Ecole(s) doctorale(s) : École doctorale de l'École des hautes études en sciences sociales
• Jury : Président / Présidente : Paola Tubaro
• Jury : Examinateurs / Examinatrices : Paola Tubaro, Thomas Bonald, Jean-Philippe Cointet, Vincent Mathias Girel, Jean-Pierre Nadal, Stéphanie Wojcik, Guillaume Chaslot
• Jury : Rapporteurs / Rapporteuses : Thomas Bonald, Jean-Philippe Cointet

Mots clés

Mots clés contrôlés

Liberté d'information

Systèmes complexes

Apprentissage profond

Réseaux sociaux

Infox

Désinformation

Mots clés libres

Mésinformation

Fake News

Sciences sociales computationnelles

Deep Learning

Disinformation

Misinformation

Fake News

Computational Social Sciences

Social Network Analysis

Deep Learning

Complex Networks

Résumé

La désinformation est devenu un sujet de préoccupation majeure ces dernières années. Dans nos travaux, la désinformation avec une approche structurelle et dynamique, s'intéressant au contexte plus qu'aux contenus. L'objectif est de montrer comment l'analyse de la circulation de l'information, ainsi que sa mise en relation avec les structures sociales permet la détection de comptes ayant des comportements anormaux sur les réseaux. Les études portent principalement sur trois datasets de Twitter, collectés au cours des dernières années : réchauffement climatique, politique française et vaccination. La première partie s'intéresse aux dynamiques communautaires. On distingue ainsi la dynamique intracommunautaire, étudiée grâce à une nouvelle méthode reposant sur des chaînes de Markov, d'une dynamique intercommunautaire vue par le prisme de schémas alluviaux. L'évolution temporelle générale du graphe est également approchée par Deep Learning avec Temporal Graph Networks afin de détecter des anomalies mais aussi pour comprendre des déformations plus générales du réseau telles que la polarisation. Cette analyse permet de mettre en avant le rôle joué par les communautés et par certains utilisateurs dans la propagation de l'information. Dans un second temps, l'objectif est de comprendre comment cette propagation de l'information peut être utilisée dans un but de mise à l'agenda, politique par exemple. Plusieurs niveaux de mise à l'agenda seront ici testés avec des méthodes basées sur des corrélations dans des séries temporelles d'activités. Une autre méthode est également étudiée avec pour objectif de quantifier dans quelle mesure des sujets comme le Covid peuvent être de bons indicateurs pour comprendre la reconfiguration politique, en s'appuyant sur la prédiction de liens dans les graphes. Finalement, les méthodes précédentes sont utilisées pour mettre en avant des campagnes de désinformation, ainsi que leurs conséquences. L'importance du médium est également interrogée dans la mise à l'agenda avec des travaux sur les images et vidéos dans la campagne présidentielle française de 2022. Un cas d'usage sur le domaine climatique, combinant structures et narratifs, est proposé.

In recent years, misinformation and its consequences have become a societal concern. In our work, we treat misinformation with a structural and dynamic approach which focuses on context rather than on content. Our contributions are mostly tools relying on network information flow and its relation to social structures to inform the detection of anomalous user accounts. Our methods are validated contemporary online data, namely three Twitter datasets collected over the last few years regarding discourse on global warming, French politics, and vaccination.We first focus on community dynamics. A distinction is made between intra-community dynamics, studied using a novel method based on Markov chains, and inter-community dynamics analyzed via alluvial patterns that reveal online communities. The general temporal evolution of a social graph is also modeled by Deep Learning with Temporal Graph Networks. These are augmented with a novel reliability module in order to detect graph anomalies and thus online coordination. This modeling permits a deeper understanding of general social network evolution, and especially the rise of political polarization. Our analysis highlights the role played by communities and individual users in information propagation, both exhibiting characteristic patterns. We evaluate the impact of misinformation by examining agenda-setting and network reconfiguration. We analyze how information propagation is re-purposed for agenda-setting, and especially in political agenda-setting. We describe several levels of agenda-setting with techniques based on time-series correlations of activity, inspired from existing methods in neurology. We have developed another method based on link prediction in graphs to quantify the extent to which topics such as COVID-19 predict political reconfiguration.The above methods are used to highlight real disinformation campaigns and their consequences. We (1) demonstrate that user networks in politics and climate have engaged in so-called Coordinated Inauthentic Behaviors; (2) analyze the role of medium, e.g. text vs. images and videos, in agenda-setting; and (3) illustrate this using data from the 2022 French presidential campaign and from the climate change controversy in order to shed light on online strategies.