Intelligence artificielle (IA) et transparence : prédictibilité, sentiment de contrôle et confiance.

Artificial Intelligence (AI) and transparency: predictability, sense of control and confidence.

• Auteur / Autrice : Marine Pagliari
• Direction : Valérian Chambon, Bruno Berberian
• Type : Projet de thèse
• Discipline(s) : Sciences cognitives
• Date : Inscription en doctorat le ; Soutenance le 12/12/2023
• Etablissement(s) : Université Paris sciences et lettres
• Ecole(s) doctorale(s) : École doctorale Cerveau, cognition, comportement
• Partenaire(s) de recherche : Laboratoire : Institut Jean-Nicod (Paris) (2002-....)
• Partenaire(s) de recherche : Equipe de recherche : ACTION - Action, Intention, Rationalité : de l’Individuel au Collectif
• Partenaire(s) de recherche : établissement opérateur d'inscription : École normale supérieure (Paris ; 1985-....)
• Jury : Président / Présidente : Elisabeth Pacherie
• Jury : Examinateurs / Examinatrices : Valérian Chambon, Sophie Bouton, Lionel Brunel, Emilie Caspar, Bert Timmermans
• Jury : Rapporteurs / Rapporteuses : Emilie Caspar, Bert Timmermans

Mots clés

Mots clés libres

Intelligence artificielle (IA)

Transparence

Prédictibilité

Sentiment de contrôle

Confiance

Explicabilité

Artificial intelligence (AI)

Transparency

Predictability

Sense of control

Confidence

Explainability

Résumé

L’émergence de systèmes autonomes a considérablement transformé notre manière d'interagir avec le monde qui nous entoure et les prévisions pour l'avenir indiquent que cette tendance va continuer à se développer, en particulier avec l'avènement de l'Intelligence Artificielle (IA). Les systèmes autonomes avec lesquels nous collaborons exigent une adaptation de nos compétences cognitives et comportementales afin de nous synchroniser efficacement avec eux. Par conséquent, il devient essentiel de comprendre comment notre cognition s’est adaptée, et continue de s'adapter, aux caractéristiques de cette automatisation accrue. L'une des questions centrales de cette thèse s’articule autour des fonctions cognitives mobilisées par les nouvelles formes d'interactions entre opérateurs humains et systèmes autonomes. Dans ce travail de thèse, nous nous sommes intéressés à l’influence de ces nouvelles formes d’interaction sur l’expérience subjective de contrôle des opérateurs humains, i.e. le sentiment d'agentivité. Le sentiment d'agentivité fait référence au sentiment de contrôler les actions que nous effectuons et les conséquences de ces actions dans le monde (Haggard & Chambon, 2012). L’objectif de cette thèse était de (i) caractériser l’impact de l’IA sur la cognition humaine, en particulier sur le sentiment d'agentivité des opérateurs humains, et de (ii) définir et implémenter de nouveaux formats d’ « explication », afin de compenser l’influence de l’opacité des systèmes sur l’émergence du sentiment d’agentivité des opérateurs. Pour ce faire, nous avons mené quatre études expérimentales. Nos résultats indiquent que plus l’autonomie de l'IA est élevée, plus le sentiment de contrôle et de responsabilité des opérateurs diminuent. La communication d’explications permet toutefois l’adaptation des opérateurs humains à la tâche en cours, ainsi que l’augmentation concomitante de leur sentiment d’agentivité (Études 1 et 2). En outre, nous montrons que lorsque l'IA fournit des explications, les opérateurs humains leur attribuent une responsabilité accrue (Étude 3), et que ces explications permettent d’accéder à des indices supplémentaires qui favorisent l’émergence d’un sentiment de contrôle plus fiable (Étude 4). Enfin, nos résultats soulignent l'importance de maintenir l'engagement de l’opérateur humain dans la tâche à réaliser, afin de préserver son sentiment de responsabilité dans l’interaction avec le système artificiel. Cette thèse souligne l'importance d'intégrer la cognition humaine dans le développement des partenaires artificiels à venir. Les modèles de cognition humaine peuvent en effet contribuer à une caractérisation plus fine des informations sur lesquelles repose le développement d’interactions qualitatives, de manière à proposer des solutions qui garantissent une meilleure collaboration entre opérateurs humains et systèmes artificiels autonomes.

The emergence of autonomous systems has dramatically transformed the way we interact with the world around us, and predictions for the future indicate that this trend will continue to develop, particularly with the advent of Artificial Intelligence (AI). The autonomous systems with which we collaborate require us to adapt our cognitive and behavioral skills in order to synchronize effectively with them. Consequently, it becomes essential to understand how our cognition has adapted, and continues to adapt, to the characteristics of this increased automation. One of the central questions of this thesis concerns the cognitive functions mobilized by new forms of interaction between human operators and autonomous systems. In this thesis, we have focused on the influence of these new forms of interaction on human operators' subjective experience of control, i.e. their sense of agency. The sense of agency refers to the sense of control over the actions we perform and the consequences of these actions in the world (Haggard & Chambon, 2012). The aim of this thesis was to (i) characterize the impact of AI on human cognition, in particular on human operators’ sense of agency, and (ii) define and implement new formats of “explanation”, in order to mitigate the impact of system opacity on the emergence of operators’ sense of agency. To this end, we conducted four experimental studies. Our results show that as AI autonomy increases, operators' sense of control and responsibility decreases. On the other hand, providing explanations enables human operators to adapt to the task in hand with a concomitant increase in their sense of agency (Studies 1 and 2). In addition, we show that when AI provides explanations, human operators attribute greater responsibility to it (Study 3), and that these explanations provide access to additional cues that foster the emergence of a more reliable sense of control (Study 4). Finally, our results underline the importance of maintaining the human operator's commitment to the task in hand, in order to preserve their sense of responsibility in interacting with the artificial system. This thesis highlights the importance of integrating human cognition into the development of future artificial partners: models of human cognition can contribute to a finer characterization of the information to be communicated in human-system interaction, to foster their collaboration.