The logic of inconsistencies : a formal model for the analysis of human error
La logique des incohérences : un modèle formel pour l'analyse de l'erreur humaine
Résumé
In this thesis, we are interested in the use of formal methods to guide the diagnosis of human errors in accident situations. The application of formal methods in such a context raises several difficulties. The first one is to be able to explain with the help of mathematical logic situations that are incoherent and therefore in contradiction with this logic. The second is to be able to compare the different diagnoses. Indeed, an incorrect decision is never the work of a hazard but is based on the beliefs, desires and intentions of the operator. Thus, not all errors are equal and it is necessary to formalize and define what makes a good diagnosis. The first part of the thesis presents a state of the art of human and social sciences (HSS) work on human error. We show that it is necessary to distinguish two aspects: the determination of the causes of erroneous decision making and the understanding of these causes through the search for cognitive biases. We then present the main computer models for modeling reasoning and studying human error. We show that consistency-based diagnosis and the belief revision operator AGM is a good way to explain human errors. The second part of the thesis deals with the modeling of an accident situation and the diagnosis of human errors in this situation. We have based our work on a belief logic inspired by the BDI logic for the modeling of accident situations. We have developed an iterative diagnosis algorithm based on a minimal belief revision operator respecting the AGM axiomatic. This iterative diagnosis algorithm has the advantage of facilitating the distinction of errors of different nature. Moreover, it is correct and complete compared to a minimal diagnosis algorithm. The third contribution of the thesis lies in our work to formally define the plausibility of a diagnosis. We based our work on the literature of human sciences and more precisely on cognitive biases. For this purpose, we have developed a first formal taxonomy of biases that allows us to define common logical characteristics between biases. From this taxonomy, we were able to define eight cognitive biases related to the biases present in the literature. We then considered that the more a diagnosis can be explained by the biases, the more plausible the diagnosis is. We then studied the validity of this computer model on two cases of civil aviation accidents. We show that we find the explanations proposed by the Bureau d'Enquêtes et d'Analyses as well as explanations not considered by the investigators. Finally, we propose several perspectives to improve our approach. In particular, we intend to take into account emotions and social interactions in the modeling of the accident situation in order to increase the variety of possible diagnoses. Finally, we wish to extend the evaluation of the diagnoses by a meta-evaluation of the cognitive biases as well as by taking into account the intention of action.
Dans cette thèse, nous nous sommes intéressés à l'utilisation des méthodes formelles pour guider le diagnostic des erreurs humaines dans des situations d'accidents. L'application des méthodes formelles dans un tel contexte pose plusieurs difficultés. La première est de pouvoir expliquer à l'aide de la logique mathématique des situations incohérentes, donc en contradiction avec cette logique. La deuxième est de pouvoir comparer les différents diagnostics. En effet, une décision incorrecte n'est jamais le fruit du hasard mais se base sur les croyances, les désirs et les intentions de l'opérateur. Ainsi, toute erreur ne se vaut pas et il est nécessaire de formaliser et de définir ce qui fait un bon diagnostic. La première partie de la thèse présente un état de l'art des travaux en sciences humaines et sociales (SHS) sur l'erreur humaine. Nous montrons qu'il est nécessaire de distinguer deux aspects : la détermination des causes d'une prise de décision erronée et la compréhension de ces causes par la recherche de biais cognitifs. Nous présentons ensuite les principaux modèles informatiques pour la modélisation du raisonnement et l'étude de l'erreur humaine. Nous montrons que le diagnostic fondé sur la cohérence (consistency-based diagnosis) et l'opérateur de révision de croyance AGM constitue une bonne piste pour l'explication d'erreurs humaines. La deuxième partie de la thèse s'intéresse à la modélisation d'une situation d'accident et au diagnostic des décisions humaines erronées dans cette situation. Nous nous sommes basés pour cela sur une logique de croyances inspirée de la logique BDI pour la modélisation des situations d'accidents. Nous avons développé un algorithme de diagnostic itératif basé sur un opérateur de révision de croyance minimale respectant l'axiomatique AGM. Cet algorithme de diagnostic itératif à l'avantage de faciliter la distinction des erreurs de nature différentes. De plus, celui-ci est correct et complet par rapport à un algorithme de diagnostic minimal. La troisième contribution de la thèse réside dans notre travail pour définir formellement la plausibilité d'un diagnostic. Nous nous sommes basés pour cela sur la littérature des sciences humaines et plus précisément des biais cognitifs. Pour cela, nous avons développé une première taxonomie formelle des biais qui permet de définir des caractéristiques logiques communes entre les biais. À partir de cette taxonomie, nous avons pu définir huit biais cognitifs rattachés aux biais présent dans la littérature. Nous avons ensuite considéré que plus un diagnostic peut être expliqué par les biais, plus le diagnostic est plausible. Nous avons alors étudié la validité de ce modèle informatique sur deux cas d'étude d'accident de l'aviation civile. Nous montrons que nous retrouvons les explications proposées par le Bureau d'Enquêtes et d'Analyses ainsi que des explications non envisagées par les enquêteurs. Nous proposons enfin plusieurs perspectives pour améliorer notre approche. Nous pensons notamment prendre en compte les émotions et les interactions sociales dans la modélisation de la situation d'accident afin d'augmenter la variété de diagnostic possible. Enfin, nous souhaitons étendre l'évaluation des diagnostics par une méta-évaluation des biais cognitifs ainsi que par la prise en compte de l'intention d'action.
Origine : Version validée par le jury (STAR)