Confiance dans les systèmes utilisant l'intelligence artificielle pour le contrôle et commandement des opérations aériennes C2

Trust towards artificial intelligence systems in C2Air

• Auteur / Autrice : Bryan Fruchart
• Direction : Benoît Le Blanc
• Type : Thèse de doctorat
• Discipline(s) : Automatique, Productique, Signal et Image, Ingénierie cognitique
• Date : Soutenance le 16/12/2022
• Etablissement(s) : Bordeaux
• Ecole(s) doctorale(s) : École doctorale des sciences physiques et de l’ingénieur (Talence, Gironde)
• Partenaire(s) de recherche : Laboratoire : Laboratoire de l'intégration du matériau au système (Talence, Gironde)
• Jury : Président / Présidente : Catherine Semal
• Jury : Examinateurs / Examinatrices : Philippe Chopin, Damien Marion
• Jury : Rapporteurs / Rapporteuses : Laurent Chaudron, Mehdi Khamassi

Mots clés

Mots clés contrôlés

Confiance

Interaction humain-machine

Intelligence artificielle

Sciences cognitives

Mots clés libres

Architecture cognitive

Intelligence artificielle

Facteurs humains

Confiance

Cognitive architecture

Artificial intelligence

Human factors

Trust

Résumé

Nous proposons une architecture cognitive, nommée I.P.S.E.L. (Information Processing System with Emerging Logics), qui décrit le fonctionnement coopératif de plusieurs systèmes de traitement de l’information dans la perspective de mettre en œuvre une intelligence tendant à s’approcher de celle de l’Homme.L’architecture a été construite via le rassemblement de différentes théories de sciences cognitives en un seul modèle général. Le modèle est présenté dans le formalisme des systèmes de traitement de l’information et de la cybernétique. Sa conception est le fruit d’une recherche transdisciplinaire et entre dans le spectre des travaux en architecture cognitive et en intelligence générale artificielle, des sous-disciplines de l’IA.En utilisant le modèle nous proposons une classification des systèmes d’IA. Cette classification est destinée au monde de l’entreprise et a vocation à éclaircir les différentes natures de systèmes d’IA ainsi que leurs comportements génériques. Nous proposons aussi une catégorisation des dispositions cognitives d’un utilisateur de système d’IA. Ces deux ensembles nous permettent de discriminer des situations d’intéractions particulières entre un utilisateur et un système utilisant l’IA. Pour chacune de ces situations nous discutons alors des conditions qui permettent de mitiger les risques d’une utilisation inappropriée.Le modèle ainsi proposé a aussi vocation à servir de cadre théorique pour l’analyse des comportements artificiels. Nous montrons son utilité dans ce sens en nous en servant pour enrichir les discussions qui portent sur : les capacités des machines dotées d’intelligence artificielle, l’intelligence artificielle de confiance et l’intelligence générale artificielle.Pour décrire le modèle sous une forme tangible, nous proposons le pseudo-code d’un programme informatique qui montre l'emboîtement des différents modules de l’architecture IPSEL.La perspective qui consiste à architecturer un système de traitement de l’information autour d’un principe de logique émergente semble prometteuse pour concevoir un véritable agent artificiel, autonome et intelligent. Notre modélisation peut donc être considérée comme une proposition du fonctionnement d’une AGI (Artificial General Intelligence).

We propose a cognitive architecture, named I.P.S.E.L. (Information Processing System with Emerging Logics), which describes the cooperative functioning of several information processing systems with the objecive to implement an intelligence tending to approach that of humans.The architecture was constructed by bringing together different cognitive science theories into a single general model. The model is presented in the formalism of information processing systems and cybernetics. Its design is the result of transdisciplinary research and falls within the spectrum of cognitive architecture and artificial general intelligence works, which are sub-disciplines of AI.By using the model, we propose a classification of AI systems. This classification is intended for the business world and is intended to clarify the different natures of AI systems as well as their generic behaviors. We also propose a categorization of the cognitive dispositions of an AI system user. These two sets allow us to discriminate particular interaction situations between a user and a system using AI. For each of these situations, we then discuss the conditions that make it possible to mitigate the risks of inappropriate use.The model thus proposed is also intended to serve as a theoretical framework for the analysis of artificial behavior. We show its usefulness in this sense by using it to enrich discussions about: the capabilities of machines with artificial intelligence, trusted artificial intelligence and artificial general intelligence.To describe the model in another form, we also propose the pseudo-code of a computer system that would implement the IPSEL model as the architecture of its global processing.The prospect of structuring an information processing system around a principle of emergent logic seems promising for designing a real artificial, autonomous and intelligent agent that resembles humans. Our modeling can therefore also be considered as a proposal for the functioning of an AGI (Artificial General Intelligence).