Méthodes d'apprentissage pour l'amélioration des récepteurs MIMO/NOMA basés sur des algorithmes bayésiens itératifs

Deep learning enhanced MIMO / NOMA message-passing-based receivers

• Auteur / Autrice : Arthur Michon
• Direction : Charly Poulliat
• Type : Thèse de doctorat
• Discipline(s) : Informatique et Télécommunications
• Date : Soutenance le 16/05/2025
• Etablissement(s) : Université de Toulouse (2023-....)
• Ecole(s) doctorale(s) : École doctorale Mathématiques, informatique et télécommunications (Toulouse)
• Partenaire(s) de recherche : Laboratoire : Institut de Recherche en Informatique de Toulouse (1995-....)
• Partenaire(s) de recherche : Etablissement délivrant conjointement le doctorat : Institut national polytechnique (Toulouse ; 1969-....)
• Jury : Président / Présidente : Ghaya Rekaya Ben Othman
• Jury : Examinateurs / Examinatrices : Charly Poulliat, Christophe Jego, Antonio Maria Cipriano
• Jury : Rapporteurs / Rapporteuses : Jean-Marie Gorce, Matthieu Crussière

Mots clés

Mots clés contrôlés

MPI (protocole de réseaux d'ordinateurs)

Réseaux neuronaux (informatique)

Apprentissage profond

Mots clés libres

Message Passing

Multiple Input Multiple Output

Apprentissage profond

Non-Orthogonal multiple access

Multiple Input Multiple Output

Message Passing

Multiple Input Multiple Output

Machine learning

Non-Orthogonal multiple access

Multiple Input Multiple Output

Résumé

Les communications modernes nécessitent des débits toujours plus élevés et la capacité de connecter simultanément un nombre croissant d'appareils. Pour répondre à ces exigences, les méthodes multi-antennes ont gagné en popularité ces dernières années. La structure du modèle induite par ce type de communication peut être représentée sous la forme d'un graphe de facteurs, ce qui permet de définir des algorithmes de type ''message-passing'' basés sur l'inférence variationnelle pour la détection des symboles transmis. Ces algorithmes sont itératifs et convergent vers des performances proches du critère optimal de détection. Étant à entrée et sortie souples, ils peuvent être utilisés conjointement avec des décodeurs associés à un code canal, en exploitant le principe de turbo-itérations, ce qui améliore encore la qualité de la détection.Cependant des hypothèses sur les distributions des signaux sont nécessaires pour obtenir une expression analytique des détecteurs. Or ces hypothèses ne sont pas toujours parfaitement respectées pour des schémas de transmissions réalistes. Grâce à l'intégration des réseaux de neurones et de l'apprentissage profond, il a été démontré qu'il est possible de remplacer certaines parties du détecteur pour améliorer les performances en termes de taux d’erreurs.Dans ce travail, nous explorons deux approches basées sur l'apprentissage profond. Dans un premier temps, nous déplions les turbo-itérations afin d’optimiser certains paramètres scalaires qui n’ont pas d’expression analytique. Ensuite, nous étudions l’application des réseaux de neurones aux graphes induits par le modèle de communication.Nous avons étudié le dépliement des turbo-itérations suite à une observation : pour des algorithmes approximés, l’information extrinsèque n’est pas toujours optimale. Cette observation est significative car la quasi-totalité de la littérature utilisant des turbo-récepteurs repose sur l’utilisation de l’information extrinsèque. En l’absence de solution analytique pour déterminer un compromis optimal entre l’information extrinsèque et l’information a posteriori, nous avons introduit des paramètres apprenables capables d’optimiser ce compromis, augmentant ainsi les performances globales du système.Nous nous sommes également intéressés aux réseaux de neurones appliqués aux graphes, car nos algorithmes de détection reposent directement sur la représentation du système de communication sous forme de graphe. Une sous-classe particulièrement pertinente de ces réseaux est celle des ''message-passing neural networks'' (MPNN). Cette architecture émergente est de plus en plus populaire dans le domaine du deep learning appliqué à la couche physique. Nos travaux se sont portés sur l’adaptation de ces architectures aux spécificités des récepteurs et des types de transmission, afin d’exploiter au mieux les propriétés du modèle de communication sous-jacent. Cela a permit à la fois de réduire la complexité et améliorer les performances du réseau de neurone.

Modern communications require ever higher data rates and the ability to connect a growing number of devices simultaneously. To meet these requirements, multi-antenna methods have gained in popularity in recent years. The model structure induced by this type of communication can be represented as a factor graph, enabling message-passing algorithms based on variational inference to be defined for the detection of transmitted symbols. These algorithms are iterative and converge towards performance close to the optimal detection criterion. Being soft-input soft-output detectors, they can be used with decoders associated with a channel code, exploiting the turbo principle, which further improves detection quality.However, assumptions about the signal distributions are necessary to derive an analytical expression for the detectors. These assumptions are not always perfectly satisfied for realistic transmission schemes. Thanks to the integration of neural networks and deep learning, it has been demonstrated that it is possible to replace certain parts of the detector to improve error rate.In this work, we explore two approaches based on deep learning.First, we unfold the turbo-iterations to optimize certain scalar parameters that do not have an analytic expression. Second, we study the application of neural networks to the graphs induced by the communication models.We studied the unfolding of turbo-iterations following an observation: for approximate algorithms, extrinsic information is not always optimal. This observation is significant because almost all of the literature using turbo receivers relies on the use of extrinsic information. In the absence of an analytical solution for determining an optimal compromise between extrinsic information and a posteriori information. We have introduced learnable parameters capable of optimizing this compromise, thereby improving the overall system performance.We also focused on neural networks applied to graphs, as our detection algorithms are directly based on the representation of the communication system as a graph. A particularly relevant subclass of these networks is the ''message-passing neural networks'' (MPNNs).This emerging architecture is becoming increasingly popular in the field of deep learning applied to the physical layer. Our work has focused on adapting these architectures to the specificities of receivers and transmission types, in order to make the most out of the properties of the underlying communication model.This has both reduced the complexity and improved the performance of the neural network.