Égalisation dans la Communication par Fibre Optique en Utilisant des Réseaux Neuronaux Basés sur des Modèles

Equalization in Optical Fiber Communication Using Model-based Neural Networks

• Auteur / Autrice : Mohanad Abu-Romoh
• Direction : Mansoor Yousefi, Yves Jaouen
• Type : Thèse de doctorat
• Discipline(s) : Réseaux, informations et communications
• Date : Soutenance le 15/11/2023
• Etablissement(s) : Institut polytechnique de Paris
• Ecole(s) doctorale(s) : École doctorale de l'Institut polytechnique de Paris
• Partenaire(s) de recherche : Laboratoire : Laboratoire Traitement et communication de l'information (Paris ; 2003-....) - Laboratoire de Traitement et Communication de l'Information
• Partenaire(s) de recherche : : Télécom Paris (Palaiseau ; 1977-....)
• Jury : Président / Présidente : Cédric Ware
• Jury : Examinateurs / Examinatrices : Cédric Ware, Christophe Peucheret, Stéphane Azou, Yves Jaouën, Vahid Meghdadi Neyshabouri
• Jury : Rapporteurs / Rapporteuses : Christophe Peucheret, Stéphane Azou

Mots clés

Mots clés contrôlés

Traitement du signal

Réseaux neuronaux (informatique)

Égaliseurs (électronique)

Télécommunications optiques

Mots clés libres

Fibre optique

Apprentissage automatique

Traitement du signal

Optical fiber

Machine learning

Signal processing

Résumé

Répondre à la demande croissante de transmission de données à haute vitesse nécessite des solutions efficaces pour atténuer la non linéarité dans les systèmes de communication optique.Les méthodes traditionnelles telles que la rétropropagation numérique (DBP) sont confrontées à d’importants défis computationnels, les rendant impraticables pour les systèmes du monde réel.Les modèles de réseaux neuronaux ont émergé comme une approche prometteuse pour résoudre ce problème. Deux approches principales existent pour la conception de réseaux neuronaux : les méthodes agnostiques au modèle et les méthodes basées sur le modèle. Les techniques agnostiques au modèle offrent de la flexibilité en termes de taille et d’hyper paramètres et peuvent être placées à différentes positions dans la chaîne de traitement du signal numérique (DSP) du récepteur. Cependant, elles exigent une taille substantielle et des données d’entraînement ´étendues pour fonctionner efficacement. En revanche, les approches basées sur le modèle emploient des réseaux neuronaux guidés par le modèle physique de la propagation du signal. Ces approches ont tendance à être plus compactes mais nécessitent une initialisation soigneuse pour une généralisation correcte. Une technique basée sur le modèle de premier plan est la rétropropagation numérique apprise (LDBP), qui optimise les paramètres DBP à l’aide de réseaux neuronaux.LDBP promet des performances améliorées ou une complexité réduite par rapport à DBP. Cette étude se concentre principalement sur LDBP, introduisant des simplifications par le biais du ”partage de paramètres” pour réduire les paramètres entraînables.De plus, nous proposons de réaffecter les systèmes hérités à gestion de la dispersion (DM) en incorporant des formats de modulation d’ordre supérieur tels que 16-QAM et 64-QAM pour améliorer les débits de données au sein de ces systèmes. Une analyse approfondie des performances et de la complexité démontre que les algorithmes proposés surpassent l’égalisation linéaire et DBP dans divers systèmes de transmission.

Meeting the increasing demand for highspeed data transmission requires effective solutions for mitigating nonlinearity in optical communication systems. Traditional methods like Digital Backpropagation (DBP) face significant computational challenges,rendering them impractical for real-world systems. Neural network models have emerged as a promising approach to address this issue. Two primary approaches exist for designing neural networks: model-agnostic and model-based methods. Modelagnostictechniques offer flexibility in terms of size and hyperparameters and can be placed at various positions in the receiver’s Digital Signal Processing (DSP) chain. However, they demand substantial size and extensive training data in order to operate effectively.In contrast, model-based approaches employ neuralnetworks guided by the physical model of signal propagation. These approaches tend to be more compactbut require careful initialization for proper generalization. One prominent model-based technique isLearned Digital Backpropagation (LDBP), which optimizes DBP parameters using neural networks. LDBPoffers the promise of improved performance or reduced complexity compared to DBP. This study primarilyfocuses on LDBP, introducing simplifications through ”parameter sharing” to reduce trainable parameters.Additionally, we propose repurposing the legacy Dispersion-Managed (DM) systems, by incorporatinghigher-order modulation formats such as 16- QAM and 64-QAM, to enhance data rates within these systems. A comprehensive analysis of the performance and complexity demonstrates that the proposed algorithms outperform linear equalization andDBP in various transmission systems.