Etude et implémentation des égaliseurs non-linéaires utilisant des réseaux de neurones artificiels pour les systèmes de transmission optique cohérente

Study and implementation of nonlinear equalizers using artificial neural networks for coherent optical transmission systems

• Auteur / Autrice : Abraham Sergio Sotomayor Fernandez
• Direction : Jean-Louis de Bougrenet de la Tocnaye, Vincent Choqueuse
• Type : Thèse de doctorat
• Discipline(s) : Télécommunication
• Date : Soutenance le 10/10/2024
• Etablissement(s) : Ecole nationale supérieure Mines-Télécom Atlantique Bretagne Pays de la Loire
• Ecole(s) doctorale(s) : École doctorale Sciences pour l'ingénieur et le numérique
• Partenaire(s) de recherche : Entreprise : Orange Labs
• Partenaire(s) de recherche : Laboratoire : Equipe Architectures, Microwaves & Photonic Systems - Laboratoire en sciences et techniques de l'information, de la communication et de la connaissance (Brest ; 2012-....)
• Jury : Président / Présidente : Christelle Aupetit-Berthelemot
• Jury : Examinateurs / Examinatrices : Jean-Louis de Bougrenet de la Tocnaye, Vincent Choqueuse, Ghaya Rekaya Ben Othman, Christophe Finot, Sergei Turitsyn, Raphaël Le Bidan, Michel Morvan
• Jury : Rapporteurs / Rapporteuses : Ghaya Rekaya Ben Othman, Christophe Finot

Mots clés

Mots clés contrôlés

Réseaux neuronaux (informatique)

Optique non linéaire

Égaliseurs (électronique)

Télécommunications optiques

Mots clés libres

Systèmes cohérents

Non-linéarité

Égalisation non-linéaire

Réseaux de neurones

Coherent systems

Fiber nonlinearity

Nonlinear equalization

Neural networks

Résumé

Dans les systèmes optiques cohérents utilisant des schémas de modulation par déplacement de phase, la non-linéarité de la fibre constitue le principal obstacle à l'atteinte de la capacité de Shannon. En pratique, la propagation non-linéaire dans la fibre introduit un bruit de phase qui ne peut pas être complètement compensé par des égaliseurs DSP linéaires. Pour compenser ces non-linéarités, des égaliseurs non-linéaires plus performants, basés sur la Digital Backpropagation ou sur les séries de Volterra, sont souvent trop gourmands en calculs pour leur déploiement en temps réel dans les récepteurs actuels. Dans ce contexte, une alternative prometteuse aux égaliseurs non linéaires classiques réside dans l'utilisation des réseaux de neurones artificiels lesquels, par rapport aux égaliseurs non-linéaires, présentent l'avantage d'une complexité calculatoire maîtrisée. En utilisant des simulations numériques d'un DP-16QAM sur 14x100 km de fibre monomode standard, nous avons montré que, pour de longues distances, des réseaux de neurones simples potentiellement implémentables dans un récepteur ne compensent pas le bruit de phase non-linéaire aussi efficacement que les techniques classiques. De plus, ce travail montre que l'utilisation d'une fonction de coût basée sur l'erreur quadratique moyenne lors de l'entraînement introduit une déformation non-linéaire du diagramme de constellation en sortie de réseau. En particulier, pour les constellations QAM quadratiques, cette déformation se traduit géométriquement sous la forme d'une grille. Ce phénomène, que nous avons nommé MMSE-scatterplot, peut affecter significativement les traitements DSP ultérieurs de la chaîne de réception. Après une analyse théorique de ce phénomène, ce travail présente une technique innovante pour atténuer cet effet et améliorer les performances de la chaîne.

The fiber nonlinearity is considered the ultimate barrier to reaching the Shannon capacity, particularly relevant in coherent systems that rely on phase shift modulation schemes. In effect, the fiber nonlinearity introduces a nonlinear phase noise making ineffective the DSP linear equalizers. To compensate for the fiber nonlinearity, DSP-based nonlinear equalizers, such as the Digital Backpropagation or the Volterra series nonlinear equalizer, are commonly considered computationally heavy solutions that do not fit into the limited resources of current transceivers. Under such a scenario, artificial neural networks surge as an option to efficiently perform nonlinear equalization with limited computational complexity. Using numerical simulations of a DP-16QAM over 14x100 km of standard single-mode fiber and considering a simple neural network promising to be implemented in a transceiver, we have shown that for long distances, simple neural networks potentially implementable in a transceiver do not compensate for nonlinear phase noise as effectively as classical DSP techniques. Even more, when using the mean squared error cost function to train the neural network, it has been seen that the diagram constellation exhibits a deformation that adopts a grid shape in the case of quadratic QAM constellations. This phenomenon, which we named MMSE-scatterplot, potentially affects the subsequent DSP and has been deeply studied in this work, elucidating the mathematical model equivalent to the MMSE-scatterplot. Based on this mathematical equation, we also have proposed an innovative technique to mitigate this effect.