Cette thèse s’inscrit dans le contexte de la transmission sur fibre optique élastique à très haut débit, se servant du détecteur cohérent et de traitement du signal numérique en chaîne de réception. Trois algorithmes ont été mis en avant. L’ algorithme “joint” qui réalise conjointement les opérations de démultiplexage de polarisation et de compensation du déséquilibre IQ en plus de deux algorithmes de compensation de bruit de phase de laser “MDD-CPR” et “R-BPS”. L’approche “joint” assure l’adaptabilité à une transmission agile. Sa robustesse face à d’autres distorsions (les pertes dépendant de la polarisation, multiplexage dynamique) a été démontrée avec une complexité moindre par rapport à l’approche classique de la littérature “CMA+BASS”. La validation expérimentale de “joint” a été assurée sur des données réelles. D’autre part, “MDD-CPR” est une version modifiée de l’algorithme classique de compensation de phase à décision dirigée dont les performances en simulation et avec les signaux réels ont été testées. Des caractéristiques avantageuses de sa courbe en S par rapport à l’approche classique et de sa robustesse face au bruit de phase soulignent son intérêt. “R-BPS” permet de corriger l’effet du bruit de phase de laser avec un nombre minimal de phase de tests réduisant ainsi sa complexité globale. Ses performances avec traitement parallèle pour divers formats de modulation ont mis en évidence sa capacité d’opération meilleure que le “BPS” avec un coût plus faible.