Ces travaux de recherche portent sur les systèmes de communication radio-sur-fibre aux fréquences millimétriques supérieures à 60 GHz. Cette thèse s’articule autour de trois problématiques cruciales pour ces systèmes : la mesure du bruit de phase des signaux millimétriques instables générés par voie optique, la suppression de l’impact du bruit de phase sur les performances des systèmes de communications radio-sur-fibre par l’utilisation de techniques de conversion de fréquence non-cohérente, et enfin l’étude de l’impact du bruit d’intensité sur les performances des systèmes à détection non-cohérente. La première partie du travail présente une nouvelle technique de détection numérique du bruit de phase, capable de mesurer le bruit de phase à n’importe quelle fréquence millimétrique générée par voie optique et donc le plus souvent instable. Il est possible de mesurer le bruit de phase pour une large gamme de fréquences de décalage, allant de fréquence très proches de la porteuse à des bruits lointains grâce à l’adaptation de la résolution fréquentielle de la mesure. Cette mesure se fait de plus sans l’approximation des petits angles, très souvent utilisés. Dans la deuxième partie, un système de communication millimétrique basé sur une détection non-cohérente est étudié. L’étage de conversion de fréquences électrique permettant l’analyse des signaux est réalisé avec une détection d’enveloppe, ce qui permet de s’affranchir des variations de phase et de fréquence de la porteuse générée par voie optique. Pour terminer, des études théoriques et expérimentales sont menées sur l’impact du bruit d’amplitude sur les systèmes radio-sur-fibre utilisant ce type de détection non-cohérente. Les simulations, basées sur des modèles théoriques, sont capables de déterminer quel bruit est prédominant lors des mesures d’EVM parmi les bruits optiques et électriques. Cette technique s’appuie sur l’observation de l’évolution de l’EVM sur la puissance optique reçue.