Pour concevoir au mieux des dispositifs photoniques, il est important d’avoir des outils de modélisation fiables et efficaces. En effet si le quadrillage de paramètres technologiques est envisageable pour des dispositifs simples, son coût en nombre de tests devient rapidement un frein à l’optimisation de structures. Il devient donc indispensable de disposer de simulations totalement vectorielles, avec des matériaux à indices de réfraction complexes, de garantir la prise en compte de l’ensemble des modes de propagation (modes guidés, rayonnés et évanescents), bidirectionnelles … La simulation de structures à fort contraste d’indice de réfraction (photonique sur silicium) ou les structures utilisant des motifs métalliques générant des modes plasmoniques ou des motifs sub-longueur d’onde comme les métamatériaux … est un ensemble d’exemples qui nécessite l’utilisation de ces outils. Ces derniers se différencient par leur méthode de calcul utilisée : calcul dans le domaine fréquentiel par différences finies ou éléments finis, méthode temporelle par la méthode des différences finies … Par exemple, la FDTD est devenue ces dernières années un outil de référence dans le milieu de la photonique sur silicium. Cependant, ces méthodes ne sont pas forcément optimales. Elles diffèrent par les ressources numériques nécessaires notamment sur la mémoire utilisée, le temps de calcul, la prise en comptes des conditions de continuité, la discrétisation de la structure ainsi que leur domaine d’application (spectral ou spatial) … Ces quinze dernières années au sein du laboratoire (IMEP-Lahc), des outils basés sur la RCWA ont été développés dans ce sens pour simuler des structures très différentes allant de l’optique diffractive à l’optique guidée. Néanmoins, cette méthode comme la FDTD peut générer des approximations induisant des imprécisions ou une augmentation des ressources numériques utilisées dans certaines configurations. L’objectif de cette thèse est de développer un outil plus général dans le but de réduire ces imperfections tout en gardant la possibilité de l’utiliser sur une multitude d’applications de la photonique (optique diffractive, optique guidée …). Mon choix s’est porté sur la méthode différentielle largement utilisée pour l’étude des réseaux de diffraction. Cette méthode peut être plus efficace que la RCWA mais peut avoir aussi des limites pour la simulation de structures à profil complexe notamment en polarisation TM. Depuis les années 2000, l’ajout d’un nouveau module dénommé FFF (Fast Fourier Factorisation), permet de résoudre cette problématique et ouvrir de nouvelles potentialités à cette méthode. Après une introduction générale, la méthode différentielle associée à la FFF est présentée en détails. Ensuite, une solution simple et rapide qui permet de résoudre le problème des divergences numériques dans le cas des métaux ayant une permittivité purement réelle et négative est proposée. Puis, l’étude complète d’une structure diffractive diélectrique utilisée pour des applications de sécurité visuelle est proposée. La simulation de la structure diffractive est associée à un module utilisant un réseau de neurones pour le design et la modélisation optimale de ces structures. Finalement, pour adapter la méthode aux structures photoniques guidées, une transformée de coordonnées inspirée par la FMM apériodique a été implémentée dans l’algorithme de la MD-FFF transformant cette dernière en une méthode apériodique pour la simulation 2D de structures optiques intégrées utilisant des matériaux à indice de réfraction complexe, non-isotropes et non-magnétiques. La décomposition de la propagation sur une base de modes propres peut permettre d’accéder à des informations non directement accessibles avec la FDTD par exemple. Des résultats plus précis, plus rapides et plus rigoureux ont été obtenues par rapport à laFMM notamment en polarisation TM avec des profils curvilignes comme dans le cas des structures cylindriques.