Réponse aux attaques basée sur l'IA et la programmabilité des réseaux du futur

Cognitive and programmable attack response for next-generation networks

• Auteur / Autrice : Shurok Khozam
• Direction : Éric Totel, Gregory Blanc, Sébastien Tixeuil
• Type : Thèse de doctorat
• Discipline(s) : Informatique, données, IA
• Date : Soutenance le 18/05/2026
• Etablissement(s) : Institut polytechnique de Paris
• Ecole(s) doctorale(s) : École doctorale de l'Institut polytechnique de Paris
• Partenaire(s) de recherche : Laboratoire : Services répartis, Architectures, MOdélisation, Validation, Administration des Réseaux (2001-....) - Institut Polytechnique de Paris / IP Paris - Département Réseaux et Services de Télécommunications / TSP - RST - Sécurité et Confiance Numérique / SCN-SAMOVAR
• Partenaire(s) de recherche : Etablissement opérateur d'inscription : Télécom SudParis (Evry ; 2012-....)
• Jury : Président / Présidente : Pierre Parrend
• Jury : Examinateurs / Examinatrices : Leïla Merghem-Boulahia, Samiha Ayed, Francesco Bronzino
• Jury : Rapporteurs / Rapporteuses : Leïla Merghem-Boulahia, Samiha Ayed
• DOI : 10.70675/f2c202e4z1482z475bz9a53zc7969d850971

Mots clés

Mots clés contrôlés

Apprentissage par renforcement (intelligence artificielle)

Qualité de Service (télécommunications)

SDN (architecture des réseaux d'ordinateurs)

Mots clés libres

Vérification de politiques

Réseaux programmables

Mitigation d'attaques

Automatisation

Attack mitigation

Automation

Policy verification

Programmable networks

Résumé

L'essor de l'IoT doté de la 5G offre une vitesse, une bande passante et une faible latence sans précédent — mais élargit également la surface exposée à l'exploitation, car de nombreux dispositifs contraints en ressources et faiblement sécurisés introduisent de nouveaux points d'entrée pour les attaquants, augmentant le risque d'attaques DDoS. Les défenses statiques fondées sur des règles vacillent dans des environnements dynamiques et ajoutent une latence incompatible avec les réseaux actuels. Cette thèse présente un cadre adaptatif qui combine la programmabilité SDN avec l'apprentissage par renforcement profond — en particulier les Double Deep Q-Networks (DDQN) — afin de fournir un cadre autonome, sensible à la QoS, pour la mitigation des attaques DDoS par inondation. Au travers de trois approches complémentaires, nous (i) formulons un pipeline de remédiation qui apprend à sélectionner des contre-mesures en réponse à des situations variées de l'environnement tout en minimisant l'impact collatéral ; (ii) introduisons des techniques de modélisation passées à l'échelle — notamment une projection d'état par groupes pour réduire la dimensionnalité et des architectures neuronales modulaires avec des fonctions invariantes/équivariantes par permutation — pour généraliser à différentes tailles de réseau et emplacements des points d'entrée sans réentraînement. Nous implémentons et évaluons ce cadre dans des bancs d'essai SDN émulés couvrant des topologies de réseau étendues et des conditions opérationnelles variées, en exerçant des attaques courantes aux couches réseau et applicative. Les résultats démontrent une mitigation efficace du trafic malveillant, une amélioration du débit pour les utilisateurs légitimes, une latence additionnelle minimale sous charge, ainsi qu'un moindre surcoût de calcul et une réduction des interventions manuelles grâce à la sélection et à l'installation automatiques des contre-mesures.

The rise of 5G-enabled IoT delivers unprecedented speed, bandwidth, and low latency—but also expands the surface exposed to exploitation, as numerous resource-constrained and weakly secured devices introduce new entry points for attackers, increasing the risk of DDoS attacks. Static, rule-based defenses falter in dynamic environments and add latency, which is incompatible with today's networks. This thesis introduces an adaptive framework that combines SDN programmability with Deep Reinforcement Learning—specifically Double Deep Q-Networks (DDQN)—to provide autonomous, QoS-aware mitigation framework of DDoS flooding attacks. Across three complementary approaches, we (i) formulate a remediation pipeline that learns to select countermeasures in response to varied environment's situations while minimizing collateral impact ; (ii) introduce scalable modeling techniques—including group-based state projection to reduce dimensionality and modular neural architectures with permutation-invariant/equivariant functions—to generalize across network sizes and entry-point placements without retraining. We implement and evaluate the framework in emulated SDN testbeds across extended network topologies and varied operational conditions, exercising common network- and application-layer attacks. Results demonstrate effective mitigation of attacker traffic, improved throughput for benign users, with minimal added latency under load, alongside lower computational overhead and reduced manual intervention by automatically selecting and installing mitigation countermeasures.