Approximations d'ensembles d'états, pour la vérification de CPS

State space approximations for the verification of CPS

• Auteur / Autrice : Nathan Chiche
• Direction : Eric Goubault, Sylvie Putot
• Type : Projet de thèse
• Discipline(s) : Informatique, données, IA
• Date : Inscription en doctorat le 01/06/2022
• Etablissement(s) : Institut polytechnique de Paris
• Ecole(s) doctorale(s) : École doctorale de l'Institut polytechnique de Paris
• Partenaire(s) de recherche : Laboratoire : LIX - Laboratoire d'informatique
• Partenaire(s) de recherche : Equipe de recherche : COSYNUS

Mots clés

Mots clés libres

Méthodes ensemblistes

Cps

Vérification

Méthodes algébriques et topologiques

Algebraic and topological methods

Verification

Set-based methods

Cps

Résumé

Le contexte de la thèse est celui de la vérification de systèmes cyber-physiques, et en particulier de systèmes de contrôle de drones et d'essaims de drones, par méthodes formelles. L'équipe Cosynus a développé depuis de nombreuses années des méthodes de sur et sous approximation de l'ensemble d'états atteignables de systèmes de contrôle ([1], [2]). Celles-ci sont basées sur des approximations de Taylor de l'ensemble des trajectoires possibles (sous incertitudes), avec des possibles extensions aux incertitudes probabilistes ([3]). Le sujet proprement dit consiste à améliorer ces méthodes d'approximation d'ensembles atteignables, en étudiant d'autres méthodes d'approximation fonctionnelle (en lien avec le projet ANR Nuscap), ou de représentations ensemblistes. Il n'est pas toujours possible de représenter de manière tractable des sur- ou sous-approximations précises, et un des objectifs de la thèse sera de compléter ces représentations par des méthodes algébriques, ou topologiques, comme par exemple dans les travaux [4] et [5]. On visera également la génération d'ensembles atteignables à temps non borné, c'est-à-dire la génération d'ensembles invariants, par calculs de point fixe sur des représentations ensemblistes. La représentation de ces ensembles ne permet pas directement de vérifier des spécifications formelles de ces systèmes, écrits dans diverses variantes de logiques temporelles. Une des extensions possibles de ce sujet est l'interpretation de formules de logique temporelle, éventuellement quantifiées. Concernant les systèmes étudiés, on se concentrera dans un premier lieu sur les systèmes continus, définis par un système d'équations différentielles ordinaires. L'analyse mixte numérique-symbolique (ou ensembliste-algébrique) permettra par exemple de traiter élégamment l'extension aux systèmes hybrides, caractérisés par des gardes (algébriques) et des changements de modes (différentiels). On pourra dans un deuxième temps s'intéresser aux systèmes contrôlés par des réseaux de neurones (par exemple dans la lignée de [6], mais aussi de [1]). La généralisation du calcul d'ensemble atteignables au cas d'un horizon de temps non borné permettra dans ce cas d'analyser également des réseaux de neurones récurrents. [1] Eric Goubault, Sylvie Putot. Tractable higher-order under-approximating AE extensions for non-linear systems. 7th IFAC Conference on Analysis and Design of Hybrid Systems, ADHS 2021, Brussels, Belgium, July 7-9, 2021. [2] Eric Goubault, Sylvie Putot. Robust Under-Approximations and Application to Reachability of Non-Linear Control Systems With Disturbances. IEEE Control. Syst. Lett., 2020. [3] Yi Chou, Eric Goubault, Sylvie Putot, Sriram Sankaranarayanan. Reasoning about Uncertainties in Discrete-Time Dynamical Systems using Polynomial Forms. Advances in Neural Information Processing Systems 33: Annual Conference on Neural Information Processing Systems 2020, NeurIPS 2020, December 6-12, 2020. [4] Laurent Fribourg, Eric Goubault, Sameh Mohamed, Marian Mrozek, Sylvie Putot. A topological method for finding invariant sets of continuous systems. Inf. Comput. 277, 2021. [5] Eric Goubault, Jacques-Henri Jourdan, Sylvie Putot, Sriram Sankaranarayanan. Finding non-polynomial positive invariants and lyapunov functions for polynomial systems through Darboux polynomials. ACC 2014. [6] Eric Goubault, Sébastien Palumby, Sylvie Putot, Louis Rustenholz, Sriram Sankaranarayanan. Static Analysis of ReLU Neural Networks with Tropical Polyhedra. SAS 2021.

The context of the thesis is the verification of cyber-physical systems, and in particular of UAV and swarm control systems, using formal methods. The Cosynus team has developed for many years methods for over and under approximation of the set of reachable states of control systems ([1], [2]). These are based on Taylor approximations of the set of possible trajectories (under uncertainties), with possible extensions to probabilistic uncertainties ([3]). The subject itself consists in improving these methods of approximation of reachable sets, by studying other methods of functional approximation (in connection with the ANR Nuscap project), or of set representations. It is not always possible to represent precise over- or under-approximations in a tractable way, and one of the objectives of the thesis will be to complete these representations by algebraic or topological methods, as for example in the works [4] and [5]. We will also aim at the generation of reachable sets with unbounded time, i.e. the generation of invariant sets, by fixed point computations on ensemblistic representations. The representation of these sets does not directly allow to check formal specifications of these systems, written in various variants of temporal logics. One of the possible extensions of this subject is the interpretation of temporal logic formulas, possibly quantified. Concerning the systems studied, we will first focus on continuous systems, defined by a system of ordinary differential equations. The mixed numerical-symbolic (or set-algebraic) analysis will allow, for example, to elegantly deal with the extension to hybrid systems, characterised by (algebraic) guards and (differential) mode changes. In a second step, one could be interested in systems controlled by neural networks (for example in the line of [6], but also of [1]). The generalization of the computation of reachable sets to the case of an unbounded time horizon will allow in this case to analyze also recurrent neural networks. [1] Eric Goubault, Sylvie Putot. Tractable higher-order under-approximating AE extensions for non-linear systems. 7th IFAC Conference on Analysis and Design of Hybrid Systems, ADHS 2021, Brussels, Belgium, July 7-9, 2021. [2] Eric Goubault, Sylvie Putot. Robust Under-Approximations and Application to Reachability of Non-Linear Control Systems With Disturbances. IEEE Control. Syst. Lett., 2020. [3] Yi Chou, Eric Goubault, Sylvie Putot, Sriram Sankaranarayanan. Reasoning about Uncertainties in Discrete-Time Dynamical Systems using Polynomial Forms. Advances in Neural Information Processing Systems 33: Annual Conference on Neural Information Processing Systems 2020, NeurIPS 2020, December 6-12, 2020. [4] Laurent Fribourg, Eric Goubault, Sameh Mohamed, Marian Mrozek, Sylvie Putot. A topological method for finding invariant sets of continuous systems. Inf. Comput. 277, 2021. [5] Eric Goubault, Jacques-Henri Jourdan, Sylvie Putot, Sriram Sankaranarayanan. Finding non-polynomial positive invariants and lyapunov functions for polynomial systems through Darboux polynomials. ACC 2014. [6] Eric Goubault, Sébastien Palumby, Sylvie Putot, Louis Rustenholz, Sriram Sankaranarayanan. Static Analysis of ReLU Neural Networks with Tropical Polyhedra. SAS 2021.