L’usage de l’exécution symbolique pour la déobfuscation binaire en milieu industriel

Use of symbolic execution for binary deobfuscation in an industrial environment

• Auteur / Autrice : Jonathan Salwan
• Direction : Marie-Laure Potet, Sébastien Bardin
• Type : Thèse de doctorat
• Discipline(s) : Mathématiques et informatique
• Date : Soutenance le 13/02/2020
• Etablissement(s) : Université Grenoble Alpes
• Ecole(s) doctorale(s) : École doctorale Mathématiques, sciences et technologies de l'information, informatique (Grenoble ; 1995-....)
• Partenaire(s) de recherche : Laboratoire : Laboratoire Verimag (Grenoble, Isère, France ; 1993-....) - Département Imagerie et Simulation pour le Contrôle (Saclay ; 2008-....)
• Jury : Président / Présidente : Philippe Elbaz-Vincent
• Jury : Examinateurs / Examinatrices : Sarah Zennou, Robin David
• Jury : Rapporteur / Rapporteuse : Vincent Nicomette, Jean-Yves Marion

Mots clés

Mots clés contrôlés

Rétro-ingénierie (informatique)

Mots clés libres

Déobfuscation binaire

Analyse binaire dynamique

Exécution symbolique

Symbolic execution

Deobfuscation

Dynamic binary analysis

Résumé

Cette thèse a été faite dans un cadre industriel où les activités principales sont la rétro-ingénierie pour la recherche de vulnérabilités et la vérification de certaines propriétés de sécurité sur des programmes déjà compilés. La première partie de cette thèse porte sur la collecte et le partage des problématiques industrielles lors de l’analyse de programmes binaires. Basé sur ces problématiques, un cadre de travail d’analyse dynamique binaire a été développé et formalisé. Des exemples réels d’utilisation y sont ensuite présentés tels que la détection de prédicats opaques dans les conditions de branchement. Enfin, une nouvelle approche automatique permettant la dévirtualisation de code binaire y est présentée en combinant les fonctionnalités du cadre de travail ainsi que celles d’autres outils.

This doctoral work has been done in an industrial environment where the mainactivities were reverse engineering for vulnerability research and security properties verification on binary programs. The first part of this doctoral work focuses on the collection and sharing of the industrial problems when analyzing binary programs. Based on these issues, a binary dynamic analysis framework has been developed and formalized. Real examples of use are then presented, such as the detection of opaque predicates in branch conditions. Finally, a new automatic approach for deobfuscation of binary code protected by virtualization is presented combining features of the framework as well as those of other tools.