Accélérer l'exploration de la conception par algorithme évolutionniste grâce à des modèles prédictifs et génératifs

Accelerating Evolutionary Design Exploration with Predictive and Generative Models

• Auteur / Autrice : Adam Gaier
• Direction : Jean-Baptiste Mouret, Alexander Asteroth
• Type : Thèse de doctorat
• Discipline(s) : Informatique
• Date : Soutenance le 17/07/2020
• Etablissement(s) : Université de Lorraine
• Ecole(s) doctorale(s) : École doctorale IAEM Lorraine - Informatique, Automatique, Électronique - Électrotechnique, Mathématiques de Lorraine (1992-....)
• Partenaire(s) de recherche : Laboratoire : Laboratoire lorrain de recherche en informatique et ses applications
• Jury : Président / Présidente : Sylvain Lefebvre
• Jury : Examinateurs / Examinatrices : Jean-Baptiste Mouret, Alexander Asteroth, Sebastian Risi, Kenneth O. Stanley
• Jury : Rapporteurs / Rapporteuses : Sebastian Risi, Emma Hart

Mots clés

Mots clés contrôlés

Modélisation prédictive

Conception technique -- Informatique

Permutations (mathématiques)

Aérodynamique

Algorithmes évolutionnaires

Mots clés libres

Algorithmes évolutionnistes

Aérodynamique

Modèles de substitution

Diversité de qualité

Conception automatique

Evolutionary optimization

Aerodynamics

Surrogate modeling

Quality diversity

Automated design

Résumé

L'optimisation joue un rôle essentiel dans la conception industrielle, mais ne se limite pas à la minimisation d'une simple fonction, comme le coût ou la résistance. Ces outils sont également utilisés dans les phases conceptuelles, pour mieux comprendre ce qui est possible. Pour soutenir cette exploration, nous nous concentrons sur les algorithmes de diversité de qualité (QD), qui produisent des ensembles de solutions variées et performantes. Ces techniques nécessitent souvent l'évaluation de millions de solutions, ce qui les rend peu pratiques dans les cas de conception. Dans cette thèse, nous proposons des méthodes pour améliorer radicalement l'efficacité des données de la QD avec l'apprentissage machine, permettant son application à la conception. Dans notre première contribution, nous développons une méthode de modélisation des performances des réseaux neuronaux évolués utilisés pour le contrôle et la conception. Les structures de ces réseaux se développent et changent, ce qui les rend difficiles à modéliser - mais grâce à une nouvelle méthode, nous sommes en mesure d'estimer leurs performances en fonction de leur hérédité, améliorant ainsi l'efficacité des données à plusieurs reprises. Dans notre deuxième contribution, nous combinons l'optimisation basée sur un modèle avec MAP-Elites, un algorithme QD. Un modèle de performance est créé à partir de modèles connus, et MAP-Elites crée un nouvel ensemble de modèles en utilisant cette approximation. Un sous-ensemble de ces conceptions est évalué pour améliorer le modèle, et le processus se répète. Nous montrons que cette approche améliore l'efficacité de MAP-Elites par des ordres de grandeur. Notre troisième contribution intègre des modèles générateurs dans MAP-Elites pour apprendre des codages spécifiques à un domaine. Un auto-codeur variationnel est formé sur les solutions produites par MAP-Elites, capturant la "recette" commune pour une haute performance. Ce codage appris peut ensuite être réutilisé par d'autres algorithmes pour une optimisation rapide, y compris MAP-Elites. Tout au long de cette thèse, bien que notre vision se concentre sur la conception, nous examinons les applications dans d'autres domaines, comme la robotique. Ces avancées ne sont pas exclusives à la conception, mais servent de travail de base à l'intégration de la DQ et de l'apprentissage machine.

Optimization plays an essential role in industrial design, but is not limited to minimization of a simple function, such as cost or strength. These tools are also used in conceptual phases, to better understand what is possible. To support this exploration we focus on Quality Diversity (QD) algorithms, which produce sets of varied, high performing solutions. These techniques often require the evaluation of millions of solutions -- making them impractical in design cases. In this thesis we propose methods to radically improve the data-efficiency of QD with machine learning, enabling its application to design. In our first contribution, we develop a method of modeling the performance of evolved neural networks used for control and design. The structures of these networks grow and change, making them difficult to model -- but with a new method we are able to estimate their performance based on their heredity, improving data-efficiency by several times. In our second contribution we combine model-based optimization with MAP-Elites, a QD algorithm. A model of performance is created from known designs, and MAP-Elites creates a new set of designs using this approximation. A subset of these designs are the evaluated to improve the model, and the process repeats. We show that this approach improves the efficiency of MAP-Elites by orders of magnitude. Our third contribution integrates generative models into MAP-Elites to learn domain specific encodings. A variational autoencoder is trained on the solutions produced by MAP-Elites, capturing the common “recipe” for high performance. This learned encoding can then be reused by other algorithms for rapid optimization, including MAP-Elites. Throughout this thesis, though the focus of our vision is design, we examine applications in other fields, such as robotics. These advances are not exclusive to design, but serve as foundational work on the integration of QD and machine learning.