Architectures logicielles basées microservices efficientes en énergie

Energy-efficient microservices-based software architectures

• Auteur / Autrice : Cesar Perdigao batista
• Direction : Sophie Chabridon, Denis Conan
• Type : Projet de thèse
• Discipline(s) : Informatique, données, IA
• Date : Inscription en doctorat le 08/01/2024
• Etablissement(s) : Institut polytechnique de Paris
• Ecole(s) doctorale(s) : École doctorale de l'Institut polytechnique de Paris
• Partenaire(s) de recherche : Laboratoire : Télécom SudParis (Evry ; 2012-....)
• Partenaire(s) de recherche : Equipe de recherche : ACMES

Mots clés

Mots clés libres

Architectures logicielles

Microservices

Efficacité énergétique

Software architectures

Microservices

Energy efficiency

Résumé

Contexte et besoins : Le cloud computing et ses nombreuses déclinaisons offrent aux utilisateurs des capacités de calcul et de stockage considérables. La maturité des techniques de virtualisation a permis l'émergence d'infrastructures virtualisées complexes, capables de déployer et de reconfigurer rapidement des ressources virtuelles et élastiques dans des infrastructures de plus en plus distribuées. Cette gestion des ressources, transparente pour les utilisateurs, donne l'illusion d'un accès à des ressources flexibles, illimitées et quasi immatérielles. Pourtant, la consommation électrique de ces nuages est bien réelle et préoccupante, tout comme leurs émissions globales de gaz à effet de serre (GES) et la consommation de matières premières critiques entrant dans leur fabrication. Dans un contexte où le changement climatique devient plus visible, avec des conséquences graves pour les hommes et la planète, tous les secteurs (transport, bâtiment, agriculture, industrie, etc.) doivent contribuer à l'effort de réduction des émissions de GES. Malgré leur capacité à optimiser les processus dans d'autres secteurs (transport, énergie, agriculture), les clouds n'échappent pas à ce constat : il faut inverser la pente croissante de leurs émissions de gaz à effet de serre, faute de quoi leurs bénéfices potentiels dans d'autres secteurs seront effacés. Les architectures logicielles basées sur les microservices sont devenues un standard de développement pour les applications déployées dans le Cloud. Ce paradigme architectural vise à modulariser et à réutiliser les services logiciels pour faciliter leur maintenance et leur gestion du cycle de vie. Le succès des microservices a également été porté par l'émergence de conteneurs logiciels qui facilitent leur déploiement parallèle en production via des plateformes d'orchestration comme Kubernetes ou Docker Swarm. Cependant, le déploiement de microservices dans le Cloud repose souvent sur une combinaison de couches IaaS, PaaS et SaaS qui peuvent pénaliser l'efficacité énergétique du système final. A l'échelle d'un datacenter ou d'un ordinateur, il est désormais courant pour les fournisseurs de Cloud de présenter la consommation électrique à leurs clients. Cependant, à l'échelle d'un microservice, cela reste un problème ouvert. En effet, la complexité croissante de la pile logicielle entre le matériel et l'application de l'utilisateur (système d'exploitation, machines virtuelles, middleware, conteneurs, orchestrateurs, microservices, etc.) ainsi que l'imbrication des appels de service rendent difficile l'affectation des consommations énergétiques aux un service. Défis et objectifs : Dans le but général d'améliorer l'efficacité énergétique des infrastructures Cloud, cette thèse vise à étudier une nouvelle approche fondée sur des principes pour comprendre et utiliser la consommation d'énergie dans l'évolution dynamique des architectures logicielles basées sur les microservices. L'idée clé est d'affiner la consommation d'énergie à la granularité d'un microservice, voire d'un appel de service. Un premier objectif est alors d'aborder le problème de la mesure de la consommation énergétique d'un microservice hébergé dans un conteneur et utilisant d'autres microservices hébergés dans d'autres conteneurs. Ainsi, le premier enjeu est que cette consommation soit évaluée par un fournisseur Cloud pour chaque microservice hébergé, voire pour chaque appel au service client. Un point de départ sera d'étudier l'état de l'art [Power API, 2021, Bourdon et al., 2013, Khomh et Abtahizadeh, 2018, Fontana de Nardin et al., 2021] et de mener des expériences de mesure. De plus, la mise à jour facile des microservices d'un service plus vaste est l'un des principaux avantages des microservices. Les services d'orchestration cloud permettent de remplacer les microservices par d'autres versions, avec de légères modifications aux microservices existants. Un deuxième objectif est alors d'exprimer les préoccupations d'efficacité énergétique dans l'évolution dynamique des architectures logicielles d'une manière compréhensible et utilisable par les développeurs et les architectes logiciels. Un second enjeu est alors d'intégrer la consommation énergétique au niveau d'une version d'un microservice dans le processus décisionnel d'évolution des applications. Les décisions pourraient être motivées par la consommation d'énergie de la nouvelle version d'un microservice ou d'un ensemble de microservices dans le but de remplacer un microservice par un autre qui consomme moins d'énergie. Le candidat prendra en compte des travaux récents sur la mise à jour dynamique de logiciels [Sokolowski et al., 2022, Wang et al., 2021, Wang, 2022]. Un troisième objectif est de démontrer l'applicabilité de l'approche en construisant un prototype. Le candidat organisera des validations expérimentales, pouvant être à la fois dans des environnements de simulation (e.g. SimGrid [Casanova et al., 2014] : https://simgrid.org/) et sur des plateformes expérimentales (e.g. SLICES-FR : https:// slices-ri.eu/). L'évaluation s'appuiera sur des suites de benchmark open source construites avec des microservices représentatifs de grands services de bout en bout (par exemple DeathStarBench [Gan et al., 2019] : https://github.com/delimitrou/DeathStarBench).

Context and requirements: Cloud computing and its many variations offer users consider- able computing and storage capacities. The maturity of virtualization techniques has enabled the emergence of complex virtualized infrastructures, capable of rapidly deploying and recon- figuring virtual and elastic resources in increasingly distributed infrastructures. This resource management, transparent to users, gives the illusion of access to flexible, unlimited and almost immaterial resources. However, the power consumption of these clouds is very real and worrying, as are their overall greenhouse gas (GHG) emissions and the consumption of critical raw ma- terials used in their manufacture. In a context where climate change is becoming more visible, with serious consequences for people and the planet, all sectors (transport, building, agricul- ture, industry, etc.) must contribute to the effort to reduce GHG emissions. Despite their ability to optimize processes in other sectors (transport, energy, agriculture), clouds are not immune to this observation: the increasing slope of their greenhouse gas emissions must be reversed, otherwise their potential benefits in other sectors will be erased. Microservice-based software architectures have become a development standard for applica- tions deployed in the Cloud. This architectural paradigm aims to modularize and reuse software services to facilitate their maintenance and lifecycle management. The success of microservices has also been driven by the emergence of software containers that ease their parallel deployment in production via orchestration platforms like Kubernetes or Docker Swarm. However, the de- ployment of microservices in the Cloud often relies on a combination of IaaS, PaaS, and SaaS layers that can penalize the energy efficiency of the final system. At the scale of a data center or a computer, it is now common for Cloud providers to present the power consumption to their customers. However, at the scale of a microservice, this remains an open problem. Indeed, the increasing complexity of the software stack between the hardware and the user's application (operating system, virtual machines, middleware, containers, orchestrators, microservices, etc.) as well as the intertwining of service calls make it difficult to assign energy consumption to a service. Challenges and objectives: With the overall goal of improving the energy efficiency of Cloud infrastructures, this PhD aims at invetigating a new principled approach to understand and use energy consumption in the dynamic evolution of microservice-based software architectures. The key idea is to refine energy consumption at the granularity of a microservice, and even of a ser- vice call. A first objective is then to address the problem of measuring the energy consumption of a microservice hosted in a container and using other microservices hosted in other containers. So, the first challenge is that this consumption should be evaluated by a Cloud provider for each hosted microservice, or even for each client service call. A starting point will be to study the state of the art [Power API, 2021, Bourdon et al., 2013, Khomh and Abtahizadeh, 2018, Fontana de Nardin et al., 2021] and to conduct measurement experiments. In addition, easily updating microservices of a larger service is one of the main advantages of microservices. Cloud orchestration services allow to replace microservices with other versions, with slight modifications to existing microservices. A second objective is then to express energy efficiency concerns in the dynamic evolution of software architectures in a manner understandable and usable by developers and software architects. A second challenge is then to integrate the energy consumption at the level of a version of a microservice in the decision making process for the evolution of applications. Decisions could be driven by the energy consumption of the new version of a microservice or a set of microservices with the intent to replace a microservice by one that is less energy consuming. The candidate will consider recent works on dynamic software updating [Sokolowski et al., 2022, Wang et al., 2021, Wang, 2022]. A third objective is to demonstrate the applicability of the approach by building a pro- totype. The candidate will organise experimental validations, may be both in simulation en- vironments (e.g. SimGrid [Casanova et al., 2014]: https://simgrid.org/) and on experimental platforms (e.g. SLICES-FR: https://slices-ri.eu/). Evaluation will rely on open-source bench- mark suites built with microservices that are representative of large end-to-end services (e.g. DeathStarBench [Gan et al., 2019]: https://github.com/delimitrou/DeathStarBench).