Apprentissage sur l'impact des politiques d'ordonnancement multi-objectifs pour les fonctions serverless dans le Edge-Cloud continuum

Investigating the Impacts of Multi-Object Scheduling Policies for Serverless Functions on the Edge-Cloud Continuum

• Auteur / Autrice : Anderson Andrei Da Silva
• Direction : Denis Trystram, Grégory Mounié, Yiannis Georgiou
• Type : Thèse de doctorat
• Discipline(s) : Informatique
• Date : Soutenance le 12/12/2023
• Etablissement(s) : Université Grenoble Alpes
• Ecole(s) doctorale(s) : École doctorale Mathématiques, sciences et technologies de l'information, informatique (Grenoble ; 1995-....)
• Partenaire(s) de recherche : Laboratoire : Laboratoire d'informatique de Grenoble (Isère, France ; 2007-....)
• Partenaire(s) de recherche : Equipe de recherche : Équipe-projet Mouvements de données pour le calcul haute performance (Montbonnot, Isère, France ; 2021-....)
• Partenaire(s) de recherche : CIFRE : Ryax Technologies
• Jury : Président / Présidente : Noël de Palma
• Jury : Examinateurs / Examinatrices : Marta Patiño-Martínez, Daniel de Angelis Cordeiro
• Jury : Rapporteurs / Rapporteuses : Loris Marchal, Krzysztof Rzadca

Mots clés

Mots clés contrôlés

Ordonnancement (informatique)

Données massives

Réseaux poste à poste (informatique)

Mots clés libres

Politiques d’ordonnancement

Serverless computing

Plateformes hétérogènes

Scheduling Policies

Serverless computing

Heterogeneous Platforms

Résumé

Le cloud est étendu vers le edge pour former un continuum informatique tout en gérant l’hétérogénéité des ressources. Le continuum edge-cloud comprend une architecture multicouche composée de clusters cloud, de clusters edge et de ressources edge. En parallèle, la technologie serverless a simplifié la manière de créer des applications cloud et d’utiliser les ressources, devenant une force motrice dans la consolidation du continuum avec le déploiement de petites fonctions à courte durée d’exécution. Il constitue une solution parfaite pour le continuum edge-cloud parce qu’il permet des des adaptations rapides à toute évolution vers le niveau edge tout en maintenant les empreintes des applications à un faible niveau. Cependant, le serverless apporte également de nouveaux défis, tels que la gestion de plateformes hétérogènes et d’applications qui traitent des données massives, ainsi que le déploiement d’environnements logiciels complexes. ainsi que le déploiement d’environnements logiciels complexes. Les politiques standard de gestion des clouds sont basées sur des algorithmes greedy qui ne gèrent pas efficacement l’hétérogénéité des plates-formes ni ne traitent des problèmes tels que les délais de cold start. Dans cette thèse, nous développons et évaluons de nouvelles politiques d’ordonnancement pour résoudre ces problèmes. Dans un premier moment, nous proposons un algorithme multi-objectif pour allouer des fonctions serverless dans le continuum tout en considérant l’hétérogénéité pour optimiser les transferts de données et le makespan. Comme base de référence, nous nous inspirons d’un algorithme greedy standard d’une plateforme largement utilisée, Kubernetes. Notre méthode est plus performante que la méthode de référence en termes de transferts de données, de délais et d’utilisation des ressources, et peut atteindre jusqu’à deux ordres de grandeur. Par conséquent, notre première contribution principale est l’étude et la compréhension du fait que les algorithmes greedy ne bénéficient pas du meilleur de l’hétérogénéité du continuum. Ces algorithmes ne fournissent pas la gestion requise par l’exécution des fonctions serverless, par le déploiement de leurs environnements, ni ne d’atteindre le meilleur temps d’exécution des fonctions. Dans un deuxième moment, nous proposons et évaluons une politique d’ordonnancement multi-objectifs qui optimise la consommation d’énergie, les transferts de données et le makespan. Cette politique a deux niveaux pour mieux s’adapter aux différentes couches du continuum. Nous comparons nos propositions à la même ligne de base, un algorithme greedy standard, et leurs performances sont meilleures que celles de l’algorithme de base, jusqu’à trois ordres de grandeur. Par conséquent, notre deuxième contribution principale est l’étude et la compréhension du fait que les algorithmes standard de type greedy ne gèrent pas correctement la consommation d’énergie dans le continuum edge-cloud. Nous proposons des algorithmes qui exploitent au mieux l’hétérogénéité du continuum pour réduire la consommation d’énergie pour différents types de fonctions serverless.

The cloud is extended towards the edge to form a computing continuum while managing resources' heterogeneity. The edge-cloud continuum has a multi-layer architecture comprising cloud clusters, edge clusters, and edge resources. It provides a platform with heterogeneous resources to better address the needs of modern applications, but it also introduces further complexity, particularly in resource management and scheduling. In parallel, serverless technology has simplified how to build cloud applications and use resources, becoming a driving force in consolidating the continuum by deploying small functions with short execution. It is a perfect fit for the edge-cloud continuum, allowing quick adaptations to any move toward the edge level while keeping the applications' footprints low. However, serverless also brings new challenges, such as managing heterogeneous platforms and applications that deal with massive data, as well as deploying complex software environments.Standard cloud scheduling policies are based on greedy algorithms that do not efficiently handle platforms' heterogeneity nor deal with problems such as cold start delays. This thesis addresses these issues by developing and evaluating new scheduling policies. In the first moment, we propose a multi-objective algorithm to allocate serverless functions in the continuum while considering heterogeneity to optimize data transfers and makespan. As a baseline, we were inspired by a standard greedy algorithm from a widely used platform, Kubernetes. Our approach outperforms the baseline regarding data transfers, makespan, and resource utilization by up to two orders of magnitude. Therefore, our first main contribution is the study and comprehension that standard greedy algorithms do not benefit from the best of the heterogeneity of the continuum. Greedy algorithms do not provide the management required by the execution of serverless functions, by the deployment of their environments, nor do they achieve the best function execution time. In a second moment, we propose and evaluate a multi-objective scheduling policy that optimizes energy consumption, data transfers, and makespan. This policy has two levels for better adapting to the different layers of the continuum. We compare our propositions to the same baseline, and they outperform the baseline by up to three orders of magnitude. Therefore, our second main contribution is the study and comprehension that standard greedy algorithms do not properly handle energy consumption in the edge-cloud continuum. We propose algorithms that exploit the best of the heterogeneity of the continuum to address the reduction of energy consumption for different types of serverless functions. All the data sources and data sets are available, and all the research produced in this thesis is entirely reproducible.