Ordonnancement et assignation de tâches en ligne dans le contexte du calcul dans le edge

Online scheduling and task assignment for edge computing

• Auteur / Autrice : Mohamed Anisse Belhadj
• Direction : Henri-Pierre Charles
• Type : Projet de thèse
• Discipline(s) : Informatique
• Date : Inscription en doctorat le 23/10/2023
• Etablissement(s) : Université Grenoble Alpes
• Ecole(s) doctorale(s) : École doctorale mathématiques, sciences et technologies de l'information, informatique
• Partenaire(s) de recherche : Laboratoire : CEA Grenoble - LETI

Mots clés

Mots clés libres

Ordonnancement

Le calcul dans le edge

Assignation de tâches en ligne

Frugalité énergétique

Online scheduling

Task mapping

Edge computing

En

Résumé

Les applications traitant de grandes quantités de données et nécessitant des calculs longs et complexes, comme les jeux vidéo en ligne, les applications utilisant la géolocalisation ou le traitement d'images à partir d'un appareil photo mobile, ne peuvent pas utiliser les clusters de calcul dans le cloud car le temps de réponse peut être trop long. En revanche, au niveau du edge, des ressources de calcul distribuées et hétérogènes sont disponibles. L'utilisation efficace de ces ressources informatiques distribuées et hétérogènes dépend fortement de l'architecture des nœuds de calcul, de la capacité de leurs batteries, de la stratégie d'allocation des ressources et de l'algorithme d'ordonnancement des tâches. En fait, les architectures hétérogènes sont censées relever le défi de la réduction du coût énergétique du calcul haute performance en proposant un mélange de nœuds HPC et de nœuds à faible consommation. Cependant, cet aspect hétérogène des nœuds rend l'ordonnancement et la gestion de leurs ressources plus compliqués. Il est donc nécessaire de développer une technologie efficace d'ordonnancement et de gestion des ressources qui puisse orchestrer les nœuds hétérogènes et les ressources sous des contraintes de latence, tout en minimisant le coût énergétique du calcul. Il existe un effort de recherche important pour définir des méthodes d'ordonnancement et d'affectation de tâches sur de telles plates-formes de calcul dans différents contextes tels que la robotique, la fabrication, le edge computing, etc. Ces travaux ont considéré des environnements d'exécution dynamique ou statique. Un environnement est statique lorsque le système de tâches et de ressources est connu et fixé à l'avance. Il est dynamique lorsque les tâches arrivent de manière aléatoire et dynamique et/ou lorsque les ressources sont volatiles, par exemple lorsqu'une batterie est vide. Ces travaux ont cherché à minimiser plusieurs fonctions objectives telles que, la somme des retards dus à l'insertion de nouvelles tâches, la minimisation du nombre de défaillances du système. D'autres s'intéressent à l'équilibrage de la charge, ou à la maximisation d'un score de confiance associé aux ressources [Sun et al., 2019]. La plupart des travaux de l'état de l'art utilisent l'apprentissage par renforcement (plus spécifiquement, les algorithmes deep-Q learning). La principale limitation de cette approche est qu'elle est basée sur un codage de l'environnement d'exécution en termes d'états, car le nombre d'états augmente exponentiellement avec le nombre de nœuds de calcul et de tâches. Cela rend cette approche non applicable lorsque le nombre d'états est important. Cette thèse proposera une solution aux problèmes d'ordonnancement et d'affectation de tâches en ligne dans un environnement dynamique, en minimisant la consommation d'énergie, sous des contraintes de latence (la latence est l'intervalle de temps entre le moment où une tâche est déclenchée par un élément du bord et le moment où le résultat arrive sur ce même élément). Cette thèse proposera également une solution à cette limitation prédominante de l'approche d'apprentissage par renforcement provenant du très grand nombre d'états du système.

The times when applications required small input data and simple processing on local computers are gone. Nowadays, data-intensive applications take over in the form of online video games, geolocation-based services or complex image processing. These applications cannot be offloaded on computing clusters and parallel architectures in the cloud because the response time can be too long. Response time or latency is the time interval between the moment when IoT device sends the computing service request and the moment it receives the result. Whereas at the edge level, distributed and heterogeneous computing resources are available. Using efficiently these resources, enables to meet the data-intensive applications goals, in terms of latency and energy cost, while maintaining security, privacy and productivity. Efficient use of these distributed and heterogeneous computing resources depends strongly on the architecture of the resources, the capacity of their batteries (energy budget of each resource), the resource allocation strategy and the tasks scheduling algorithm. Actually, heterogeneous architectures are expected to tackle the challenge of reducing the energy cost of high performance computing by proposing a mix of HPC and low-power nodes. The targeted application domain is Industrial IoT, where large heterogeneity is encountered, with distributed sensors, computing resources, with hard latency constraints. The computing resource heterogeneity makes the tasks scheduling and resources mapping problems more complicated. Therefore, it is necessary to develop efficient tasks scheduling and resources mapping solutions for heterogeneous resources orchestration under latency constraints when, minimizing the energy cost of the computation. In the state of the art, the current solutions address usually different objectives and constraints but are not scalable, and does not address as a whole the energy efficiency of the I-IoT system. The thesis' outcome will be an online tasks scheduling and resources mapping solutions for dynamic environment on heterogeneous architecture, with energy efficiency as a primary objective. In such an environment, it is considered dynamic when the tasks are not defined in advance and can occur randomly or when resources are potentially volatile. Our scheduler goal is to minimize energy cost, when considering latency constraints. This thesis will implement an innovative and adaptive reinforcement learning approach to guide the scheduling and mapping solutions. This approach relies on a state-based codification of the environment. System states number increases exponentially according to the number of computational resources and tasks. This thesis will also propose a solution to the predominant limitation of reinforcement learning approach coming from the very large number of system states.