Une approche holistique pour la gestion de la mémoire

A holistic approach for memory management

• Auteur / Autrice : Jean Mahop ma ngos
• Direction : Fabienne Boyer, Alain Bouzaïde Tchana
• Type : Projet de thèse
• Discipline(s) : Informatique
• Date : Inscription en doctorat le 01/10/2024
• Etablissement(s) : Université Grenoble Alpes
• Ecole(s) doctorale(s) : École doctorale Mathématiques, sciences et technologies de l'information, informatique (Grenoble ; 1995-....)
• Partenaire(s) de recherche : Laboratoire : Laboratoire d'Informatique de Grenoble

Mots clés

Mots clés libres

Placement mémoire basé CPU

Hiérarchies mémoire

Gestion de la mémoire

Gpu

Rdma

Pmem

CPU-Memory based placement

Memory hierarchies

Memory Management

Gpu

Rdma

Pmem

Résumé

L'objectif de cette thèse est d'étudier la hiérarchisation mémoire dans sa globalité, en considérant la présence de plusieurs types de mémoire, ce qui permet d'exploiter les propriétés de chaque type de mémoire et de mieux répartir les rôles, améliorant ainsi les performances des applications. Nous pensons qu'un système de gestion de mémoire efficace doit combiner les caractéristiques de chaque type de mémoire. Par exemple, la mémoire d'une machine distante accessible via RDMA peut bénéficier du CPU de cette machine. La mémoire GPU peut également bénéficier des unités de calcul du GPU. Ces unités de calcul peuvent être exploitées par le CPU pour décharger les opérations vers la mémoire présente sur ces dispositifs de mémoire. Par exemple, la mémoire distante accessible via RDMA peut être compressée par le CPU de la machine distante et non par le CPU de la machine locale. Il en va de même pour le GPU. Ces unités de calcul peuvent être utilisées pour répartir l'exécution de l'algorithme de placement de pages mémoire sur des dispositifs de mémoire. Tous les travaux existants voient les dispositifs de mémoire sans CPU. Les questions que nous nous posons sont : (1) étant donné une page mémoire à un moment donné, quel est le meilleur support mémoire sur lequel la placer ? (2) Quelle partie du sous-système de gestion de la mémoire doit s'exécuter sur quel appareil ? Pour répondre à ces questions, nous suivrons une approche d'apprentissage automatique.

ML-based Holistic Memory Tierring The objective of this thesis is to study a new approach for memory tierring, by considering the presence of several types of memory associated with different characteristics and by seeking to distribute the data in these memories in such a way as to optimize the performance of applications. . We believe that an effective memory management system should combine and exploit the characteristics of several types of memory. Typically, the memory of a remote machine accessible via RDMA can benefit from that machine's CPU. GPU memory can also benefit from GPU compute units. These processing units can be used by the CPU to offload the operations to be executed to memories present on these devices. For example, remote memory accessed via RDMA may be compressed by the remote machine's CPU and not by the local machine's CPU. The same goes for the GPU. Overall, these computing units can be considered to distribute the placement of memory pages across different memory devices. Compared to current approcahes, no state-of-the-art solution has proposed a holistic solution that takes into account all the properties of each type of memory at the same time. The questions we ask are: (1) Given a memory page at a given time, what is the best memory medium on which to place it? (2) Which part of the memory management subsystem should run on which device? To answer these questions, we will follow a machine learning approach.