Hétérogénéité des Clients dans les Systèmes d'Apprentissage Fédérés

Client Heterogeneity in Federated Learning Systems

• Auteur / Autrice : Angelo Rodio
• Direction : Giovanni Neglia, Alain Jean-marie
• Type : Projet de thèse
• Discipline(s) : Informatique
• Date : Inscription en doctorat le 01/04/2021
• Etablissement(s) : Université Côte d'Azur
• Ecole(s) doctorale(s) : École doctorale Sciences et technologies de l'information et de la communication (Nice ; 1992-....)
• Partenaire(s) de recherche : Laboratoire : Ingénierie et Opérations des Réseaux

Mots clés

Mots clés libres

Apprentissage fédéré

Optimisation distribuée

Chaîne de Markov

Réduction de la variance

Federated learning

Distributed optimization

Markov chain

Variance reduction

Résumé

L'apprentissage fédéré (FL) est un cadre collaboratif où les clients (dispositifs mobiles) entraînent un modèle d'apprentissage machine sous la coordination d'un serveur central en préservant la décentralisation des données. L'hétérogénéité de la participation des clients provient de la diversité des capacités des appareils en termes de spécifications matérielles, de types de connectivité réseau et de disponibilité énergétique. Cette thèse se concentre sur l'analyse de l'impact de cette hétérogénéité sur la convergence des algorithmes d'apprentissage fédéré et propose des algorithmes pratiques pour une utilisation plus efficace des systèmes et des ressources. La première partie aborde les défis liés à la corrélation temporelle et spatiale dans la participation des clients. Nous montrons que la participation hétérogène peut biaiser l'apprentissage et formalisons ce biais-variance induit par cette hétérogénéité. Notre étude démontre que donner plus de poids aux clients qui participent fréquemment peut accélérer la convergence. De plus, nous examinons l'impact de la corrélation à travers un modèle de chaîne de Markov à états finis, révélant que la corrélation ralentit la convergence. Notre approche propose une optimisation de ce compromis biais-variance à travers l'algorithme Correlation-Aware Federated Learning (CA-Fed), qui favorise une convergence plus rapide. La deuxième partie traite des scénarios de communication défectueuse. Les conditions réseau, notamment les pertes de paquets, introduisent une hétérogénéité incontrôlable dans la participation des clients. Contrairement aux stratégies traditionnelles qui compensent les pertes de paquets, notre solution permet aux algorithmes d'apprentissage fédéré de fonctionner efficacement même dans des canaux asymétriques et défaillants en adaptant la transmission des mises à jour des modèles. Les tests montrent que notre algorithme atteint des performances comparables à celles obtenues dans des conditions idéales, sans pertes de paquets. Enfin, la troisième partie explore l'utilisation de méthodes de réduction de variance pour compenser l'hétérogénéité dans la participation des clients. Bien que des stratégies similaires aient été envisagées pour atténuer l'impact de la participation partielle des clients, notre analyse élargit ce cadre à une participation client hétérogène. Nous démontrons que la convergence est significativement influencée par les clients participant le moins, suggérant que les algorithmes existants ne sont pas optimisés pour de tels environnements. Notre méthode, FedStale, utilise efficacement les mises à jour obsolètes dans des contextes de participation hétérogène.

Federated Learning (FL) stands as a collaborative framework where clients (mobile devices) train a machine learning model under a central server's orchestration, preserving data decentralization. Client participation heterogeneity stems from varied device capabilities in hardware specifications (CPU power, memory capacity), network connectivity types (3G, 4G, 5G, WiFi), and power availability (battery levels), and it is generally beyond server control. This thesis focuses on providing a theoretical understanding of federated learning systems under heterogeneous client participation, specifically analyzing the impact of this heterogeneity on the convergence of federated learning algorithms, and proposing practical solutions for a more efficient system and resource usage. The first part of the thesis focuses on tackling challenges associated with temporal and spatial correlation in client participation, the former due to the correlated client participation dynamics over time, the latter due to the clients correlated geographic distributions. In this chapter, we first observe that the heterogeneous client participation can potentially bias the learning process. We formalize the bias-variance tradeoff induced by heterogeneous client participation by decomposing the optimization error into variance (related to convergence speed) and bias (indicative of model quality). By minimizing these two errors, we demonstrate that assigning larger aggregation weights to frequently participating clients can accelerate convergence. Moreover, we study the impact of temporal and spatial correlation in client participation through a finite-state Markov chain modeling. We show that correlation slows down convergence within a logarithmic factor related to the Markov chain's geometric mixing time. Minimizing the bias-variance tradeoff, we also find that lower aggregation weights for highly correlated clients accelerate convergence. We finally propose an algorithm, Correlation-Aware Federated Learning (CA-Fed), to optimize the bias-variance tradeoff and thus achieve faster convergence. The second part of the thesis consider more applied scenarios of lossy communication channels. Network conditions, particularly packet losses, represent a main, uncontrollable source of heterogeneity in client participation. In this chapter, challenging the conventional mitigation strategies for packet losses such as retransmission or error correction, we show that federated learning algorithms can still learn in asymmetric, lossy channels. Our proposed solution modifies traditional federated learning approaches by transmitting model updates in place of models and correcting the averaging step to account for the heterogeneity of the communication channels. Experimental results confirm that our algorithm, under lossy channels, matches the performance in ideal, lossless conditions within a limited number of communication rounds. The third part investigates leveraging variance reduction methods, specifically stale updates, to compensate for the heterogeneity in client participation. Recent research considered similar strategies to mitigate the effects of partial client participation in federated learning. These methods involve retaining the last computed, potentially stale, update for each client to replace unavailable current updates for non-participating clients. However, existing analyses rely on the assumption of uniform client participation — restrictive in real-world scenarios. By broadening the analysis to heterogeneous client participation, we discover that convergence is significantly influenced by the least participating clients. This suggests that existing algorithms are not optimally designed for such environments, and we propose a more robust approach, FedStale, to exploit stale model updates under heterogeneous client participation.