[论文解读] FedL2P: Federated Learning to Personalize

Royson Lee, Minyoung Kim+5 more|arXiv (Cornell University)|Oct 3, 2023

Privacy-Preserving Technologies in Data被引用 4

一句话总结

FedL2P 提出了一种联邦元学习框架，通过训练元网络来根据本地数据统计自适应地调整批量归一化统计量和逐层学习率，从而自动学习客户端特定的个性化策略。该方法通过基于联邦学习的元学习实现每客户端、场景感知的个性化，相较于手工设计的基线方法，在标签分布偏移和特征分布偏移下均提升了性能。

ABSTRACT

Federated learning (FL) research has made progress in developing algorithms for distributed learning of global models, as well as algorithms for local personalization of those common models to the specifics of each client's local data distribution. However, different FL problems may require different personalization strategies, and it may not even be possible to define an effective one-size-fits-all personalization strategy for all clients: depending on how similar each client's optimal predictor is to that of the global model, different personalization strategies may be preferred. In this paper, we consider the federated meta-learning problem of learning personalization strategies. Specifically, we consider meta-nets that induce the batch-norm and learning rate parameters for each client given local data statistics. By learning these meta-nets through FL, we allow the whole FL network to collaborate in learning a customized personalization strategy for each client. Empirical results show that this framework improves on a range of standard hand-crafted personalization baselines in both label and feature shift situations.

研究动机与目标

• 解决在多样化数据异质性下，联邦学习中‘一刀切’个性化策略的局限性。
• 克服现有个性化联邦学习方法在可扩展性和客户端特异性方面的问题，这些方法依赖于固定或手动调优的超参数。
• 在无需事先了解客户端数据分布的前提下，实现客户端间个性化超参数的协作学习。
• 通过元学习学习其最优应用条件，推广现有个性化技术（如 FedBN 和选择性微调）。
• 通过动态、数据自适应的个性化策略，在标签偏移和特征偏移场景下提升性能。

提出的方法

• 训练元网络（BNNet 和 LRNet），将客户端特定的本地数据统计映射为批量归一化和学习率的个性化超参数。
• 使用联邦元学习联合优化这些元网络，实现客户端间有效个性化策略的协作发现。
• 采用超梯度元学习方法，无需完整微调或手动调优即可估计客户端特定的超参数。
• 集成 BNNet 以动态平衡客户端和全局批量归一化统计量，减轻分布偏移的影响。
• 使用 LRNet 基于客户端数据特征推断逐层学习率，实现每层自适应的微调深度。
• 应用谱聚类评估学习到的超参数聚类与真实数据领域之间的对齐程度，验证方法捕捉客户端特异性模式的能力。

实验结果

研究问题

• RQ1 统一的联邦元学习框架能否学习到适应客户端特定数据分布和全局联邦学习动态的个性化超参数？
• RQ2 FedL2P 的客户端特定个性化策略在标签偏移和特征偏移下与手工设计基线相比表现如何？
• RQ3 元网络在多大程度上能捕捉数据分布中的客户端特异性异质性，如边缘分布和条件分布的偏移？
• RQ4 通过协作联邦学习学习个性化超参数，是否能提升在多样化数据集和客户端类型上的泛化能力和性能？
• RQ5 FedL2P 能否通过数据驱动的自适应方法发现并泛化已知的个性化启发式方法（如 FedBN、选择性微调）作为特例？

主要发现

• FedL2P 在标签偏移和特征偏移场景下均优于标准的手工设计个性化基线，且在多样化数据集上表现出一致的性能提升。
• 在 Office-Caltech-10 数据集上，客户端超参数实现了完美的聚类（ARI = 1），表明与真实数据领域高度对齐。
• 在 DomainNet 数据集上，BNNet 和 LRNet 均保持了超参数中具有意义的聚类结构，距离图中的非对角块显示与真实领域对齐，尽管存在部分领域重叠。
• 消融实验表明，仅使用 LRNet 即可在某些基准上超越 BNNet 和 LRNet 联合使用的表现，凸显自适应学习率调度的重要性。
• FedL2P 将 FedBN 和选择性微调等现有方法作为特例进行泛化，根据客户端特定的数据统计学习何时何地应用这些方法。