[论文解读] PRIOR: Personalized Prior for Reactivating the Information Overlooked in Federated Learning

Mingjia Shi, Zhou Yuhao+5 more|arXiv (Cornell University)|Oct 13, 2023

Privacy-Preserving Technologies in Data被引用 5

一句话总结

该论文提出 pFedBreD，一种新颖的个性化联邦学习框架，通过使用 Bregman 散度正则化和松弛镜像下降（RMD）将个性化先验知识注入全局模型，以解决数据异构性导致的信息丢失问题。该方法在 DNN-FEMNIST 等基准测试中实现了最先进性能，准确率最高提升 3.5%，并具备理论收敛保证，且在非凸和低聚合设置下具有鲁棒性。

ABSTRACT

Classical federated learning (FL) enables training machine learning models without sharing data for privacy preservation, but heterogeneous data characteristic degrades the performance of the localized model. Personalized FL (PFL) addresses this by synthesizing personalized models from a global model via training on local data. Such a global model may overlook the specific information that the clients have been sampled. In this paper, we propose a novel scheme to inject personalized prior knowledge into the global model in each client, which attempts to mitigate the introduced incomplete information problem in PFL. At the heart of our proposed approach is a framework, the PFL with Bregman Divergence (pFedBreD), decoupling the personalized prior from the local objective function regularized by Bregman divergence for greater adaptability in personalized scenarios. We also relax the mirror descent (RMD) to extract the prior explicitly to provide optional strategies. Additionally, our pFedBreD is backed up by a convergence analysis. Sufficient experiments demonstrate that our method reaches the state-of-the-art performances on 5 datasets and outperforms other methods by up to 3.5% across 8 benchmarks. Extensive analyses verify the robustness and necessity of proposed designs.

研究动机与目标

• 为解决个性化联邦学习（PFL）中被忽视的客户端特定采样信息问题，即单一全局模型无法保留独特的客户端数据特征。
• 显式提取并注入个性化先验知识到全局模型中，以提升本地模型的适应性和性能。
• 构建一个理论基础坚实的框架，确保在数据异构性和非凸目标下的收敛性和鲁棒性。
• 克服现有 PFL 方法的局限性，这些方法依赖隐式假设或直接微调全局模型而未注入先验知识。
• 提供一种灵活、可适应的个性化学习框架，支持凸和非凸优化设置。

提出的方法

• 提出 pFedBreD 框架，通过 Bregman 散度正则化将个性化先验与本地目标解耦，提升异构环境下的适应性。
• 引入松弛镜像下降（RMD），显式从本地模型中提取先验知识，支持可解释且可定制的个性化策略。
• 将 PFL 问题建模为贝叶斯优化任务：使用全局最大似然估计（Global-MLE）进行全局模型学习，使用本地最大后验估计（Local-MAP）进行本地个性化。
• 利用 Bregman 散度对本地目标函数进行正则化，确保稳定且自适应的更新，以保留客户端特定信息。
• 采用两阶段训练流程：首先将个性化先验注入全局模型，然后提取并聚合本地知识以优化全局模型。
• 提供理论收敛性分析，显示在聚合噪声下具有线性界 O(1/TN)，在无噪声情况下具有二次加速 O(1/(TNR)^2)。

实验结果

研究问题

• RQ1 能否通过显式将个性化先验知识注入全局模型，缓解联邦学习中因数据异构性导致的信息丢失？
• RQ2 如何显式提取并利用客户端数据中的先验知识，以改善本地模型的个性化？
• RQ3 在非凸和异构数据设置下，所提出的 pFedBreD 框架是否优于现有 PFL 方法，实现更好的收敛性和性能？
• RQ4 pFedBreD 的理论收敛行为如何？其在聚合噪声和客户端异构性下的可扩展性如何？
• RQ5 结合 Bregman 散度和 RMD 的混合策略在不同基准和数据分布下是否具有互补性且鲁棒？

主要发现

• pFedBreD 在 5 个真实世界数据集的 8 个基准测试中均达到最先进性能，准确率最高提升 3.5%，尤其在 DNN-FEMNIST 上表现突出。
• 该方法对数据异构性具有鲁棒性，尤其在低聚合比率场景下，性能提升最为显著。
• 消融实验表明，结合 Bregman 散度和 RMD 的混合策略具有互补性，各组件对性能均有显著贡献。
• 理论分析证实，在聚合噪声下收敛界为线性 O(1/TN)，在无噪声设置下实现二次加速 O(1/(TNR)^2)。
• 实证验证了先验注入与提取的存在性和有效性，表明个性化先验显著提升了模型的泛化能力和适应性。
• 该框架在凸和非凸本地目标函数下均保持优异性能，证实其广泛适用性。