[论文解读] Disentangled Federated Learning for Tackling Attributes Skew via Invariant Aggregation and Diversity Transferring

Zhengquan Luo, Yunlong Wang+3 more|arXiv (Cornell University)|Jun 14, 2022

Privacy-Preserving Technologies in Data被引用 9

一句话总结

本文提出了一种新型联邦学习框架——解耦联邦学习（DFL），该框架将领域特定（非因果）与不变（因果）特征分离为两个分支，通过不变聚合实现稳定的全局模型更新，并通过多样性迁移保留与任务相关的局部表征。与当前最先进（SOTA）的联邦学习方法相比，DFL在收敛速度、准确率和属性偏移下的鲁棒性方面表现更优。

ABSTRACT

Attributes skew hinders the current federated learning (FL) frameworks from consistent optimization directions among the clients, which inevitably leads to performance reduction and unstable convergence. The core problems lie in that: 1) Domain-specific attributes, which are non-causal and only locally valid, are indeliberately mixed into global aggregation. 2) The one-stage optimizations of entangled attributes cannot simultaneously satisfy two conflicting objectives, i.e., generalization and personalization. To cope with these, we proposed disentangled federated learning (DFL) to disentangle the domain-specific and cross-invariant attributes into two complementary branches, which are trained by the proposed alternating local-global optimization independently. Importantly, convergence analysis proves that the FL system can be stably converged even if incomplete client models participate in the global aggregation, which greatly expands the application scope of FL. Extensive experiments verify that DFL facilitates FL with higher performance, better interpretability, and faster convergence rate, compared with SOTA FL methods on both manually synthesized and realistic attributes skew datasets.

研究动机与目标

• 解决因属性偏移导致的性能下降与不稳定收敛问题，即非因果、领域特定的属性被意外聚合。
• 克服单分支客户端模型的局限性，该模型将不变与特定属性纠缠在一起，导致优化方向冲突。
• 即使部分客户端模型不完整参与聚合，也能实现稳定的全局收敛，从而扩展联邦学习的实际适用性。
• 通过互信息约束解耦因果（不变）与非因果（特定）属性，提升模型泛化能力与个性化水平。
• 通过双分支优化框架，在不损害全局模型稳定性的情况下，增强局部表征多样性与决策鲁棒性。

提出的方法

• 将客户端表征解耦为两个互补分支：一个用于全局聚合的领域不变分支，一个用于本地优化的领域特定分支。
• 通过最大化本地不变特征与全局模型之间的互信息（MI），对齐优化方向并强制实现不变性。
• 通过最小化互信息来在本地解耦不变与特定属性，确保领域特定特征不会污染全局聚合。
• 通过仅使用本地不变分支进行全局模型更新，实现不变聚合，从而减少非因果属性带来的负面迁移。
• 通过结合本地不变分支与迁移的特定特征提取器，引入多样性迁移，以丰富局部表征并提升泛化能力。
• 采用交替的本地-全局优化策略：分步训练两个分支，以避免目标冲突，确保稳定收敛。

实验结果

研究问题

• RQ1 在联邦学习中解耦不变与领域特定属性，能否减少由属性偏移引起的负面迁移？
• RQ2 仅使用不变分支进行不变聚合，是否相比标准联邦学习能带来更稳定、更优的全局模型更新？
• RQ3 多样性迁移能否在不损害全局收敛性或增加通信成本的前提下，提升局部表征质量？
• RQ4 与SOTA联邦学习方法相比，该方法在不同客户端参与率和通信轮次下的表现如何？
• RQ5 该解耦框架在真实世界属性偏移数据集上，能在多大程度上提升模型可解释性与鲁棒性？

主要发现

• DFL表现出更快且更稳定的收敛，表现为交叉熵损失曲线更低且波动更小，优于SOTA联邦学习方法。
• 在Office-Caltech10和DomainNet数据集上，DFL相比基线模型将平均准确率提升了近3%，在真实属性偏移场景下展现出显著性能提升。
• 消融实验表明，不变聚合与多样性迁移具有互补性：移除任一机制均导致性能下降，且单阶段优化会发散。
• 理论收敛性分析证明，即使在客户端参与不完整的情况下，DFL仍能保持高性能，验证了其鲁棒性。
• 通过Grad-CAM可视化证实，不变分支聚焦于因果性、对象级特征（如鸟类形状），而特定分支则关注领域依赖属性（如天空、树木）。
• 当本地特定训练轮次经过优化（如10轮）时，收敛所需的通信轮次更少，表明在不牺牲准确率的前提下显著降低了通信成本。