[论文解读] Federated Continual Learning with Adaptive Parameter Communication.

Jaehong Yoon, Wonyong Jeong+3 more|arXiv (Cornell University)|Jan 1, 2020

Domain Adaptation and Few-Shot Learning参考文献 14被引用 17

一句话总结

该论文提出联邦持续学习自适应参数通信（APC）框架，将神经网络权重分解为全局共享参数与稀疏任务特定参数，以减少干扰并实现客户端间高效的知识迁移。与现有联邦学习和持续学习方法相比，APC在显著降低通信开销的同时实现了更优的性能。

ABSTRACT

There has been a surge of interest in continual learning and federated learning, both of which are important in training deep neural networks in real-world scenarios. Yet little research has been done regarding the scenario where each client learns on a sequence of tasks from private local data. This problem of federated continual learning poses new challenges to continual learning, such as utilizing knowledge and preventing interference from tasks learned on other clients. To resolve these issues, we propose a novel federated continual learning framework, Federated continual learning with Adaptive Parameter Communication, which additively decomposes the network weights into global shared parameters and sparse task-specific parameters. This decomposition allows to minimize interference between incompatible tasks, and also allows inter-client knowledge transfer by communicating the sparse task-specific parameters. Our federated continual learning framework is also communication-efficient, due to high sparsity of the parameters and sparse parameter update. We validate APC against existing federated learning and local continual learning methods under varying degrees of task similarity across clients, and show that our model significantly outperforms them with a large reduction in the communication cost.

研究动机与目标

• 解决联邦持续学习中的挑战，即客户端从私有数据中顺序学习，必须避免不兼容任务之间的干扰。
• 在最小化不同客户端学习任务之间干扰的同时，实现有效的客户端间知识迁移。
• 设计一种适用于带宽受限现实环境部署的通信高效框架。
• 在持续学习过程中以最少的参数交换实现客户端间知识保留的平衡。

提出的方法

• 将网络权重分解为全局共享参数与稀疏任务特定参数，以隔离任务不兼容的知识。
• 仅在客户端之间通信稀疏任务特定参数，以实现低通信开销的知识迁移。
• 采用加法分解，使全局参数在不发生灾难性遗忘的情况下实现增量学习。
• 应用自适应通信策略，优先传输高影响力、稀疏的任务特定更新。
• 维护一个通过类似FedAvg聚合方式更新的共享全局模型，同时每个客户端保持其自身的稀疏任务特定参数。
• 利用稀疏性减少模型更新的大小，从而在联邦设置中提升通信效率。

实验结果

研究问题

• RQ1 联邦持续学习框架能否有效减少客户端间不兼容任务之间的干扰？
• RQ2 仅通过稀疏任务特定参数，知识在客户端间的迁移程度如何？
• RQ3 与标准联邦学习和本地持续学习相比，所提方法在准确率和通信开销方面表现如何？
• RQ4 任务特定参数的稀疏性是否在不牺牲性能的前提下显著降低通信开销？

主要发现

• 在客户端间任务相似度各异的情况下，APC显著优于现有联邦学习和本地持续学习方法。
• 由于任务特定参数及其更新具有高度稀疏性，通信开销大幅降低。
• 通过通信稀疏任务特定参数，有效实现了知识迁移，提升了后续任务的性能。
• 将模型分解为全局参数与稀疏任务特定参数，最小化了不兼容任务之间的干扰。
• 即使客户端数据分布不同，模型在连续任务上仍保持强劲性能。
• 通信效率得到提升，且未牺牲模型准确率，使APC适用于带宽受限的环境。