[论文解读] Fed-CPrompt: Contrastive Prompt for Rehearsal-Free Federated Continual Learning

Gaurav Bagwe, Xiaoyong Yuan+2 more|arXiv (Cornell University)|Jul 10, 2023

Geriatric Care and Nursing Homes被引用 4

一句话总结

Fed-CPrompt 提出了一种通信高效、无需回放的联邦持续学习框架，利用提示学习缓解灾难性遗忘。它引入了异步提示学习和对比持续损失（C2L），以应对异构数据和异步任务到达的问题，在通信成本极低的复杂联邦学习设置下实现了最先进性能。

ABSTRACT

Federated continual learning (FCL) learns incremental tasks over time from confidential datasets distributed across clients. This paper focuses on rehearsal-free FCL, which has severe forgetting issues when learning new tasks due to the lack of access to historical task data. To address this issue, we propose Fed-CPrompt based on prompt learning techniques to obtain task-specific prompts in a communication-efficient way. Fed-CPrompt introduces two key components, asynchronous prompt learning, and contrastive continual loss, to handle asynchronous task arrival and heterogeneous data distributions in FCL, respectively. Extensive experiments demonstrate the effectiveness of Fed-CPrompt in achieving SOTA rehearsal-free FCL performance.

研究动机与目标

• 在不存储历史数据的前提下，解决无需回放的联邦持续学习（FCL）中的灾难性遗忘问题。
• 通过利用提示学习，克服联邦持续学习中的通信低效和数据异构性问题。
• 在异步任务进展和非独立同分布（non-iid）数据分布的条件下，实现客户端与任务之间的有效知识迁移。
• 设计一种通信高效的框架，仅交换小型提示参数，而非完整的模型权重。

提出的方法

• 引入异步提示学习以利用任务的异步性，使客户端在新任务到达时可独立更新提示。
• 采用对比持续损失（C2L），对齐先前任务和当前任务的表示，减少任务间遗忘。
• 使用前缀调优（prefix-tuning）将特定于任务的提示注入预训练视觉Transformer，实现参数高效的适应。
• 在服务器上维护一个全局提示池，以协调和同步各客户端之间的特定于任务的提示。
• 通过仅交换可训练的提示参数（而非完整模型权重）实现通信效率，降低带宽使用。
• 支持类别增量学习，按任务动态分配提示，适应不断变化的客户端工作负载。

Figure 1: Overview of Fed-CPrompt. Left: overall system framework. A server maintains a pool of task-specific prompts to coordinate multiple clients for FCL. The clients may observe different tasks at the same time. Fed-CPrompt allows asynchronous prompt learning. Right: zoom in view of client $c$ ’

实验结果

研究问题

• RQ1 基于提示的方法是否能在无法访问历史数据的情况下，在无需回放的联邦持续学习中实现最先进性能？
• RQ2 异步任务进展如何影响联邦持续学习中的模型性能？是否可被用于实现更优学习？
• RQ3 对比损失机制是否能有效减少在异构、非独立同分布联邦学习环境中的任务间遗忘？
• RQ4 基于提示的知识迁移在异步客户端环境中在多大程度上提升了收敛速度和准确率？

主要发现

• Fed-CPrompt 在无需回放的FCL中实现了最先进性能，在准确率和遗忘度量上均优于基于提示和非基于提示的基线方法。
• 该模型显著降低了灾难性遗忘，在非独立同分布数据设置下，平均遗忘率低于CODA-Prompt、Dual Prompt和L2P。
• 异步提示学习通过跨任务提示利用，使客户端能够借助未来任务的知识，加速收敛并提升准确率。
• 通信效率得到增强，每轮仅交换小尺寸的提示参数（共100个，每任务10个），显著减少带宽使用。
• 在异步设置下，处于新任务的客户端通过提升正在进行任务的提示质量，实现了更快收敛和更优初始化。
• C2L损失通过鼓励客户端间先前任务和当前任务表示的特征对齐，有效缓解了遗忘。

(a) Total Test Accuracy.