[論文レビュー] Fed-CPrompt: Contrastive Prompt for Rehearsal-Free Federated Continual Learning

Gaurav Bagwe, Xiaoyong Yuan+2 more|arXiv (Cornell University)|Jul 10, 2023

Geriatric Care and Nursing Homes被引用数 4

ひとこと要約

Fed-CPromptは、災難的忘却を軽減するためにプロンプト学習を用いた、通信効率的でリハーよりのないフェデレーテッド継続的学習フレームワークを提案する。非同期的プロンプト学習と対照的継続的損失（C2L）を導入することで、異種のデータと非同期的なタスク到着に対処し、最小限のパラメータ交換で、挑戦的なFL設定において最先端のパフォーマンスを達成する。

ABSTRACT

Federated continual learning (FCL) learns incremental tasks over time from confidential datasets distributed across clients. This paper focuses on rehearsal-free FCL, which has severe forgetting issues when learning new tasks due to the lack of access to historical task data. To address this issue, we propose Fed-CPrompt based on prompt learning techniques to obtain task-specific prompts in a communication-efficient way. Fed-CPrompt introduces two key components, asynchronous prompt learning, and contrastive continual loss, to handle asynchronous task arrival and heterogeneous data distributions in FCL, respectively. Extensive experiments demonstrate the effectiveness of Fed-CPrompt in achieving SOTA rehearsal-free FCL performance.

研究の動機と目的

• 履歴データを保存せずに、リハーよりのないフェデレーテッド継続的学習（FCL）における災難的忘却を解消すること。
• プロンプト学習を活用することで、FCLにおける通信非効率性とデータ非均質性を克服すること。
• 非同期的なタスク進行と非i.i.d.データ分布にもかかわらず、クライアント間およびタスク間での効果的な知識移転を可能にすること。
• フルモデル重みではなく、小さなプロンプトパラメータのみを交換する通信効率の高いフレームワークを設計すること。

提案手法

• タスクの非同期性を活用する非同期的プロンプト学習を導入し、新しいタスクが到着する度にクライアントが独立してプロンプトを更新できるようにする。
• 以前のタスクと現在のタスクの表現を一致させる対照的継続的損失（C2L）を採用し、タスク間の忘却を低減する。
• プレトレーニング済みビジョントランスフォーマーにタスク固有のプロンプトを統合するプレフィックスチューニングを用い、パラメータ効率の良い適応を実現する。
• サーバーにグローバルプロンプトプールを維持し、クライアント間のタスク固有プロンプトを調整・同期する。
• フルモデル重みではなく、トレーニング可能なプロンプトパラメータのみを交換することで通信効率を向上させ、帯域幅を最小限に抑える。
• 動的プロンプト割り当てを用いたクラスインクリメンタル学習をサポートし、進化するクライアントワークロードに適応する。

Figure 1: Overview of Fed-CPrompt. Left: overall system framework. A server maintains a pool of task-specific prompts to coordinate multiple clients for FCL. The clients may observe different tasks at the same time. Fed-CPrompt allows asynchronous prompt learning. Right: zoom in view of client $c$ ’

実験結果

リサーチクエスチョン

• RQ1 履歴データにアクセスできない状況下で、プロンプトベース手法がリハーよりのないフェデレーテッド継続的学習においてSOTAパフォーマンスを達成できるか？
• RQ2 非同期的なタスク進行はフェデレーテッド継続的学習におけるモデルパフォーマンスにどのように影響するか？また、それをより良い学習に活用できるか？
• RQ3 異種で非i.i.d.なFL環境において、対照的損失機構がタスク間の忘却を効果的に低減できるか？
• RQ4 プロンプトベースの知識移転は、非同期クライアント環境において収束速度と正確性をどの程度向上できるか？

主な発見

• Fed-CPromptは、リハーよりのないFCLにおいて最先端のパフォーマンスを達成し、履歴データなしのプロンプトベースおよび非プロンプトベースのベースラインをすべての指標で上回る。
• 災難的忘却が著しく低減されており、非i.i.d.データ設定下でCODA-Prompt、Dual Prompt、L2Pと比較して平均的な忘却率が低い。
• 非同期的プロンプト学習により、タスク間のプロンプト利用を通じて、近い将来のタスクからの知識を活用できるようになり、収束が加速し、正確性が向上する。
• 通信効率が向上し、1ラウンドあたりわずか100のプロンプトパラメータ（1タスクあたり10）を交換するだけで、帯域幅使用量を最小限に抑える。
• 非同期設定下では、新しいタスクに取り組むクライアントが進行中のタスクのプロンプト品質を向上させ、より速い収束とより良い初期化を実現する。
• C2L損失は、クライアント間で以前のタスクと現在のタスクの特徴表現を一致させることで、忘却を効果的に抑制する。

(a) Total Test Accuracy.