[논문 리뷰] Fed-CPrompt: Contrastive Prompt for Rehearsal-Free Federated Continual Learning

Gaurav Bagwe, Xiaoyong Yuan외 2명|arXiv (Cornell University)|2023. 07. 10.

Geriatric Care and Nursing Homes인용 수 4

한 줄 요약

Fed-CPrompt는 재훈련이 필요 없는 통신 효율적인 피드백 지속 학습 프레임워크를 제안하며, 프롬프트 학습을 통해 치명적인 잊음 문제를 완화합니다. 이는 이질적인 데이터와 비동기적 작업 도착을 처리하기 위해 비동기적 프롬프트 학습과 연속 지속 손실(C2L)을 도입하여, 최소한의 파rameter 교환으로 어려운 피드백 지속 학습 환경에서 최신 기술 수준의 성능을 달성합니다.

ABSTRACT

Federated continual learning (FCL) learns incremental tasks over time from confidential datasets distributed across clients. This paper focuses on rehearsal-free FCL, which has severe forgetting issues when learning new tasks due to the lack of access to historical task data. To address this issue, we propose Fed-CPrompt based on prompt learning techniques to obtain task-specific prompts in a communication-efficient way. Fed-CPrompt introduces two key components, asynchronous prompt learning, and contrastive continual loss, to handle asynchronous task arrival and heterogeneous data distributions in FCL, respectively. Extensive experiments demonstrate the effectiveness of Fed-CPrompt in achieving SOTA rehearsal-free FCL performance.

연구 동기 및 목표

• 이력 데이터를 저장하지 않고도 재훈련이 없는 피드백 지속 학습(FCL)에서 치명적인 잊음을 해결한다.
• 프롬프트 학습을 활용하여 FCL에서의 통신 비효율성과 데이터 이질성 문제를 해결한다.
• 비동기적 작업 진행과 비.iid 데이터 분포에도 불구하고 클라이언트 간 및 작업 간 효과적인 지식 전이를 가능하게 한다.
• 모델 전체 가중치가 아닌 작은 프롬프트 파라미터만 교환하는 통신 효율적인 프레임워크를 설계한다.

제안 방법

• 신규 작업이 도착할 때마다 클라이언트가 독립적으로 프롬프트를 업데이트할 수 있도록 비동기적 프롬프트 학습을 도입하여 작업의 비동기성을 활용한다.
• 이전 작업과 현재 작업의 표현을 정렬하는 대비 지속 손실(C2L)을 사용하여 작업 간 잊음 감소를 도모한다.
• 사전 훈련된 비전 트랜스포머에 작업별 프롬프트를 통합하기 위해 프리픽스 튜닝을 활용하여 파라미터 효율적인 적응을 가능하게 한다.
• 서버에 전역 프롬프트 풀을 유지하여 클라이언트 간 작업별 프롬프트를 조율하고 동기화한다.
• 모델 전체 가중치가 아닌 훈련 가능한 프롬프트 파라미터만 교환하여 통신 효율성을 높이고 대역폭 사용을 최소화한다.
• 동적 프롬프트 할당 방식을 통해 클래스 증분 학습을 지원하며, 변화하는 클라이언트 워크로드에 적응한다.

Figure 1: Overview of Fed-CPrompt. Left: overall system framework. A server maintains a pool of task-specific prompts to coordinate multiple clients for FCL. The clients may observe different tasks at the same time. Fed-CPrompt allows asynchronous prompt learning. Right: zoom in view of client $c$ ’

실험 결과

연구 질문

• RQ1 히스토리 데이터에 접근할 수 없는 조건에서 프롬프트 기반 방법이 재훈련이 없는 피드백 지속 학습에서 최신 기술 수준의 성능을 달성할 수 있는가?
• RQ2 비동기적 작업 진행이 피드백 지속 학습에서 모델 성능에 미치는 영향은 무엇이며, 이를 더 나은 학습을 위해 활용할 수 있는가?
• RQ3 이질적이고 비.iid인 피드백 지속 학습 환경에서 대비 손실 메커니즘이 작업 간 잊음을 효과적으로 줄일 수 있는가?
• RQ4 프롬프트 기반 지식 전이가 비동기 클라이언트 환경에서 수렴 속도와 정확도 향상에 어느 정도 기여하는가?

주요 결과

• Fed-CPrompt는 재훈련이 없는 FCL에서 최신 기술 수준의 성능을 달성하여, 프롬프트 기반 및 비-프롬프트 기반 기준선을 모두 초월한 정확도 및 잊음 지표를 확보했다.
• 비.iid 데이터 설정 하에서 CODA-Prompt, Dual Prompt, L2P와 비교해 평균 잊음 비율이 유의미하게 낮아 치명적인 잊음이 크게 감소함을 입증했다.
• 비동기적 프롬프트 학습은 작업 간 프롬프트 활용을 통해 향후 작업의 지식을 클라이언트가 활용할 수 있도록 하여 수렴 속도 향상과 정확도 향상을 이끌어냈다.
• 통신 효율성이 향상되어 라운드당 교환되는 프롬프트 파라미터 크기가 작아(총 100개, 10개/작업) 대역폭 사용이 최소화되었다.
• 비동기 설정에서 신규 작업을 수행하는 클라이언트가 진행 중인 작업의 프롬프트 품질을 향상시켜 더 빠른 수렴과 더 나은 초기화를 이끌어냈다.
• C2L 손실은 클라이언트 간 이전 작업과 현재 작업의 표현 간 특징 정렬을 장려함으로써 잊음 효과적으로 완화했다.

(a) Total Test Accuracy.