[논문 리뷰] Tackling Dynamics in Federated Incremental Learning with Variational Embedding Rehearsal

Tae Jin Park, Kenichi Kumatani외 1명|arXiv (Cornell University)|2021. 10. 19.

Privacy-Preserving Technologies in Data참고 문헌 22인용 수 8

한 줄 요약

이 논문은 동적 피드버그 학습 환경에서 기업 데이터의 기밀성을 유지하면서 치명적인 잊음 문제를 완화하는 새로운 프레임워크인 변동형 임베딩 재연기반 연속 학습(Federated Incremental Learning with Variational Embedding Rehearsal, FIL-VER)을 제안한다. 클라이언트가 학습한 임베딩을 서버에서 재연함으로써 클라이언트 참여 변화를 동적으로 처리함으로써, FIL-VER는 도메인 연속 학습 시나리오에서 오프라인 학습과 동등한 성능을 달성한다.

ABSTRACT

Federated Learning is a fast growing area of ML where the training datasets are extremely distributed, all while dynamically changing over time. Models need to be trained on clients' devices without any guarantees for either homogeneity or stationarity of the local private data. The need for continual training has also risen, due to the ever-increasing production of in-task data. However, pursuing both directions at the same time is challenging, since client data privacy is a major constraint, especially for rehearsal methods. Herein, we propose a novel algorithm to address the incremental learning process in an FL scenario, based on realistic client enrollment scenarios where clients can drop in or out dynamically. We first propose using deep Variational Embeddings that secure the privacy of the client data. Second, we propose a server-side training method that enables a model to rehearse the previously learnt knowledge. Finally, we investigate the performance of federated incremental learning in dynamic client enrollment scenarios. The proposed method shows parity with offline training on domain-incremental learning, addressing challenges in both the dynamic enrollment of clients and the domain shifting of client data.

연구 동기 및 목표

• 비정상적이고 비독립적 동일 분포(non-stationary, non-i.i.d.) 데이터 분포와 동적으로 변화하는 클라이언트 참여 조건 하에서 치명적인 잊음을 해결하기 위해.
• 재연을 위해 원시 데이터 대신 변동형 임베딩을 사용함으로써 클라이언트 데이터 기밀성을 유지하기 위해.
• 클라이언트가 제공한 임베딩을 사용하여 서버에서의 학습(SST)을 통해 효과적인 지식 유지 기능을 제공하기 위해.
• 클라이언트 참여 동적 변화, 즉 증가, 감소, 산발적인 참여와 같은 다양한 상황에서 방법의 견고성을 평가하기 위해.
• 개인정보 보호 및 데이터 분포 제약 조건 하에서도 오프라인 학습과 동등한 성능을 달성함을 입증하기 위해.

제안 방법

• 방법은 클라이언트 데이터에서 잠재 표현을 학습하기 위해 변동형 임베딩 인코더(VEE)를 사용하며, 임베딩을 원시 입력에서 분리시켜 기밀성을 확보한다.
• 클라이언트 측 모델은 현지 데이터에서 학습하고 변동형 임베딩을 생성하며, 이는 샘플링되어 서버로 전송되어 재연에 사용된다.
• 새로운 서버 측 학습(SST) 메커니즘은 원시 클라이언트 데이터에 접근하지 않고도 클라이언트가 제공한 임베딩을 서버에서 재연함으로써 잊음 방지를 위해 설계된다.
• 프레임워크는 피드버그 학습과 함께 임베딩 재연을 통합하여, 이전 작업의 성능을 유지하면서 새로운 데이터 스트림에 지속적으로 적응할 수 있도록 한다.
• 이 접근법은 안정적, 감소, 증가, 산발적 클라이언트 참여의 네 가지 동적 클라이언트 참여 시나리오에서 평가된다.
• 전송 중에 임베딩에 노이즈를 추가하여 원래 데이터의 복원을 더욱 어렵게 하여 기밀성 보장을 강화한다.

실험 결과

연구 질문

• RQ1 클라이언트가 동적으로 참여하고 퇴출되는 상황에서 피드버그 연속 학습에서 치명적인 잊음을 어떻게 완화할 수 있는가?
• RQ2 변동형 임베딩이 피드버그 학습에서 효과적인 지식 재연을 가능하게 하면서도 개인정보 보호를 효과적으로 유지할 수 있는가?
• RQ3 클라이언트 전용 재연 대비 클라이언트가 제공한 임베딩을 사용한 서버 측 학습이 모델 성능에 얼마나 기여하는가?
• RQ4 감소하거나 산발적인 클라이언트 참여와 같은 다양한 클라이언트 참여 동적 조건에서 시스템의 성능은 어떠한가?
• RQ5 제안된 방법이 도메인 연속 학습 환경에서 오프라인 학습과 동등한 성능을 달성하는가?

주요 결과

• 제안된 FIL-VER 프레임워크는 동적 클라이언트 참여 조건 하에서도 도메인 연속 학습에서 오프라인 학습과 동등한 성능을 달성한다.
• 서버 측 학습(SST)은 특히 산발적이거나 감소하는 클라이언트 기반과 같은 참여가 제한된 상황에서 정확도를 크게 향상시킨다.
• 단 한 명의 클라이언트만 각 작업에 참여하더라도 모든 작업에서 높은 검증 정확도를 유지하여 희박한 데이터에 대한 강건성을 입증한다.
• VER 기반 방법(변동형 임베딩 사용)은 뛰어난 성능과 기밀성 보장을 보이며, 원시 임베딩을 전송하는 기준 방법보다 뛰어난 성능을 보인다.
• 모든 시나리오에서 평균 정확도는 안정적이고 경쟁력 있으며, 동적 클라이언트 역학 조건에도 불구하고 성능 저하가 심각하게 발생하지 않는다.
• 프레임워크는 특히 클라이언트 수 감소와 같은 도전적인 조건에서 치명적인 잊음을 효과적으로 완화하며, SST 덕분에 성능 저하가 최소화된다.