[논문 리뷰] Federated Meta-Learning with Fast Convergence and Efficient Communication

Fei Chen, Mi Luo외 3명|arXiv (Cornell University)|2018. 02. 22.

Privacy-Preserving Technologies in Data참고 문헌 36인용 수 277

한 줄 요약

FedMeta는 연합 메타 학습(MAML/Meta-SGD)을 통해 매개변수화된 학습 알고리즘을 학습시켜 빠른 적응, 통신 비용 감소, FedAvg보다 높은 정확도를 달성하며 클라이언트의 프라이버시를 보장합니다.

ABSTRACT

Statistical and systematic challenges in collaboratively training machine learning models across distributed networks of mobile devices have been the bottlenecks in the real-world application of federated learning. In this work, we show that meta-learning is a natural choice to handle these issues, and propose a federated meta-learning framework FedMeta, where a parameterized algorithm (or meta-learner) is shared, instead of a global model in previous approaches. We conduct an extensive empirical evaluation on LEAF datasets and a real-world production dataset, and demonstrate that FedMeta achieves a reduction in required communication cost by 2.82-4.33 times with faster convergence, and an increase in accuracy by 3.23%-14.84% as compared to Federated Averaging (FedAvg) which is a leading optimization algorithm in federated learning. Moreover, FedMeta preserves user privacy since only the parameterized algorithm is transmitted between mobile devices and central servers, and no raw data is collected onto the servers.

연구 동기 및 목표

• 비 IID 및 자원 제약이 있는 클라이언트 환경에서 연합 학습의 동기를 부여합니다.
• 글로벌 모델 대신 매개변수화된 알고리즘을 공유하는 프레임워크 FedMeta를 제안합니다.
• 모델-무관 메타 학습 알고리즘(MAML 및 Meta-SGD)을 연합 프레임워크에 통합합니다.
• 정확도, 수렴 및 통신 비용 측면에서 FedAvg와의 비교를 위해 LEAF 데이터셋과 생산 데이터셋에서 FedMeta를 평가합니다.
• 서버에서의 원시 데이터 수집을 피함으로써 프라이버시 이점을 입증합니다.

제안 방법

• 클라이언트가 공유하는 매개변수화된 메타-학습기 ϕ를 채택합니다(예: MAML의 초기화 θ 또는 Meta-SGD의 (θ, α)).
• 클라이언트는 알고리즘 매개변수를 받고, 로컬 서포트 데이터로 학습한 뒤 쿼리 손실을 보고하여 서버 측 메타-학습기를 업데이트합니다.
• 서버는 클라이언트 피드백을 활용한 메타-학습기 매개변수를 전파 업데이트합니다(외부 루프).
• 각 에피소드가 다수의 클라이언트를 샘플링하여 내부/외부 업데이트를 수행하는 에피소드형 메타-학습을 사용합니다.
• FedMeta 프레임워크 내에서 MAML 및 Meta-SGD를 실행 예제로 통합하여 접근법을 설명합니다.
• 원시 데이터가 아닌 알고리즘 매개변수와 손실만 전송되므로 프라이버시 보존을 보여줍니다.

실험 결과

연구 질문

• RQ1 다양한 연합 데이터 세트에서 FedMeta가 FedAvg에 비해 더 빠른 수렴 및 더 낮은 통신 비용을 달성할 수 있습니까?
• RQ2 모델-학습 기반 연합 방법(MAML/Meta-SGD)이 비 IID의 개인정보화된 클라이언트 데이터에서 더 높은 정확도와 더 나은 일반화성을 제공합니까?
• RQ3 적응에 사용되는 클라이언트 서포트 비율(데이터)을 변화시키면 FedMeta의 성능이 FedAvg와 비교하여 어떻게 달라집니까?
• RQ4 FedMeta와 기초 연합 학습 방법 간의 계산 대비 통신 오버헤드의 트레이드오프는 무엇입니까?
• RQ5 FedMeta가 서버에서 원시 데이터 수집을 피함으로써 프라이버시 이점을 유지합니까?

주요 결과

• FedMeta는 평가된 작업 전반에서 필요한 통신 비용을 2.82~4.33배 감소시킵니다.
• FedMeta는 FedAvg보다 더 높은 최종 정확도를 달성하며, 개선 폭은 3.23%에서 14.84%까지입니다.
• 메타 학습 기반의 FedMeta 변형(MAML/Meta-SGD)은 LEAF 데이터셋에서 더 빠른 수렴과 더 높은 안정성을 나타냅니다.
• FedAvg(Meta)는 종종 FedAvg보다 개선되지만, FedMeta 변형은 일반적으로 더 큰 이득을 주며, 특히 클라이언트 서포트 비율이 증가할수록 그렇습니다.
• FedMeta는 실제 산업 추천 작업에서 효과를 보여주며, 여러 설정에서 독립형 및 통합 연합 모델보다 우수합니다.