[논문 리뷰] Federated Learning via Posterior Averaging: A New Perspective and Practical Algorithms

Maruan Al-Shedivat, Jennifer Gillenwater외 2명|arXiv (Cornell University)|2020. 10. 11.

Privacy-Preserving Technologies in Data참고 문헌 47인용 수 38

한 줄 요약

이 논문은 연합학습을 로컬 포스트eriors를 모아 글로벌 포스트eri어 추론으로 재구성하고 FEDPA를 도입하여 FEDAVG를 일반화하고 여러 벤치마크에서 최첨단 결과를 달성한다.

ABSTRACT

Federated learning is typically approached as an optimization problem, where the goal is to minimize a global loss function by distributing computation across client devices that possess local data and specify different parts of the global objective. We present an alternative perspective and formulate federated learning as a posterior inference problem, where the goal is to infer a global posterior distribution by having client devices each infer the posterior of their local data. While exact inference is often intractable, this perspective provides a principled way to search for global optima in federated settings. Further, starting with the analysis of federated quadratic objectives, we develop a computation- and communication-efficient approximate posterior inference algorithm -- federated posterior averaging (FedPA). Our algorithm uses MCMC for approximate inference of local posteriors on the clients and efficiently communicates their statistics to the server, where the latter uses them to refine a global estimate of the posterior mode. Finally, we show that FedPA generalizes federated averaging (FedAvg), can similarly benefit from adaptive optimizers, and yields state-of-the-art results on four realistic and challenging benchmarks, converging faster, to better optima.

연구 동기 및 목표

• 전역 모델을 로컬 포스트eri어로부터 얻은 포스터리어 모드로 간주하여 확률적 관점에서 연합학습을 제안한다.
• 무상태(stateless) 클라이언트에서도 작동하는 계산 및 통신 효율적인 FEDPA 알고리즘을 개발한다.
• FEDPA가 FEDAVG를 일반화하는 방식과 로컬 포스터리어 추정하에서의 수렴 및 바이어스-분산 트레이드오프를 설명한다.
• 비전 및 언어 과제에 걸친 현실적 FL 벤치마크에서 최첨단 성능을 입증한다.

제안 방법

• FL을 글로벌 포스터리어 추론 문제로 공식화하여 글로벌 포스터리어가 로컬 포스터리어의 곱으로 분해된다는 점을 도출한다(정리 1).
• 클라이언트의 로컬 포스터리어 샘플링과 서버측 최적화를 사용하여 글로벌 포스터리어 모드를 찾는 실용적 알고리즘(FEDPA)을 도출한다(식 3 및 4).
• 클라이언트에서 SG-MCMC(IASG)를 통해 로컬 평균(mu_i)과 공분산(Σ_i)의 추정치를 얻는다.
• 축소된 공분산 추정기를 이용하여 샤링크(수축) 공분산으로 덧셈 비용을 O(d)로 가능하게 하는 선형시간, 메모리효율적인 스키마(∆_i = Σ_i^{-1}(θ − μ_i))로 클라이언트 델타를 계산한다(정리 3).
• FEDAVG가 공분산 항등식일 때 FEDPA의 특수한 경우임을 보여주며, 로컬 업데이트 스킴에서 관찰되는 정체와 바이어스를 설명한다.

실험 결과

연구 질문

• RQ1 연합학습을 순수 최적화가 아니라 글로벌 포스터리어 추론으로 효과적으로 프레이밍할 수 있는가?
• RQ2 stateless 클라이언트를 위한 모델 차원성에 선형 비용으로 구현 가능한 실용적 FEDPA 알고리즘을 어떻게 설계할 수 있는가?
• RQ3 로컬 포스터리어 정보(평균 및 공분산)를 사용하는 것이 수렴, 바이어스, 최적점에 FEDAVG와 비교해 어떤 영향을 미치는가?
• RQ4 전망적인 FL 벤치마크에서 포스터리어 기반 방법이 더 빠른 수렴과 더 나은 최적점을 달성하는가?

주요 결과

• FEDPA는 로컬 포스터리어 정보를 활용하여 FEDAVG보다 더 빠르게 수렴하고 더 나은 최적점에 도달한다.
• 로컬 스텝이 많은 FEDAVG는 공분산이 항등일 때 FEDPA와 대응되며, 이는 바이어스와 정체를 초래한다. FEDPA는 공분산 정보를 반영한 업데이트로 이를 완화한다.
• IASG 기반의 포스터리어 샘플링과 축소 공분산 추정기를 사용하면 매 라운드마다 O(d) 통신 및 O(d) 서버 계산으로 고차원 모델에 확장 가능하다.
• EMNIST-62 및 CIFAR-100에서 FEDPA-ME는 최종 정확도와 목표 정확도에 도달하는 라운드 수에서 강력한 기준선보다 높다.
• StackOverflow 태스크에서 FEDPA-ME는 매크로-F1 및 마이크로-F1을 개선하고 기준선에 비해 경쟁력 있는 정밀도/재현율 지표를 달성한다.