[논문 리뷰] Federated Generalized Bayesian Learning via Distributed Stein Variational Gradient Descent

Rahif Kassab, Osvaldo Simeone|arXiv (Cornell University)|2020. 09. 11.

Privacy-Preserving Technologies in Data인용 수 5

한 줄 요약

이 논문은 분산 베이지안 학습 프레임워크인 분산 스틸 변분 경사 하강법(DSVGD)을 제안한다. 이는 중앙 서버에서 상호작용하는 입자를 사용해 전역 사후분포를 근사하는 비모수적 방법이다. 지역 에이전트를 통해 입자를 반복적으로 갱신함으로써 통신 라운드 수를 줄이고, 유연한 통신 부하와 수렴 속도의 트레이드오프를 통해 신뢰할 수 있고 잘 校정된 예측을 가능하게 한다.

ABSTRACT

This paper introduces Distributed Stein Variational Gradient Descent (DSVGD), a non-parametric generalized Bayesian inference framework for federated learning. DSVGD maintains a number of non-random and interacting particles at a central server to represent the current iterate of the model global posterior. The particles are iteratively downloaded and updated by one of the agents with the end goal of minimizing the global free energy. By varying the number of particles, DSVGD enables a flexible trade-off between per-iteration communication load and number of communication rounds. DSVGD is shown to compare favorably to benchmark frequentist and Bayesian federated learning strategies, also scheduling a single device per iteration, in terms of accuracy and scalability with respect to the number of agents, while also providing well-calibrated, and hence trustworthy, predictions.

연구 동기 및 목표

• 모바일 헬스 애플리케이션과 같은 소규모 분산 학습 환경에서 신뢰할 수 있고 불확실성 인식 모델의 부족을 해결한다.
• 범주형 분포를 고려하지 않는 빈도주의 분산 학습(예: FedAvg)이 사전적 불확실성 모델링 부족으로 인해 과신한 예측을 내보내는 한계를 극복한다.
• 통신 지연이 학습 시간을 지배하는 경우, 특히 소형 모델에서 중요한 통신 획수를 줄인다.
• 비모수적 추론 프레임워크에서 조정 가능한 입자 수를 통해 각 반복의 통신 비용과 수렴 속도 사이의 민감한 트레이드오프를 제공한다.
• 모수적 변분 추론의 편향을 피하고 MCMC 샘플링의 느린 수렴을 피하는 확장성 있고 신뢰할 수 있는 분산 학습을 위한 베이지안 추론 방법을 개발한다.

제안 방법

• DSVGD는 중앙 서버에서 전역 사후분포를 표현하기 위해 비랜덤이고 상호작용하는 입자를 유지한다.
• 각 통신 라운드에서 한 에이전트가 현재 입자를 다운로드하고, 스틸 변분 경사 하강법을 사용해 국소 자유 에너지 기능을 최소화함으로써 입자를 국소적으로 갱신한 후, 갱신된 입자를 업로드한다.
• 입자 갱신은 고도로 밀도가 높은 영역으로 입자를 이동시키는 커널 기반의 경로를 따라 이뤄지며, 이는 비모수적 사후분포 근사의 효율성을 보장한다.
• 이 방법은 임의의 손실 함수를 지원하며, 지수족 모델을 초월한 유연성을 보장하기 위해 일반화된 베이지안 추론 문제로 제작된다.
• 입자 수를 조절함으로써 각 라운드의 통신 부하와 총 통신 획수 사이의 균형을 조정할 수 있으며, 자원 제약 조건에서 실용적인 트레이드오프를 제공한다.
• 알고리즘은 라운드 로빈 스케줄링 정책을 사용하며, 다양한 데이터 분포에서 분류 및 회귀 작업을 모두 지원한다.

실험 결과

연구 질문

• RQ1 비모수적 입자 기반의 베이지안 추론 프레임워크는 분산 학습에서 높은 모델 정확도를 유지하면서도 통신 획수를 줄일 수 있는가?
• RQ2 DSVGD는 FedAvg, PVI, DSGLD와 같은 최신 분산 학습 방법과 비교해 예측 정확도와 불확실성 캘리브레이션 측면에서 어떻게 성능을 내는가?
• RQ3 DSVGD에서 입자 수를 얼마나 다양하게 활용해 각 라운드의 통신 부하와 통신 획수 사이의 트레이드오프를 민감하게 조정할 수 있는가?
• RQ4 DSVGD는 건강 모니터링과 같은 안전이 중요한 응용 분야에서 신뢰할 수 있고 잘 校정된 예측을 생성하는가?
• RQ5 DSVGD는 다양한 데이터 분포와 모델 크기에서 분산 환경에서 수렴 속도와 확장성 측면에서 어떻게 성능을 내는가?

주요 결과

• DSVGD는 MNIST와 Fashion-MNIST를 포함한 여러 이진 분류 및 회귀 데이터셋에서 FedAvg, PVI, DSGLD보다 높은 테스트 정확도를 달성한다.
• 특히 통신 지연이 핵심 장애 요소가 되는 환경에서 기준 방법 대비 수렴에 필요한 통신 획수를 크게 줄였다.
• 낮은 최대 캘리브레이션 오차(MCE)로 인해 잘 校정된 예측을 생성했으며, 빈도주의 및 모수적 베이지안 기준 방법보다 뛰어난 성능을 보였다.
• 고정된 입자 수를 사용할 경우, 다양한 에이전트 수와 데이터 비균형 수준에서도 안정적인 성능 유지를 보이며 강건성을 입증했다.
• 변동 가능한 입자 수를 사용함으로써 각 반복의 통신 비용과 수렴 속도 사이의 민감한 트레이드오프를 가능하게 했으며, 높은 입자 수는 라운드 수를 줄이지만 각 라운드의 부하를 증가시켰다.
• Year Prediction 및 Naval Propulsion 데이터셋에서의 실험에서, DSVGD는 DSGLD와 SGLD보다 낮은 RMSE를 기록하여 회귀 과제에서의 효과성을 확인했다.