[논문 리뷰] Decentralized Bayesian Learning over Graphs

Anusha Lalitha, Xinghan Wang외 4명|arXiv (Cornell University)|2019. 05. 24.

Privacy-Preserving Technologies in Data참고 문헌 27인용 수 25

한 줄 요약

이 논문은 임의의 연결된 그래프에서 분산형 베이지안 학습 알고리즘을 제안하며, 에이전트들이 로컬 데이터와 1-호프 이웃 간 이면형으로 비동기적 피어 투 피어 집계를 사용하여 글로벌 모델 파라미터에 대한 사후 분포를 반복적으로 갱신한다. 이 방법은 약한 가정 하에 이론적 수렴 보장을 제공하며, 불확실성 정량화와 함께 비밀유지 가능하고 확장 가능한 베이지안 신경망 학습을 가능하게 한다.

ABSTRACT

We propose a decentralized learning algorithm over a general social network. The algorithm leaves the training data distributed on the mobile devices while utilizing a peer to peer model aggregation method. The proposed algorithm allows agents with local data to learn a shared model explaining the global training data in a decentralized fashion. The proposed algorithm can be viewed as a Bayesian and peer-to-peer variant of federated learning in which each agent keeps a "posterior probability distribution" over a global model parameters. The agent update its "posterior" based on 1) the local training data and 2) the asynchronous communication and model aggregation with their 1-hop neighbors. This Bayesian formulation allows for a systematic treatment of model aggregation over any arbitrary connected graph. Furthermore, it provides strong analytic guarantees on converge in the realizable case as well as a closed form characterization of the rate of convergence. We also show that our methodology can be combined with efficient Bayesian inference techniques to train Bayesian neural networks in a decentralized manner. By empirical studies we show that our theoretical analysis can guide the design of network/social interactions and data partitioning to achieve convergence.

연구 동기 및 목표

• 원시 데이터를 공유하지 않고도 에이전트들이 공동으로 글로벌 모델을 학습할 수 있도록 하여 분산 학습에서 통계적 부족성과 개인정보 보호 제약을 해결하기 위해.
• 중앙 집중식 집계를 대체하는 로컬 베이지안 갱신과 이웃 간 통신을 사용하는 완전히 분산형 피어 투 피어 학습 알고리즘을 개발하기 위해.
• 임의의 강하게 연결된 그래프에서 에이전트 간 사후 분포에 대한 이론적 수렴 보장을 제공하기 위해.
• 불확실성 정량화와 과적합에 대한 강건성을 갖춘 분산 환경에서 베이지안 신경망의 효율적 학습을 가능하게 하기 위해.
• 수렴 속도와 모델 모호성의 이론적 분석을 통해 네트워크 설계와 데이터 분할 전략을 안내하기 위해.

제안 방법

• 에이전트들은 로컬 데이터와 이웃 정보를 사용하여 글로벌 모델 파라미터에 대한 사후 분포를 유지하며, 베이지안 추론을 통해 갱신한다.
• 알고리즘은 비동기적 피어 투 피어 모델 집계를 사용하며, 각 에이전트는 자신의 로컬 사후 분포를 이웃들의 사후 분포의 가중 평균과 조합한다.
• 네트워크 구조는 일반적인 연결된 그래프로 모델링되며, 사회적 상호작용 가중치는 이웃의 역수 차수(1/|N(i)|)로 정의된다.
• 수렴은 사후 집중도에 대한 고확률 경계를 사용하여 분석되며, 속도는 네트워크 중심성과 로컬 학습 능력에 의해 특성화된다.
• 프레임워크는 효율적인 베이지안 추론 기법과 통합되어, 베이지안 신경망의 확장 가능한 학습을 가능하게 한다.
• 이 방법은 이질적인 데이터 분할을 지원하며, 구조적 및 데이터 분할 분석을 통해 모호한 레이블 함수로의 수렴을 탐지하고 회피할 수 있다.

실험 결과

연구 질문

• RQ1 중앙 서버 없이도 분산형 베이지안 학습 규칙이 참값인 글로벌 모델 파라미터로 수렴할 수 있는가?
• RQ2 특히 에이전트의 중심성과 차수에 따라 네트워크 구조가 사후 수렴 속도에 어떤 영향을 미치는가?
• RQ3 로컬 데이터 품질과 데이터 분할 전략이 분산형 베이지안 학습의 수렴과 정확도에 어떤 역할을 하는가?
• RQ4 이론적 수렴 분석이 네트워크 구조와 데이터 분포에 대한 실용적 설계 선택을 어떻게 안내할 수 있는가?
• RQ5 알고리즘이 수렴하지 못하는 조건은 무엇이며, 이러한 실패는 어떻게 탐지하고 방지할 수 있는가?

주요 결과

• 강한 연결성과 에이전트들이 잘못된 레이블 함수를 제거할 수 있는 가정 하에, 각 에이전트의 사후 분포가 참값인 글로벌 모델 파라미터로 거의 확실히 수렴함을 보장한다.
• 수렴 속도는 이론적으로 특성화되었으며, 가장 영향력 있는 에이전트(예: 고차수 노드)가 가장 정보가 많은 로컬 데이터에 접근할 경우 가장 빠르게 수렴함을 보여준다.
• 실험 결과는 데이터가 풍부한 에이전트를 네트워크의 중심부, 고차수 위치에 놓을 경우, 가장자리에 놓는 것보다 더 빠른 수렴 속도와 높은 테스트 정확도를 달성함을 확인한다.
• 가정 2 위반 — 즉, 어떤 에이전트도 모든 레이블 쌍을 위한 구별 가능한 특징을 관찰하지 못함 — 은 특히 모호한 데이터 분할(예: 서로 다른 레이블 세트를 가진 MNIST 및 FMNIST)에서 낮은 신뢰도와 정확도를 초래한다.
• 비독립 동일분포(NON-IID) 데이터를 가진 스타 네트워크에서는 분포 외부 레이블에 대한 신뢰도가 낮게 유지되며, '코트'와 '풀오버' 레이블이 동시에 관찰되지 않을 경우 평균 정확도가 69.7%로 떨어진다.
• 이 방법은 높은 정확도와 확장성을 달성하여, 비동기적이고 시간에 따라 변하는 네트워크에서 100개 이상의 베이지안 신경망을 성공적으로 학습시키며 강건한 불확실성 추정을 제공한다.