[논문 리뷰] Peer-to-peer Federated Learning on Graphs

Anusha Lalitha, Osman Cihan Kilinc외 2명|arXiv (Cornell University)|2019. 01. 31.

Privacy-Preserving Technologies in Data참고 문헌 11인용 수 139

한 줄 요약

이 논문은 노드가 로컬 데이터와 한-hop 이웃을 사용하여 그래프에서 Bayesian-like 신념을 업데이트하는 완전 분산형 피어-투-피어 연합 학습 알고리즘을 제시하고, 높은 확률 보장을 증명하며 선형 회귀와 DNN에서의 변분 추론으로 검증한다.

ABSTRACT

We consider the problem of training a machine learning model over a network of nodes in a fully decentralized framework. The nodes take a Bayesian-like approach via the introduction of a belief over the model parameter space. We propose a distributed learning algorithm in which nodes update their belief by aggregate information from their one-hop neighbors to learn a model that best fits the observations over the entire network. In addition, we also obtain sufficient conditions to ensure that the probability of error is small for every node in the network. We discuss approximations required for applying this algorithm to train Deep Neural Networks (DNNs). Experiments on training linear regression model and on training a DNN show that the proposed learning rule algorithm provides a significant improvement in the accuracy compared to the case where nodes learn without cooperation.

연구 동기 및 목표

• 중앙 서버 없이 네트워크화된 노드의 지역 데이터 활용으로 학습을 촉진한다.
• Bayesian-like 신념 업데이트와 이웃 합의를 개발하여 글로벌 모델을 학습한다.
• 모든 노드에서 전역 최적 모델을 달성한다는 고확률 보장을 제공한다.
• 프레임워크를 선형 회귀와 깊은 신경망으로 특화한다.
• 확장 가능한 DNN 학습을 위한 변분 추론으로 실용적 가능성을 시연한다.

제안 방법

• 네트워크를 이웃의 영향력을 반영하는 확률적 가중 행렬 W를 갖는 방향 그래프로 모델링한다.
• 각 노드는 유한 매개변수 집합 Theta에 대한 개인적 신념과 공개 신념을 보유하고 데이터로 로컬 Bayesian 업데이트를 수행한다.
• 노드들은 한-hop 이웃과 공개 신념을 교환하고 로그-신념 합의 단계로 개인적 신념을 갱신한다.
• 각 반복에서 hat{theta}를 현재의 개인적 신념의 argmax로 선언한다.
• 완만한 연결성 및 학습 가능성 가정하에서 모든 노드가 Theta*로 수렴할 확률이 높다는 이론적 보장을 제공한다.
• DNN에 적용할 때는 정확한 Bayesian 업데이트를 변분 추론으로 대체하여 계산 가능한 근사를 얻는다.

실험 결과

연구 질문

• RQ1 완전 분산 네트워크에서 중앙 서버 없이 학습은 어떻게 수행될 수 있는가?
• RQ2 모든 노드가 전역 최적 매개변수를 학습하기 위한 샘플 복잡성과 네트워크 연결성 요건은 무엇인가?
• RQ3 프레임워크가 선형 및 비선형(DNN) 모델 모두에 대해 정확하게 학습할 수 있는가?
• RQ4 복잡한 모델의 Bayesian 업데이트를 확장 가능하게 만들기 위해 변분 추론을 어떻게 활용할 수 있는가?
• RQ5 독립적 로컬 학습 또는 중앙 집중형 학습과 비교했을 때 어떤 성능 향상을 달성할 수 있는가?

주요 결과

• Theorem 1은 고확률 경계: P(exists i with hat{theta}^{(n)}_i not in Theta*) ≤ delta when n ≥ 16 C log(NM/δ) / (K(Theta)^2 (1 − λ_max(W))).
• Corollary 1은 Assumption 4 하에서 네트워크 평균 진실 위험 차이가 sqrt(r)로 스케일링되는 상한을 제시한다.
• 알고리즘은 완만한 연결성 및 학습 가능성 하에서 전역 최적 모델의 학습을 달성하며, 학습 샘플의 하한은 노드 수 및 매개변수 수에 따라 로그 스케일로 증가한다.
• 분산 Bayesian 선형 회귀에 대한 실험은 협력이 사용될 때 중앙 서버 성능과 분산 학습이 일치함을 보여준다.
• DNN의 경우 VI 기반 업데이트는 중앙 집중식 기준선과 비교하여 정확도 손실이 무시 가능한 수준으로, 확장 가능한 분산 학습을 가능하게 한다.
• 분산 MNIST 패션 데이터에 대한 실험 결과는 IID 및 비 IID, 균형 및 비균형 시나리오에서 정확한 분산 학습을 보여준다.