[논문 리뷰] Central Server Free Federated Learning over Single-sided Trust Social Networks

Chaoyang He, Conghui Tan외 3명|arXiv (Cornell University)|2019. 10. 11.

Privacy-Preserving Technologies in Data참고 문헌 45인용 수 62

한 줄 요약

이 논문은 Online Push-Sum (OPS)를 소개합니다. 중앙 서버가 없는 연합 학습 알고리즘으로, 단측 신뢰(비대칭) 소셜 네트워크에서 로우-스토캐스틱 가중치를 가지며 작동하고, 후회 분석 및 프라이버시 고려사항을 제공합니다.

ABSTRACT

Federated learning has become increasingly important for modern machine learning, especially for data privacy-sensitive scenarios. Existing federated learning mostly adopts the central server-based architecture or centralized architecture. However, in many social network scenarios, centralized federated learning is not applicable (e.g., a central agent or server connecting all users may not exist, or the communication cost to the central server is not affordable). In this paper, we consider a generic setting: 1) the central server may not exist, and 2) the social network is unidirectional or of single-sided trust (i.e., user A trusts user B but user B may not trust user A). We propose a central server free federated learning algorithm, named Online Push-Sum (OPS) method, to handle this challenging but generic scenario. A rigorous regret analysis is also provided, which shows very interesting results on how users can benefit from communication with trusted users in the federated learning scenario. This work builds upon the fundamental algorithm framework and theoretical guarantees for federated learning in the generic social network scenario.

연구 동기 및 목표

• 중앙 서버를 사용할 수 없거나 중앙 서버와의 통신 비용이 부담스러운 경우 연합학습에 대한 동기를 부여한다.
• 단측 신뢰(비대칭 토폴로지)를 가진 방향 그래프에서 분산 학습을 가능하게 한다.
• 프라이버시를 유지하기 위해 모델 매개변수만을 이용하는 온라인, 기울기-없는 교환 프로토콜을 개발한다.
• 적대적 손실 구성요소와 확률적 손실 구성요소를 구분하는 후회 보장을 제공한다.
• 다양한 네트워크 설정에서 OPS의 강인성과 프라이버시 이점을 입증한다.

제안 방법

• 모델 매개변수만 교환하고 로우-스토캐스틱 혼동 행렬 W를 사용하는 분산 알고리즘인 Online Push-Sum (OPS)을 제안한다.
• 로컬 업데이트를 사용하여 기울기 기반 하강으로 중간 변수 z와 정규화 인자 ω를 계산한 다음, push-sum을 통해 집계하여 업데이트된 로컬 모델 x를 얻는다.
• 대칭성/이중 확률성 요구사항을 완화하여 임의의 네트워크 토폴로지와 단측 신뢰를 가능하게 한다.
• 손실을 적대적 구성요소와 확률적 구성요소로 분해하는 후회 분석을 제공하고, 최적 학습률 γ를 도출한다.
• W가 이중 확률적일 때 표준 온라인 기울기 방법으로 축소되며, W가 이중 확률적이 아닐 경우에도 ω가 바이어스 없는 집계를 보장한다.

실험 결과

연구 질문

• RQ1 단측 신뢰 엣지와 중앙 서버가 없는 네트워크에서 연합학습이 효과적으로 수행될 수 있는가?
• RQ2 로우-스톡캐스틱, 방향 토폴로지에 따라 통신이 이루어질 때 수렴(후회) 특성은 무엇인가?
• RQ3 다양한 네트워크 크기와 밀도에서 OPS가 중앙집중식 및 다른 분산 방법들과 어떻게 비교되는가?
• RQ4 OPS가 기울기나 원시 데이터를 교환하는 대신 모델을 교환함으로써 프라이버시를 보존하는가?

주요 결과

• OPS는 적절히 선택된 γ와 함께 O(nGR√T + σR(1+√(nC2))√(nT))의 후회 경계치를 달성하며, 특수한 경우에 알려진 온라인 최적화 속도와 일치한다.
• 적절한 설정하에서 모든 클라이언트의 모델이 같은 모델로 수렴하며 수렴 속도는 O(1/T)이다(정리 3).
• OPS는 대칭/이중 확률 토폴로지에 의존하는 분산 온라인 기울기 방법들보다 우수하며 단측 신뢰 토폴로지의 이점을 누린다.
• 네트워크 밀도가 증가하면 성능이 개선되고 더 큰 네트워크는 수렴을 가속하는 더 많은 확률적 샘플을 제공할 수 있다.
• OPS는 기울기나 데이터를 교환하는 대신 모델을 교환함으로써 프라이버시 이점을 유지하고 비대칭 네트워크에서의 적대적 추론을 더 어렵게 만든다.