[논문 리뷰] Node Selection Toward Faster Convergence for Federated Learning on Non-IID Data

Hongda Wu, Ping Wang|arXiv (Cornell University)|2021. 05. 14.

Privacy-Preserving Technologies in Data인용 수 14

한 줄 요약

이 논문은 비독립적 동일분포(non-i.i.d.) 데이터에서 수렴 속도를 향상시키기 위해 글로벌 모델과의 기울기 일치도를 바탕으로 동적으로 노드를 선택하는 확률적 노드 선택 프레임워크인 FedPNS를 제안한다. Optimal Aggregation를 도입하여 국소 기울기와 글로벌 기울기 간의 내적 분석을 통해 해로운 국소 업데이트를 제외함으로써 수렴 지연을 감소시키고 통신 오버헤드를 최소화하면서 모델 정확도를 향상시킨다.

ABSTRACT

Federated Learning (FL) is a distributed learning paradigm that enables a large number of resource-limited nodes to collaboratively train a model without data sharing. The non-independent-and-identically-distributed (non-i.i.d.) data samples invoke discrepancies between the global and local objectives, making the FL model slow to converge. In this paper, we proposed Optimal Aggregation algorithm for better aggregation, which finds out the optimal subset of local updates of participating nodes in each global round, by identifying and excluding the adverse local updates via checking the relationship between the local gradient and the global gradient. Then, we proposed a Probabilistic Node Selection framework (FedPNS) to dynamically change the probability for each node to be selected based on the output of Optimal Aggregation. FedPNS can preferentially select nodes that propel faster model convergence. The unbiasedness of the proposed FedPNS design is illustrated and the convergence rate improvement of FedPNS over the commonly adopted Federated Averaging (FedAvg) algorithm is analyzed theoretically. Experimental results demonstrate the effectiveness of FedPNS in accelerating the FL convergence rate, as compared to FedAvg with random node selection.

연구 동기 및 목표

• 비독립적 동일분포 데이터 분포 하에서 피에프드러닝의 느린 수렴 문제를 해결하기 위해, 데이터 이질성이 모델 업데이트의 편향을 유발함을 고려한다.
• 모든 참여 노드가 각 라운드마다 동일하게 글로벌 모델 집합에 기여해야 한다는 가정을 도전한다.
• 수렴 속도를 가속화하기 위해 더 유리한 업데이트를 제공하는 노드를 우선시하는 동적 노드 선택 전략을 설계한다.
• 데이터 이질성과 집합 동역학을 고려하여 FedAvg 대비 FedPNS의 수렴 향상 정도를 이론적으로 분석한다.
• 추가 오버헤드 없이 서버 측에서의 확률적 선택을 통해 통신 비용을 최소화하면서 수렴 속도를 극대화한다.

제안 방법

• 국소 기울기와 글로벌 기울기 간의 내적을 계산하여 해로운 국소 업데이트를 식별하고 제외하는 Optimal Aggregation를 제안한다.
• 각 국소 업데이트가 글로벌 모델 향상에 기여하는 정도를 평가하기 위해 내적을 메트릭으로 사용한다.
• Optimal Aggregation의 출력에 기반해 선택 확률을 조정하는 확률적 노드 선택 프레임워크(FedPNS)를 도입한다.
• 글로벌 기울기와 잘 일치하는 국소 기울기를 가진 노드의 선택 가능성을 동적으로 높여, 보다 유익한 업데이트를 우선시한다.
• 데이터 이질성과 집합 효율성을 고려하여 전반적인 손실 감소 기대값을 경계하는 이론적 분석을 수행한다.
• 추가 통신이 필요 없이 서버 측에서 선택을 수행함으로써 자원 제약 환경에서 효율성을 유지한다.

실험 결과

연구 질문

• RQ1 글로벌 기울기와 일치하지 않는 일부 국소 업데이트를 제외함으로써 비독립적 동일분포 데이터 하에서 피에프드러닝의 수렴 속도를 향상시킬 수 있는가?
• RQ2 모델 개선에 더 효과적으로 기여하는 노드를 우선시하기 위해 노드 선택 확률을 어떻게 적응적으로 조정할 수 있는가?
• RQ3 비독립적 동일분포 데이터 하에서 FedAvg에 비해 FedPNS의 이론적 수렴 경계는 어떻게 되는가?
• RQ4 기울기 기반 선택은 피에프드러닝에서 수렴을 위한 통신 라운드 수를 줄이는가?
• RQ5 추가 통신 비용 없이 서버 측 선택 메커니즘이 수렴을 향상시킬 수 있는가?

주요 결과

• FedPNS는 랜덤 노드 선택 방식을 사용하는 FedAvg에 비해 수렴 속도가著적으로 향상되어 목표 정확도에 도달하기 위한 통신 라운드 수를 감소시킨다.
• Optimal Aggregation 알고리즘은 기울기 일치도를 활용하여 글로벌 모델 수렴에 악영향을 주는 국소 업데이트를 성공적으로 식별하고 제외한다.
• 이론적 분석 결과, FedPNS는 고급도 업데이트에 집중함으로써 라운드당 글로벌 손실 감소 기대값이 더 빠르게 이루어짐을 보여준다.
• 글로벌 기울기와의 기울기 일치도가 높은 노드가 우선적으로 선택되어 시간이 지남에 따라 더 효과적인 모델 업데이트가 이루어진다.
• 확률적 선택 프레임워크는 추가 통신 비용 없이 서버 측에서 작동하여 엣지 환경에서도 효율성을 유지한다.
• 실험 결과 FedPNS가 비독립적 동일분포 데이터 분포에서 수렴 속도와 최종 모델 정확도 모두에서 FedAvg를 능가함을 확인했다.