[논문 리뷰] Fast Federated Learning in the Presence of Arbitrary Device Unavailability

Xinran Gu, Kaixuan Huang외 2명|arXiv (Cornell University)|2021. 06. 08.

Privacy-Preserving Technologies in Data참고 문헌 37인용 수 24

한 줄 요약

이 논문은 임의의 장치 가용성으로 인한 수렴 열화 문제를 완화하는 새로운 피에드레이티드 학습 알고리즘인 메모리 보강형 급한 피에드레이티드 평균화(MIFA)를 제안한다. 최신 업데이트를 기억하여 기울기 편향을 보정하고, 비활성 장치에 대해 동적으로 적응함으로써 MIFA는 강력한 볼록 함수에 대해 $\mathcal{O}\left(\frac{\bar{\tau}_{T}+1}{NKT}\right)$, 비볼록 함수에 대해 $\mathcal{O}\left(\sqrt{\frac{\bar{\nu}+1}{NKT}}\right)$의 최소최대 최적 수렴 속도를 달성한다. 이는 비i.i.d. 데이터와 임의의 장치 가용성 패턴 하에서도 성립한다.

ABSTRACT

Federated Learning (FL) coordinates with numerous heterogeneous devices to collaboratively train a shared model while preserving user privacy. Despite its multiple advantages, FL faces new challenges. One challenge arises when devices drop out of the training process beyond the control of the central server. In this case, the convergence of popular FL algorithms such as FedAvg is severely influenced by the straggling devices. To tackle this challenge, we study federated learning algorithms under arbitrary device unavailability and propose an algorithm named Memory-augmented Impatient Federated Averaging (MIFA). Our algorithm efficiently avoids excessive latency induced by inactive devices, and corrects the gradient bias using the memorized latest updates from the devices. We prove that MIFA achieves minimax optimal convergence rates on non-i.i.d. data for both strongly convex and non-convex smooth functions. We also provide an explicit characterization of the improvement over baseline algorithms through a case study, and validate the results by numerical experiments on real-world datasets.

연구 동기 및 목표

• 학습 도중 예측 불가능하게 장치가 탈퇴하는 상황에서 발생하는 장치 가용성 문제를 해결한다. 이는 수렴을 방해할 수 있다.
• 기본 응답 분포를 사전에 알지 못하거나 활성 장치 선택이 필요한 기존 방법의 한계를 극복한다. 이는 과도한 지연을 유발할 수 있다.
• 장치 가용성 패턴에 민감하지 않은 알고리즘을 개발하고, 비정적 또는 악성 장치 가용성에 자동으로 적응하도록 한다.
• 임의의 장치 가용성 하에서도 강력한 볼록 함수 및 비볼록 함수 설정에서 최소최대 최적 수렴 속도를 확보한다.
• 모든 장치가 활성일 경우 기존 최적 수렴 속도로 감소함으로써 후행 호환성을 확보한다.

제안 방법

• 각 장치의 최신 모델 업데이트를 저장하고 재사용하여 기울기 편향을 보정하는 메모리 보강형 FedAvg의 변종인 MIFA를 제안한다.
• 집계 과정에서 비활성 장치를 동적으로 건너뛰어 지연을 줄인다.
• 기억된 최신 업데이트에서 유도된 가중치를 사용하는 가중 평균 방식을 적용하여 기울기 추정의 편향을 감소시킨다.
• 장치 가용성이 임의적이고 비i.i.i.d.이며, 심지어 악성일 수 있는 패턴으로 모델링하는 이론적 프레임워크를 도입한다. 이는 가용성 분포에 대한 사전 지식이 필요하지 않다.
• 비i.i.d. 데이터를 반영하여 장치별로 확률적 함수의 합으로 최적화 목표를 수립한다.
• 강력한 볼록 함수 및 비볼록 매끄러운 목표 함수에 대해 수렴 속도를 증명하고, 최적성을 확인하기 위해 하한값을 동일하게 설정한다.

실험 결과

연구 질문

• RQ1 장치 가용성이 임의일 경우, 알려진 또는 정적 가용성 분포를 가정하지 않고도 피에드레이티드 학습이 최적의 수렴 속도를 유지할 수 있는가?
• RQ2 신뢰할 수 있는 장치 응답 패턴이 없을 경우, 누락되거나 오래된 업데이트로 인한 기울기 편향을 효과적으로 보정할 수 있는가?
• RQ3 임의의 장치 가용성 하에서 피에드레이티드 학습의 이론적 수렴 속도는 무엇이며, 이를 달성하거나 향상시킬 수 있는가?
• RQ4 장치 탈퇴 상황에서 MIFA의 성능은 FedAvg와 같은 기준 알고리즘에 비해 수렴 속도와 내성 면에서 어떻게 비교되는가?
• RQ5 제안된 알고리즘이 모든 장치가 활성일 때와 일부 장치가 비활성일 때 모두 최적의 수렴 속도를 달성할 수 있는가?

주요 결과

• MIFA는 임의의 장치 가용성 하에서도 강력한 볼록 함수에 대해 $\mathcal{O}\left(\frac{\bar{\tau}_{T}+1}{NKT}\right)$의 최소최대 최적 수렴 속도를 달성한다.
• 비볼록 매끄러운 함수에 대해서는 $\mathcal{O}\left(\sqrt{\frac{\bar{\nu}+1}{NKT}}\right)$의 수렴 속도를 확보하며, 이는 기존에 알려진 하한값과 일치한다.
• 모든 장치가 활성일 경우에도 최적의 수렴 속도를 유지하여 표준 FedAvg와의 후행 호환성을 확보한다.
• 사례 연구를 통해 MIFA가 수렴 속도와 장치 탈퇴에 대한 내성 면에서 기준 알고리즘보다 개선된 성능을 보임을 명시적으로 분석한다.
• 실세계 데이터셋을 대상으로 한 수치 실험은 MIFA가 장치 가용성 상황에서 FedAvg 및 기타 기준 알고리즘보다 훨씬 낮은 학습 지연과 향상된 수렴을 보임을 검증한다.
• 이론적 분석은 MIFA의 수렴 속도가 최적이며, 볼록 및 비볼록 설정 모두에서 하한값과 일치함을 확인한다.