[논문 리뷰] A Non-parametric View of FedAvg and FedProx: Beyond Stationary Points

Lili Su, Jiaming Xu외 1명|arXiv (Cornell University)|2021. 06. 29.

Privacy-Preserving Technologies in Data인용 수 16

한 줄 요약

이 논문은 재생 커널 힐버트 공간(RKHS)를 사용하여 이질적이고 균형 잡히지 않은 데이터 설정에서 FedAvg와 FedProx의 비모수적 분석을 제공하며, 두 알고리즘 모두 추정 오차 감소 속도가 $1/t$이고 유한 랭크 커널의 경우 지수적으로 감소함을 보여준다. 정류점에 도달하지 못함에도 불구하고 최소최대 최적 오차율을 달성하며, 제안된 '연합 이득(federation gain)'은 참여 시 클라이언트별 이점을 정량화한다. 특히 중간 수준의 이질성 하에서 데이터가 부족한 클라이언트에게서 두드러진 이점을 보인다.

ABSTRACT

Federated Learning (FL) is a promising decentralized learning framework and has great potentials in privacy preservation and in lowering the computation load at the cloud. Recent work showed that FedAvg and FedProx - the two widely-adopted FL algorithms - fail to reach the stationary points of the global optimization objective even for homogeneous linear regression problems. Further, it is concerned that the common model learned might not generalize well locally at all in the presence of heterogeneity. In this paper, we analyze the convergence and statistical efficiency of FedAvg and FedProx, addressing the above two concerns. Our analysis is based on the standard non-parametric regression in a reproducing kernel Hilbert space (RKHS), and allows for heterogeneous local data distributions and unbalanced local datasets. We prove that the estimation errors, measured in either the empirical norm or the RKHS norm, decay with a rate of 1/t in general and exponentially for finite-rank kernels. In certain heterogeneous settings, these upper bounds also imply that both FedAvg and FedProx achieve the optimal error rate. To further analytically quantify the impact of the heterogeneity at each client, we propose and characterize a novel notion-federation gain, defined as the reduction of the estimation error for a client to join the FL. We discover that when the data heterogeneity is moderate, a client with limited local data can benefit from a common model with a large federation gain. Numerical experiments further corroborate our theoretical findings.

연구 동기 및 목표

• FedAvg와 FedProx가 정류점에 도달하지 못함에도 불구하고 FL에서 낮은 추정 오차를 달성하는 데서 발생하는 역설을 해결하기 위해.
• 이질적이고 균형 잡히지 않은 국소 데이터 분포 하에서 FedAvg와 FedProx의 수렴성과 통계적 효율성을 분석하기 위해.
• 연합 모델에 참여함으로써 클라이언트가 얻는 이점을 정량화할 수 있는 새로운 지표인 '연합 이득'을 도입하고 체계화하기 위해.
• RKHS 노름에서 이론적 오차 경계를 수립하고, 특정 이질적 조건 하에서의 최적성 증명하기 위해.
• 선형 회귀 이외의 비선형 설정(예: 다항 회귀)에서 두 알고리즘이 거의 최적의 추정 속도를 달성하는지 실증적으로 검증하기 위해.

제안 방법

• 비모수적 회귀 분석을 재생 커널 힐버트 공간(RKHS) 내에서 기반으로 하여, 모수적 가정 없이도 탄력적인 함수 추정이 가능하도록 한다.
• 저자들은 경험적 노름과 RKHS 노름에서 추정 오차 경계를 유도하며, $1/t$ 감소 속도와 유한 랭크 커널의 경우 지수 감소를 보여준다.
• 새로운 지표인 '연합 이득'은 클라이언트가 국소적으로 학습하는 것과 비교해 연합 모델에 참여함으로써 얻는 추정 오차 감소로 정의된다.
• 이론적 분석은 이질적 데이터 분포와 균형 잡히지 않은 클라이언트 데이터셋을 고려하여, 경계가 없는 기울기 차이 또는 새로운 데이터에 대한 제한적 가정을 피한다.
• 선형 및 비선형(다항) 회귀 작업을 대상으로 다양한 데이터 이질성과 클라이언트 데이터 크기를 고려한 수치 실험을 통해 프레임워크를 검증한다.
• 비선형 함수 피팅에서 평균 제곱 오차(MSE)를 평가하기 위해 몬테카를로 적분을 사용하며, 다양한 집계 주기로 FedAvg와 FedProx 간 결과를 비교한다.

실험 결과

연구 질문

• RQ1 FedAvg와 FedProx가 정류점에 도달하지 못함에도 불구하고 추정 오차가 최적 수준에 도달할 수 있는가?
• RQ2 데이터 이질성과 균형 잡히지 않은 클라이언트 데이터는 FedAvg와 FedProx의 수렴성과 일반화에 어떤 영향을 미치는가?
• RQ3 연합 모델에 참여함으로써 클라이언트가 얻는 구체적 이득은 무엇이며, 이를 어떻게 정량화할 수 있는가?
• RQ4 서브스페이스 차원 수 $r$ 가 다를 경우, 데이터가 부족한 클라이언트와 데이터가 많은 클라이언트 간에 연합 이득은 유의미하게 다를까?
• RQ5 FedAvg와 FedProx는 다항 회귀와 같은 비선형 함수 피팅에서 거의 최소최대 최적 오차율을 달성할 수 있는가?

주요 결과

• FedAvg와 FedProx는 경험적 노름과 RKHS 노름 모두에서 추정 오차 감소 속도가 $1/t$이며, 유한 랭크 커널의 경우 지수 감소를 보인다.
• 일부 이질적 설정에서는 추정 오차 상한이 최소최대 최적 속도와 일치하여 통계적 효율성을 나타낸다.
• 이질성이 중간 수준일 경우 데이터가 부족한 클라이언트의 연합 이득이 크게 증가하여 모델 공유의 강력한 이점을 보여준다.
• 데이터가 부족한 클라이언트의 경우, 연합 이득은 서브스페이스 차원 $r$ 이론적으로 약 27까지 증가하다가 안정화되며, 이는 데이터 커버리지에서 쿠폰 수집 효과를 반영한다.
• 데이터가 많은 클라이언트의 경우, 연합 이득은 처음에는 증가하지만 $r$ 이 100에 가까워질수록 감소한다. 이는 국소 모델 성능이 뛰어나기 때문이다.
• 다항 회귀에서 FedAvg와 FedProx는 거의 최적의 추정 속도를 달성하며, 역수 오차가 거의 직선을 이룬다. 이는 $O(1/N)$ 수렴을 확인한다.