[논문 리뷰] Federated Composite Optimization

Honglin Yuan, Manzil Zaheer외 1명|arXiv (Cornell University)|2020. 11. 17.

Stochastic Gradient Optimization Techniques참고 문헌 91인용 수 11

한 줄 요약

이 논문은 비연결, 정규화된 FL 환경에서의 '원시 평균화의 저주' 문제를 해결하기 위해 새로운 원시-이중 알고리즘인 연합 이중 평균화(FedDualAvg)를 제안한다. 원자 평균화 대신 서버 측의 이중 평균화를 사용함으로써, FedDualAvg는 희소성과 제약 조건을 유지하며, 중심화된 기준과 유사한 수렴 속도를 달성하면서도 FedAvg와 FedMiD를 이길 뿐만 아니라 이론적·실제로 모두 뛰어난 성능을 보인다.

ABSTRACT

Federated Learning (FL) is a distributed learning paradigm that scales on-device learning collaboratively and privately. Standard FL algorithms such as FedAvg are primarily geared towards smooth unconstrained settings. In this paper, we study the Federated Composite Optimization (FCO) problem, in which the loss function contains a non-smooth regularizer. Such problems arise naturally in FL applications that involve sparsity, low-rank, monotonicity, or more general constraints. We first show that straightforward extensions of primal algorithms such as FedAvg are not well-suited for FCO since they suffer from the "curse of primal averaging," resulting in poor convergence. As a solution, we propose a new primal-dual algorithm, Federated Dual Averaging (FedDualAvg), which by employing a novel server dual averaging procedure circumvents the curse of primal averaging. Our theoretical analysis and empirical experiments demonstrate that FedDualAvg outperforms the other baselines.

연구 동기 및 목표

• 비연결 학습 응용에서 흔한 비연속 정규화자 처리에 있어 표준 연합 평균화(FedAvg) 및 그 확장형의 한계를 해결하기 위해.
• 원자 기반의 FL 알고리즘에서 흔히 발생하는 '원시 평균화의 저주'—즉, 서버 평균화가 정규화 모델의 희소성을 파괴하는 문제를 규명하고 해결하기 위해.
• 비연속 정규화자(예: ℓ₁, 핵 노름, 제약 조건)를 지원하면서도 연합 학습의 이점(기밀성, 통신 효율성)을 유지하는 새로운 알고리즘을 개발하기 위해.
• 실제 연합 데이터셋(예: ℓ₁ 정규화가 적용된 뇌 영상(fMRI) 데이터 포함)에서 이론적 수렴 분석 및 실증적 성능 검증을 수행하기 위해.

제안 방법

• 표준 원자 평균화를 서버 측의 이중 평균화 절차로 대체함으로써 정규화 효과를 유지하는 원시-이중 알고리즘인 연합 이중 평균화(FedDualAvg)를 제안한다.
• 안정적이고 정확한 국소 업데이트를 확보하기 위해 클라이언트 측에서 작은 클라이언트 학습률 η_c를 사용한 국소 이중 평균화를 적용한다.
• 서버 측에서 이중 공간에 있는 기울기를 집계하는 이중 평균화 업데이트를 통해 원자 모델 상태의 파괴적 평균화를 피한다.
• 이론적 분석은 정규화된 이중 갭(tilde{D}_{h})과 하위기울기 및 모델 이탈 항의 경계를 활용하여 수렴성을 확립한다.
• 학습률 스케줄링을 통한 오차 항 제어 및 국소 및 전역 반복 간 기대 이탈의 경계를 통해 수렴 속도를 유도한다.
• η_c → 0의 극한을 통한 새로운 안정성 조건과 모델 이탈 항의 균일한 경계를 도입하여 수렴을 보장한다.

실험 결과

연구 질문

• RQ1 표준 FedAvg 및 그 원자 기반 변종(FedMiD 포함)은 연합 환경에서 비연속 정규화된 목적함수를 효과적으로 최적화할 수 있는가?
• RQ2 왜 원자 평균화는 비연속 정규화자를 가진 연합 학습에서 희소성이나 제약 조건을 유지하지 못하는가?
• RQ3 서버 측에서 이중 평균화 전략을 통해 '원자 평균화의 저주'를 완화하고 복합 목적함수에 대한 수렴을 향상시킬 수 있는가?
• RQ4 비연속 정규화자가 존재하는 상황에서 연합 원시-이중 알고리즘의 이론적 수렴 보장은 무엇인가?
• RQ5 FedDualAvg는 ℓ₁ 정규화가 적용된 실제 연합 데이터셋에서 FedAvg, FedMiD 및 중심화된 기준 대비 실증적으로 어떻게 비교되는가?

주요 결과

• FedDualAvg는 원자 데이터를 공유하지 않고도 ℓ₁-정규화된 로지스틱 회귀에 대해 연합 fMRI 데이터셋에서 중심화된 학습과 유사한 성능을 달성한다.
• FedDualAvg는 국소 기준(단일 클라이언트 학습) 및 하위기울기 기반 FedAvg보다 뛰어난 수렴성과 희소성 유지 성능을 보이며, 뚜렷한 우월성을 입증한다.
• 실증 결과는 FedDualAvg가 클라이언트와 서버 모두에서 희소성을 유지함을 보여주며, FedMiD에서 발생하는 조밀한 해를 피한다.
• 이론적 분석은 비연속 목적함수에 대해 FedDualAvg가 O(1/√T)의 수렴 속도를 확보함을 확인하며, 적절한 조건 하에서는 중심화된 방법과 동일한 성능을 달성한다.
• 알고리즘의 수렴성은 클라이언트 이질성과 통신 제약에 대해 강건하며, 학습률 제어 및 이중 평균화를 통해 오차 항이 경계됨을 입증한다.
• 이 방법은 ℓ₁, 핵 노름, 제약 조건을 나타내는 특성 함수를 포함한 다양한 정규화자를 효과적으로 처리하여 생물의학 및 낮은 랭크 연합 학습 과제에의 적용 범위를 넓힌다.