[논문 리뷰] Maximizing Global Model Appeal in Federated Learning

Yae Jee Cho, Divyansh Jhunjhunwala외 3명|arXiv (Cornell University)|2022. 05. 30.

Privacy-Preserving Technologies in Data인용 수 4

한 줄 요약

이 논문은 클라이언트의 개별 성능 요구사항을 충족시키는 클라이언트 수의 비율인 '글로벌 모델 매력도'를 최대화함으로써, 모델 업데이트를 클라이언트 요구사항 인식 가중 평균화 방식으로 처리하는 새로운 피어드 학습 프레임워크 MaxFL을 소개한다. MaxFL은 최신 기술 기반의 피어드 학습 방법에 비해 볼 수 있는 클라이언트에서 22–40% 높은 테스트 정확도를 달성하고, 볼 수 없는 클라이언트에서는 18–50% 높은 정확도를 기록한다. 또한 비볼록, 부분적 참여 조건 하에서 수렴 보장을 제공한다.

ABSTRACT

Federated learning typically considers collaboratively training a global model using local data at edge clients. Clients may have their own individual requirements, such as having a minimal training loss threshold, which they expect to be met by the global model. However, due to client heterogeneity, the global model may not meet each client's requirements, and only a small subset may find the global model appealing. In this work, we explore the problem of the global model lacking appeal to the clients due to not being able to satisfy local requirements. We propose MaxFL, which aims to maximize the number of clients that find the global model appealing. We show that having a high global model appeal is important to maintain an adequate pool of clients for training, and can directly improve the test accuracy on both seen and unseen clients. We provide convergence guarantees for MaxFL and show that MaxFL achieves a $22$-$40\%$ and $18$-$50\%$ test accuracy improvement for the training clients and unseen clients respectively, compared to a wide range of FL modeling approaches, including those that tackle data heterogeneity, aim to incentivize clients, and learn personalized or fair models.

연구 동기 및 목표

• 글로벌 모델이 개별 클라이언트의 성능 요구사항을 충족시키지 못함으로써 발생하는 낮은 클라이언트 참여 문제를 해결하기 위해.
• 글로벌 모델이 로컬 요구사항을 충족시키는 클라이언트의 비율로 정의된 '글로벌 모델 매력도' 개념을 정의하고 수식화하기 위해.
• 이 매력도를 명시적으로 최대화하는 학습 프레임워크를 개발하여 클라이언트 유지를 향상시키고 모델 일반화 능력을 강화하기 위해.
• 비볼록, 부분적 참여 조건 하에서도 실제 피어드 학습 환경을 반영한 제안된 방법의 이론적 수렴 보장을 제공하기 위해.
• 정의된 방법이 기존 방법들에 비해 공정성, 개인화, 클라이언트 인cent라이브 메커니즘 측면에서 우월함을 실증적으로 검증하기 위해.

제안 방법

• MaxFL은 각 클라이언트의 로컬 손실이 클라이언트별 임계값 이하일 경우를 만족하는 클라이언트 수를 최대화하는 글로벌 최적화 목표를 수립하며, 이를 글로벌 모델 매력도(GM-Appeal)로 정의한다.
• 클라이언트 만족도의 지표 함수를 유연하게 근사하기 위해, 미분 가능한 시그모이드 기반의 근사화를 사용하여 클라이언트 가중 평균화 방식의 기울기 기반 최적화를 가능하게 한다.
• 클라이언트의 기대 기여도에 따라 업데이트 기여도를 조정하는 클라이언트 가중 평균화 규칙을 적용하며, 이는 경험적 로컬 손실에서 유도된 것이다.
• 목표 함수의 평탄한 영역에서 수렴 속도를 향상시키기 위해 이론적 학습률 적응 전략을 도입하여 최적화 효율성을 향상시킨다.
• 프레임워크는 상태 비저장이며 부분적 클라이언트 참여를 지원하여, 동적 클라이언트 가용성 조건을 갖는 실세계 피어드 학습 환경에 실용적으로 적용 가능하다.
• 최적화 목표에서 진정한 로컬 손실을 경험적 손실로 대체하며, 훈련된 모델에서 진정한 손실과 경험적 손실 간의 최소한의 편차를 실증적으로 입증함으로써 이 핵심 근사화의 타당성을 뒷받침한다.

실험 결과

연구 질문

• RQ1 피어드 학습을 어떻게 재구조화하여 글로벌 모델이 매력적으로 느껴지는 클라이언트의 수를 최대화할 수 있는가?
• RQ2 높은 글로벌 모델 매력도는 볼 수 있는 클라이언트와 볼 수 없는 클라이언트의 테스트 정확도에 어떤 영향을 미치는가?
• RQ3 클라이언트 요구사항 인식 가중 평균화 전략은 공정성, 개인화 또는 분산 감소에 초점을 맞춘 기존 방법들보다 뛰어난 성능을 낼 수 있는가?
• RQ4 비볼록, 클라이언트 가중, 매력도 최대화 피어드 학습 알고리즘에 대해 어떤 이론적 수렴 보장을 제공할 수 있는가?
• RQ5 동적 클라이언트 참여 조건, 즉 이탈 또는 바이러스 클라이언트 존재 조건 하에서도 제안된 방법의 강건성은 어떠한가?

주요 결과

• MaxFL은 평가된 모든 데이터셋에서 글로벌 모델 매력도(GM-Appeal)를 최소 0.40까지 높여, 공정성 중심 기법인 q-FFL과 비교해도 0.01 이하에 머무르는 수준을 크게 뛰어넘는 성능을 기록한다.
• MaxFL은 개인화, 공정성, 분산 감소 기반의 다양한 피어드 학습 기반선에 비해 볼 수 있는 클라이언트에서 테스트 정확도를 22–40% 향상시킨다.
• 볼 수 없는 클라이언트의 경우, MaxFL은 정확도를 18–50% 향상시키며, 높은 매력도로 인해 더 큰 다양성 있는 클라이언트 풀을 확보함으로써 뛰어난 일반화 능력을 입증한다.
• 클라이언트가 이탈하거나 바이러스 클라이언트가 참여하는 상황에서도 강력한 성능 유지를 보이며, 동적 환경에서의 강건성을 입증한다.
• 실증적 검증을 통해 훈련된 모델에서 진정한 로컬 손실과 경험적 손실이 거의 동일함을 확인하여, MaxFL 최적화에서 사용된 핵심 근사화의 타당성을 뒷받침한다.
• MaxFL의 이론적 학습률 적응 전략은 평균 추정 예제에서 평탄한 영역에서의 수렴 속도 향상을 입증하며, 적응형 학습률 전략의 타당성을 검증한다.