[논문 리뷰] FedCBO: Reaching Group Consensus in Clustered Federated Learning through Consensus-based Optimization

José A. Carrillo, Nicolás García Trillos외 2명|arXiv (Cornell University)|2023. 05. 04.

Stochastic Gradient Optimization Techniques인용 수 6

한 줄 요약

이 논문은 비알려진, 상호배타적인 클러스터에 속한 사용자들 간의 비독립 동일분포(Non-i.i.d.) 환경에서 군집화된 피어드 페더레이티드 러닝(Federated Learning)을 위한 공감 기반 최적화 프레임워크인 FedCBO를 제안한다. 이는 명시적인 클러스터 지식 없이도 그룹 단위로 모델 수렴을 가능하게 한다. 사용자를 상호작용하는 입자로 모델링하고, 평균장 동역학을 통해 클러스터 특화 최소화점을 향해 자가조직화하는 방식으로, FedCBO는 비독립 동일분포 환경에서 최신 기술 대비 뛰어난 성능을 보이며, 대규모 사용자 집단에서 이론적 수렴 보장을 제공한다.

ABSTRACT

Federated learning is an important framework in modern machine learning that seeks to integrate the training of learning models from multiple users, each user having their own local data set, in a way that is sensitive to data privacy and to communication loss constraints. In clustered federated learning, one assumes an additional unknown group structure among users, and the goal is to train models that are useful for each group, rather than simply training a single global model for all users. In this paper, we propose a novel solution to the problem of clustered federated learning that is inspired by ideas in consensus-based optimization (CBO). Our new CBO-type method is based on a system of interacting particles that is oblivious to group memberships. Our model is motivated by rigorous mathematical reasoning, including a mean field analysis describing the large number of particles limit of our particle system, as well as convergence guarantees for the simultaneous global optimization of general non-convex objective functions (corresponding to the loss functions of each cluster of users) in the mean-field regime. Experimental results demonstrate the efficacy of our FedCBO algorithm compared to other state-of-the-art methods and help validate our methodological and theoretical work.

연구 동기 및 목표

• 사용자가 알려지지 않은 비중첩 클러스터에 속해 있고 데이터 분포가 이질적인 상황에서 개인화된 모델을 훈련하는 데 도전하는 것.
• 클러스터 식별 정보 없이도 서로 다른 클러스터에 대응하는 다중 비볼록 손실 함수를 동시에 최적화할 수 있는 방법을 개발하는 것.
• 평균장 분석을 활용한 엄밀한 수학적 기반을 구축하고, 입자 수가 많아지는 극한에서의 수렴 보장을 확립하는 것.
• 통신 비용을 최소화하고 데이터 프라이버시를 유지하면서도 클러스터 내에서 공감을 달성하는 실용적 알고리즘—FedCBO를 설계하는 것.

제안 방법

• 각 입자가 사용자의 모델 파라미터를 나타내는 CBO 유형의 상호작용 입자 시스템을 제안하며, 이는 클러스터 내에서 공감을 이끌어내는 스토하스틱 동역학을 통해 진화한다.
• 입자 시스템의 평균장 극한을 도입하여, 사용자 수가 증가함에 따라 입자의 경험적 측도가 평균장의 결정론적 해로 약한 수렴함을 보여준다. 이는 Fokker-Planck 유사 PDE로 제어된다.
• 클러스터의 손실 기울기의 경험적 평균과 글로벌 최소화점의 현재 추정치를 향해 입자가 끌리는 공감 메커니즘을 도입하며, 이는 명시적인 클러스터 레이블이 필요하지 않다.
• 알고리즘에서 경험적 평균을 가중 평균 평균화 규칙(식 19)을 활용하여 강건성을 향상시키고, 클러스터 특화 최소화점으로의 수렴을 가능하게 한다.
• 평균장 시스템의 시간 진화를 분석하여, 각 클러스터 내 입자가 해당 클러스터의 손실 함수의 글로벌 최소화점으로 수렴함을 증명한다.
• 약한 수렴과 Skorokhod 정리를 활용하여 입자 시스템이 평균장 극한으로 수렴함을 이론적으로 확립하며, 경험적 측도가 한정 측도에서 Dirac 델타로 거의 확실히 수렴함을 보여준다.

실험 결과

연구 질문

• RQ1 사용자 그룹 소속 정보 없이도 공감 기반 최적화 프레임워크가 군집 특화 모델을 효과적으로 학습할 수 있는가?
• RQ2 제안된 입자 시스템의 평균장 극한은 어떻게 행동하며, 각 클러스터의 손실 함수 최소화점으로 수렴하는가?
• RQ3 유한 입자 시스템의 이론적 수렴 거동은 무엇이며, 이는 평균장 근사와 어떻게 관련되는가?
• RQ4 FedCBO 알고리즘이 비독립 동일분포 피어드 페더레이티드 러닝 환경에서 최신 기술 대비 성능 및 강건성 측면에서 어떻게 비교되는가?
• RQ5 평균화 및 공감 메커니즘 덕분에 입자 동역학 메커니즘이 악성 공격에 대해 내재된 강건성을 제공할 수 있는가?

주요 결과

• FedCBO 알고리즘이 비독립 동일분포 데이터 환경에서 알려지지 않은 그룹 구조를 가진 군집화된 피어드 페더레이티드 러닝에서 기존 최신 기술 대비 뛰어난 성능을 보였다.
• 이론적 분석을 통해 입자 수가 무한대에 가까워질수록 입자 시스템이 법적 수렴을 보이며 결정론적 평균장 극한으로 수렴함을 확인하였다.
• 평균장 동역학은 클러스터 내 입자들이 클러스터 손실 함수의 글로벌 최소화점 주변에서 공감을 이룰 수 있도록 유도하며, 이는 명시적인 클러스터 정보 없이도 가능하다.
• 입자 경험적 측도가 평균장 해로 수렴하는 확률적 수렴이 확립되었으며, 이 수렴 속도는 시간에 따라 Levy-Prokhorov 거리로 제어된다.
• 이 방법은 데이터 이질성에 강건하며, 각 클러스터별 개인화된 모델 훈련을 가능하게 하여 비독립 동일분포 상황에서 글로벌 모델 훈련보다 성능을 향상시킨다.
• 이론적 결과는 FedCBO가 가중 평균 평균화 집계 메커니즘 덕분에 악성 공격에 대해 내재된 보호 기능을 제공할 수 있음을 시사한다.