[논문 리뷰] Federated Learning Meets Multi-objective Optimization

Zeou Hu, Kiarash Shaloudegi외 2명|arXiv (Cornell University)|2020. 06. 20.

Privacy-Preserving Technologies in Data참고 문헌 35인용 수 31

한 줄 요약

논문은 연합학습을 다객체 최적화로 형식화하고, Pareto 정지해에 수렴하고 분산된 에지 학습에서 정확도, 공정성, 강건성을 균형 있게 달성하는 알고리즘 FedMGDA+를 제시합니다.

ABSTRACT

Federated learning has emerged as a promising, massively distributed way to train a joint deep model over large amounts of edge devices while keeping private user data strictly on device. In this work, motivated from ensuring fairness among users and robustness against malicious adversaries, we formulate federated learning as multi-objective optimization and propose a new algorithm FedMGDA+ that is guaranteed to converge to Pareto stationary solutions. FedMGDA+ is simple to implement, has fewer hyperparameters to tune, and refrains from sacrificing the performance of any participating user. We establish the convergence properties of FedMGDA+ and point out its connections to existing approaches. Extensive experiments on a variety of datasets confirm that FedMGDA+ compares favorably against state-of-the-art.

연구 동기 및 목표

• 헤더: 연합학습에서 이질적인 사용자 데이터와 제한된 통신으로 인한 공정성 및 강건성 문제를 동기 부여합니다.
• FL의 각 사용자의 손실을 목표로 하는 다객체 최적화 관점을 도입합니다.
• Pareto 정지 해로의 수렴을 보장하는 알고리즘(FedMGDA+)을 개발합니다.
• 완만한 가정 하에서 이론적 수렴 보장을 제공합니다.
• 다양한 데이터셋 및 설정에서 FedMGDA+의 실증적 효과와 강건성을 보여줍니다.

제안 방법

• 각 사용자의 손실 f_i를 다객체 최소화 문제 MOP의 목표로 모델링합니다.
• MGDA를 FL에 확장하여 그래디언트의 볼록 결합을 최소화하는 하강 방향을 찾습니다.
• 그래디언트 헐(gradient hull)에서 간단한 2차 계획법을 풀이하여 최적의 이중 가중치 lambda_t를 계산합니다(노름 최소 방향).
• 적대적 조작에 대한 강건성을 높이고 업데이트를 안정화하기 위해 그래디언트를 정규화합니다.
• 통신과 계산의 균형을 맞추기 위해 각 라운드에 다수의 로컬 업데이트를 허용하고, non-iid 효과를 완화하기 위해 클라이언트를 샘플링합니다.
• 리프시츠 연속성 및 완만한 조건 아래 Pareto 정지 해로의 수렴을 증명합니다(Theorem 1a, 1b, 2).

실험 결과

연구 질문

• RQ1 참여 클라이언트 간의 다객체 최적화 문제로 연합학습을 효과적으로 프레이밍할 수 있는가?
• RQ2 MGDA 기반 업데이트(FedMGDA+)가 모든 클라이언트 목표를 손실 없이 개선하는 공통 하강 방향을 제공하는가?
• RQ3 비 iid 데이터 및 부분 참여가 있는 FL에서 FedMGDA+의 수렴 보장은 어떤가?
• RQ4 FedMGDA+의 공정성, 강건성, 정확도 간의 트레이드오프가 기존 FL 방법과 비교해 어떻게 나타나는가?
• RQ5 실제 데이터셋에 대한 경험적 결과가 FL 설정에서 FedMGDA+의 이론적 이점을 뒷받침하는가?

주요 결과

• FedMGDA+는 완만한 가정하에 Pareto 정지 해로로 수렴합니다(Theorems 1a와 1b).
• 이 방법은 이중 최적화를 통해 클라이언트 가중치를 자동으로 조정하여 평균 성능과 공정성의 균형을 맞추되 어떤 참여 클라이언트도 희생하지 않습니다.
• 그래디언트 정규화는 악의적 클라이언트에 대한 강건성을 높이고 안정적인 수렴에 기여합니다.
• 샘플링 및 로컬 업데이트 스킴은 FedMGDA+와 호환되며 하강 방향을 보존하고 확장 가능한 FL을 가능하게 합니다.
• 경험적 결과는 FedMGDA+가 정확도, 공정성, 강건성과 같은 지표에서 최첨단 방법과 경쟁력이 있음을 보여줍니다(실험에 요약).
• 논문은 FedMGDA+와 기존 FL 알고리즘 간의 연결고리를 제공하고 FL에 대한 MoM 관점에 대한 이론적 통찰을 제공합니다.