[논문 리뷰] SimFBO: Towards Simple, Flexible and Communication-efficient Federated Bilevel Learning

Y. F. Yang, Peiyao Xiao외 1명|arXiv (Cornell University)|2023. 05. 30.

Privacy-Preserving Technologies in Data인용 수 4

한 줄 요약

이 논문은 하위 루프를 제거하고 반복마다 단일 라운드 통신을 가능하게 하여 통신 효율성을 높인 연합 이중 최적화 프레임워크인 SimFBO를 제안한다. 클라이언트 및 서버 변수를 동시에 업데이트함으로써 부분적 클라이언트 참여 시 선형 수렴 속도 향상을 달성하고, 샘플 및 통신 복잡도를 향상시킨다. 또한, 체계적 이종성에 대응하는 강건한 변형인 ShroFBO를 제공하여 수렴성을 보장한다.

ABSTRACT

Federated bilevel optimization (FBO) has shown great potential recently in machine learning and edge computing due to the emerging nested optimization structure in meta-learning, fine-tuning, hyperparameter tuning, etc. However, existing FBO algorithms often involve complicated computations and require multiple sub-loops per iteration, each of which contains a number of communication rounds. In this paper, we propose a simple and flexible FBO framework named SimFBO, which is easy to implement without sub-loops, and includes a generalized server-side aggregation and update for improving communication efficiency. We further propose System-level heterogeneity robust FBO (ShroFBO) as a variant of SimFBO with stronger resilience to heterogeneous local computation. We show that SimFBO and ShroFBO provably achieve a linear convergence speedup with partial client participation and client sampling without replacement, as well as improved sample and communication complexities. Experiments demonstrate the effectiveness of the proposed methods over existing FBO algorithms.

연구 동기 및 목표

• 다중 하위 루프에 의존하는 기존 연합 이중 최적화(FBO) 방법이 겪는 높은 통신 비용과 복잡한 구현 문제를 해결하기 위해.
• 중첩 최적화 구조로 인해 어려운, FBO에서의 클라이언트 샘플링을 무작위로 선택하지 않고도 가능하게 하기 위해.
• 다양한 클라이언트의 계산 능력과 스토리지 등 체계적 이종성과 같은 요소에 대한 내성 강화를 위해.
• 부분적 클라이언트 참여 시 증명 가능하게 선형 수렴 속도 향상과 함께 샘플 및 통신 복잡도를 감소시키기 위해.

제안 방법

• SimFBO는 반복마다 단일 통신 라운드를 사용하며, 상위 수준 변수 $x$, 하위 수준 변수 $y$, 그리고 초기화 기반 기울기 근사 변수 $v$를 동시에 업데이트한다.
• 클라이언트 샘플링을 무작위로 선택하지 않고도 가능하게 하기 위해, $x$, $y$, $v$에 대한 일반화된 서버 측 집계를 도입하여 다양한 집계 전략을 지원한다.
• 하위 수준 최적화 및 초기화 기반 기울기 계산을 위한 별도의 하위 루프가 필요 없도록, 단일 루프 내에서 재귀적 업데이트를 통해 헤시안 역행렬-벡터 곱을 근사한다.
• ShroFBO는 클라이언트 계산 이종성에도 불구하고 원래 목표 함수의 정적 점으로 수렴하도록 보장하기 위해 정규화된 보정 기반 서버 업데이트를 도입하여 SimFBO를 향상시킨다.
• 이론적 분석을 통해 부분적 클라이언트 참여 조건 하에서 선형 수렴 속도 향상과 개선된 샘플 및 통신 복잡도를 입증한다.

실험 결과

연구 질문

• RQ1 하위 루프 없이 반복마다 단일 통신 라운드로 연합 이중 최적화를 달성할 수 있는가?
• RQ2 중첩 최적화 구조 하에서 FBO에서 클라이언트 샘플링을 무작위로 선택하지 않고도 지원할 수 있는가?
• RQ3 서버 측 집계를 일반화하여 통신 효율성을 향상시키고 다양한 집계 전략을 지원할 수 있는가?
• RQ4 제안된 방법은 체계적 이종성 하에서도 원래 목표 함수로의 수렴을 유지하는가?
• RQ5 기존 작업과 비교해 제안된 방법의 이론적 샘플 및 통신 복잡도는 어떠한가?

주요 결과

• SimFBO 및 ShroFBO는 샘플 복잡도 $\mathcal{O}(\epsilon^{-2}P^{-1})$를 달성하며, FedMBO에서 얻은 최고 성능과 동일하다.
• 양쪽 방법 모두 부분적 클라이언트 참여 및 샘플링을 무작위로 선택하지 않고도 선형 수렴 속도 향상을 달성한다.
• 하위 루프 제거로 인해 AID 및 ITD 기반 FBO 방법 대비 통신 복잡도가 크게 감소한다.
• ShroFBO는 나태한 집계와 달리, 체계적 이종성 하에서도 원래 목표 함수의 정적 점으로 증명 가능하게 수렴한다.
• 실험 결과, 기존 FBO 알고리즘 대비 SimFBO 및 ShroFBO가 수렴 속도와 통신 효율성에서 뛰어난 성능을 보였다.