[論文レビュー] SimFBO: Towards Simple, Flexible and Communication-efficient Federated Bilevel Learning

Y. F. Yang, Peiyao Xiao+1 more|arXiv (Cornell University)|May 30, 2023

Privacy-Preserving Technologies in Data被引用数 4

ひとこと要約

本稿では、サブループを排除し、各イテレーションで1ラウンドの通信のみを必要とする、通信効率の高いフェデレーテッドバイレベル最適化フレームワークSimFBOを提案する。クライアント変数とサーバー変数を同時に更新することで、部分的参加下でも線形収束速度向上を達成し、サンプルおよび通信複雑性を改善する。さらに、システムレベルの非同一性に対しても収束を保証するロバストな変種（ShroFBO）を提供する。

ABSTRACT

Federated bilevel optimization (FBO) has shown great potential recently in machine learning and edge computing due to the emerging nested optimization structure in meta-learning, fine-tuning, hyperparameter tuning, etc. However, existing FBO algorithms often involve complicated computations and require multiple sub-loops per iteration, each of which contains a number of communication rounds. In this paper, we propose a simple and flexible FBO framework named SimFBO, which is easy to implement without sub-loops, and includes a generalized server-side aggregation and update for improving communication efficiency. We further propose System-level heterogeneity robust FBO (ShroFBO) as a variant of SimFBO with stronger resilience to heterogeneous local computation. We show that SimFBO and ShroFBO provably achieve a linear convergence speedup with partial client participation and client sampling without replacement, as well as improved sample and communication complexities. Experiments demonstrate the effectiveness of the proposed methods over existing FBO algorithms.

研究の動機と目的

• 複数のサブループに依存する従来のフェデレーテッドバイレベル最適化（FBO）手法が抱える高い通信コストと複雑な実装を解消すること。
• ネストされた最適化構造のため実装が困難であるが、FBOにおけるクライアントの非復元抽出を可能にすること。
• クライアントの計算能力やストレージの違いといったシステムレベルの非同一性に対する耐性を高めること。
• 部分的クライアント参加下で線形収束速度向上を達成し、サンプルおよび通信複雑性を低減すること。

提案手法

• SimFBOは、1イテレーションあたり1回の通信ラウンドを採用し、上位変数$x$、下位変数$y$、およびハイパーグラデント近似変数$v$を同時に更新する。
• クライアントの非復元抽出を可能にするために、$x$、$y$、$v$のサーバー側集約を一般化した手法を導入し、柔軟な集約戦略をサポートする。
• 下位最適化とハイパーグラデント計算のための別個のサブループを回避するため、1つのループ内で再帰的更新によりヘッセ逆行列×ベクトル積を近似する。
• ShroFBOは、クライアントの計算非同一性に対しても元の目的関数の最適解に収束することを保証する、正規化された補正ベースのサーバー更新を導入することでSimFBOを強化する。
• 理論的分析により、部分的クライアント参加下での線形収束速度向上および改善されたサンプルおよび通信複雑性を確立する。

実験結果

リサーチクエスチョン

• RQ1 サブループを排除し、1イテレーションあたり1ラウンドの通信のみでフェデレーテッドバイレベル最適化を達成できるか？
• RQ2 ネストされた最適化構造下で、FBOにおけるクライアントの非復元抽出をどのように実現できるか？
• RQ3 サーバー側集約を一般化することで、通信効率の向上と柔軟な集約戦略のサポートが可能か？
• RQ4 提案手法は、システムレベルの非同一性下でも元の目的関数に収束するか？
• RQ5 提案手法の理論的サンプルおよび通信複雑性は、先行研究と比較してどのように異なるか？

主な発見

• SimFBOおよびShroFBOは、$\mathcal{O}(\epsilon^{-2}P^{-1})$のサンプル複雑性を達成し、FedMBOにおける最良の既知の結果と一致する。
• 両手法とも、部分的クライアント参加および非復元抽出下で線形収束速度向上を達成する。
• サブループの排除により、AIDおよびITDベースのFBO手法と比較して通信複雑性が顕著に低減される。
• ShroFBOは、ナードな集約とは異なり、システムレベルの非同一性下でも元の目的関数の停留点に理論的に収束することが保証される。
• 実験により、収束速度および通信効率の面で、既存のFBOアルゴリズムを上回る優れた性能を示した。