[論文レビュー] Tackling the Objective Inconsistency Problem in Heterogeneous Federated Optimization

Jianyu Wang, Qinghua Liu+3 more|arXiv (Cornell University)|Jul 15, 2020

Privacy-Preserving Technologies in Data参考文献 51被引用数 572

ひとこと要約

この論文は、フェデレーテッド最適化における不均一な局所更新が原因となる目的の一貫性の欠如を分析し、一般的なフレームワークを導入し、更新を正規化して一貫した収束を達成する FedNova を提案します。

ABSTRACT

In federated optimization, heterogeneity in the clients' local datasets and computation speeds results in large variations in the number of local updates performed by each client in each communication round. Naive weighted aggregation of such models causes objective inconsistency, that is, the global model converges to a stationary point of a mismatched objective function which can be arbitrarily different from the true objective. This paper provides a general framework to analyze the convergence of federated heterogeneous optimization algorithms. It subsumes previously proposed methods such as FedAvg and FedProx and provides the first principled understanding of the solution bias and the convergence slowdown due to objective inconsistency. Using insights from this analysis, we propose FedNova, a normalized averaging method that eliminates objective inconsistency while preserving fast error convergence.

研究の動機と目的

• フェデレーデッド学習における局所更新の不平等さに起因する目的の一貫性の欠如問題を動機づけ、形式化する。
• 異種の局所進行の下で FedAvg と FedProx を包含する一般的な収束フレームワークを開発する。
• 一貫性の欠如によって生じるバイアスと遅延を特徴づけ、理論的保証を確立する。
• 目的の一貫性を達成しつつ迅速な収束を維持する正規化ベースの集約法（FedNova）を提案する。

提案手法

• 更新は、正規化勾配 di(t) を用いて代理目的関数 ɟ = sum wi Fi を最適化する一般化更新ルールとして表すことができる。
• d_i(t) を、局所勾配蓄積 a_i および L1 ノルムを用いて正規化勾配として定義する; a_i が局所ソルバーとスケジュールをどのように符号化するかを示す。
• 異種クライアント間の集約と進行を捉えるために、重み w_i と有効ステップ数 tau_eff を導入する。
• 代理目的の定常点への収束を証明し、代理目的と真の目的の両方に対する勾配ノルムを上界づける。
• FedNova が wi = pi（データ共有）を設定して目的の一貫性を排除し、線形の速度アップと収束保証を導くことを示す。
• さまざまな局所ソルバーとの互換性を示し、加速/分散減少技術との組み合わせの可能性を示す。

実験結果

リサーチクエスチョン

• RQ1 クライアント間の局所更新回数の異質性は、フェデレーテッド最適化の収束にどのような影響を与えるか。
• RQ2 FedAvg や FedProx のような標準的な集約法における目的の一貫性の欠如によって生じるバイアスを定量化し、緩和できるか。
• RQ3 正規化ベースの集約（FedNova）は、収束速度を犠牲にすることなく一貫性を回復できるか。
• RQ4 理論的保証は、非 IID データ、参加クライアントの変動、異なる局所ソルバーにどのように拡張されるか。
• RQ5 近接項や他のハイパーパラメータを調整したときの、目的の一貫性と収束遅延のトレードオフは何か。

主な発見

• FedAvg は代理目的の定常点へ収束するが、局所更新回数に依存して真のグローバル目的とは任意に異なる可能性がある。
• 目的の一貫性の欠如は、集約重みが真のデータシェア（pi）を反映しない限り、消えない誤差の下限を導入する。
• FedProx は不一致を減らすことはできても完全には排除せず、近似強度が大きくなると収束が遅れる可能性がある。
• 一般化更新ルールは多くのフェデレーテッドアルゴリズムを捕らえ、異なる局所更新によるバイアスと遅延を定量化する。
• FedNova は局所勾配を正規化して平均化することにより目的の不一致を排除し、一貫性を達成しつつ高速なエラーレート収束を維持する。
• FedNova は任意の局所ソルバーと適合し、分散削減とサーバー側の加速と組み合わせ可能である。