[論文レビュー] Federated Learning Meets Multi-objective Optimization

Zeou Hu, Kiarash Shaloudegi+2 more|arXiv (Cornell University)|Jun 20, 2020

Privacy-Preserving Technologies in Data参考文献 35被引用数 31

ひとこと要約

本論文は連邦学習を多目的最適化として定式化し、Pareto stationary解へ収束し、分散エッジ学習における精度・公平性・堅牢性をバランスさせるアルゴリズムである FedMGDA+ を提案する。

ABSTRACT

Federated learning has emerged as a promising, massively distributed way to train a joint deep model over large amounts of edge devices while keeping private user data strictly on device. In this work, motivated from ensuring fairness among users and robustness against malicious adversaries, we formulate federated learning as multi-objective optimization and propose a new algorithm FedMGDA+ that is guaranteed to converge to Pareto stationary solutions. FedMGDA+ is simple to implement, has fewer hyperparameters to tune, and refrains from sacrificing the performance of any participating user. We establish the convergence properties of FedMGDA+ and point out its connections to existing approaches. Extensive experiments on a variety of datasets confirm that FedMGDA+ compares favorably against state-of-the-art.

研究の動機と目的

• 異種データを持つユーザーと限定的な通信環境において、連邦学習における公平性と堅牢性の課題を動機づける。
• 各ユーザーの損失を目的関数とする、FLにおける多目的最適化の視点を導入する。
• Pareto stationary解への収束を保証するアルゴリズム（FedMGDA+）を開発する。
• 緩やかな仮定の下での理論的収束保証を提供する。
• 異なるデータセットと設定にわたるFedMGDA+の実証的な有効性と堅牢性を示す。

提案手法

• 各ユーザーの損失 f_i を多目的最小化問題 MOP の目的関数としてモデル化する。
• 多重勾配降下法 MGDA を FL に拡張し、勾配の凸結合を最小化する下降方向を見つける。
• 勾配の凸包上で単純な二次計画問題を解くことにより、最適な対偶重み lambda_t を計算する（min-norm direction）。
• 勾配を正規化して、敵対的操作に対する堅牢性を高め、更新を安定化させる。
• ラウンドあたり複数の局所更新を許可して通信と計算のバランスをとり、非iid効果を緩和するためにクライアントのサブサンプリングを行う。
• リプシッツ滑らかさと緩やかな条件の下で Pareto stationary 解への収束を証明する（定理 1a, 1b, 2）。

実験結果

リサーチクエスチョン

• RQ1 参加クライアント間で連邦学習を効果的に多目的最適化問題として定式化できるか。
• RQ2 MGDA に基づく更新（FedMGDA+）は、いずれのクライアントの目的も損なうことなく全クライアントの目的を改善する共通の下降方向を提供できるか。
• RQ3 非 iid データと部分参加を伴う FL において、FedMGDA+ にどのような収束保証を確立できるか。
• RQ4 FedMGDA+ が既存のFL手法と比較して、公平性・堅牢性・精度のトレードオフがどのように振る舞うか。
• RQ5 実データセットにおける経験的結果は、FL設定での FedMGDA+ の理論的優位性を支持しているか。

主な発見

• FedMGDA+ は緩やかな仮定の下で Pareto stationary 解へ収束する（定理 1a および 1b）。
• 本手法は対となる最適化を通じてクライアントの重みを自動的に調整し、平均性能と公平性をバランスさせながらも参加するいずれのクライアントも犠牲にしない。
• 勾配正規化は悪意のあるクライアントに対する堅牢性を高め、安定した収束に寄与する。
• サブサンプリングと局所更新スキームは FedMGDA+ と適合し、下降方向を保持し、スケーラブルな FL を実現する。
• 実験で要約されるように、FedMGDA+ は精度・公平性・堅牢性などの指標で最先端手法と競合することを示している。
• 本論文は FedMGDA+ と既存の FL アルゴリズムとの関連を示し、FL の MoM の観点に対する理論的洞察を提供する。