[論文レビュー] Stochastic Client Selection for Federated Learning with Volatile Clients

Tiansheng Huang, Weiwei Lin+3 more|arXiv (Cornell University)|Nov 17, 2020

Privacy-Preserving Technologies in Data被引用数 8

ひとこと要約

本稿では、変動するクライアント環境下でのフェデレーテッドラーニングにおける、効果的な参加と公平性のバランスを図り、最終的なモデル精度を損なわずに収束を加速するための確率的クライアント選択アルゴリズムE3CSを提案する。動的選択確率の調整を、インクリメンタルな公平性を組み込んだExp3ベースのアプローチで実現することで、最先端の手法と比較して最大2倍の高速な収束を達成しながら、同等の最終的精度を維持する。

ABSTRACT

Federated Learning (FL), arising as a privacy-preserving machine learning paradigm, has received notable attention from the public. In each round of synchronous FL training, only a fraction of available clients are chosen to participate, and the selection decision might have a significant effect on the training efficiency, as well as the final model performance. In this paper, we investigate the client selection problem under a volatile context, in which the local training of heterogeneous clients is likely to fail due to various kinds of reasons and in different levels of frequency. {\color{black}Intuitively, too much training failure might potentially reduce the training efficiency, while too much selection on clients with greater stability might introduce bias, thereby resulting in degradation of the training effectiveness. To tackle this tradeoff, we in this paper formulate the client selection problem under joint consideration of effective participation and fairness.} Further, we propose E3CS, a stochastic client selection scheme to solve the problem, and we corroborate its effectiveness by conducting real data-based experiments. According to our experimental results, the proposed selection scheme is able to achieve up to 2x faster convergence to a fixed model accuracy while maintaining the same level of final model accuracy, compared with the state-of-the-art selection schemes.

研究の動機と目的

• 変動するクライアントを伴うフェデレーテッドラーニングにおける、収束速度と最終的モデル精度のトレードオフを解消すること。
• 頻繁に選択されるクライアントに過剰適合する可能性がある選択バイアスを軽減すること。
• 効果的な参加（すなわち、正常なモデルアップロードの成功）とクライアント選択における公平性を同時に最適化すること。
• 初期段階では高利便性のクライアントを優先し、長期的に公平性を確保する動的選択戦略を設計すること。

提案手法

• E3CSは、クライアント選択における探索と活用のバランスを図るために、Exp3アルゴリズムを用いた敵対的マルチアームバンディットフレームワークを採用する。
• 初期ラウンドでは公平性をゼロ（σₜ = 0）として初期化し、効果的な参加を最大化するが、後続のラウンドでは徐々に公平性を高め、σₜ = k/K に到達させる公平性クォータメカニズムを導入する。
• アルゴリズムは、過去の成功確率と損失値に基づきクライアントごとの確率分布を維持し、安定的かつ高パフォーマンスを示すクライアントを優遇する選択確率を調整する。
• T/4ラウンドを過ぎた後、動的公平性調整を適用し、活用から探索への移行を図ることで、特定のクライアント群への過剰適合を防ぐ。
• IIDおよび非IIDデータ分布の両方の条件下で評価を行い、選択基数と収束速度に関するアブレーションスタディを実施する。
• クライアントの故障率やデータ分布に関する事前知識が不要であるため、実用的かつスケーラブルに設計されている。

実験結果

リサーチクエスチョン

• RQ1 変動するクライアント環境（変動する故障率を伴う）が、フェデレーテッドラーニングの収束と精度にどのように影響を与えるか？
• RQ2 クライアント選択において、効果的な参加の最大化と公平性の確保の間には、どのようなトレードオフが存在するか？
• RQ3 確率的選択戦略は、初期段階の収束速度と長期的なモデル精度の両立を動的に実現できるか？
• RQ4 クライアント効果的参加（CEP）の影響は、異なる学習段階やデータ分布においてどのように変化するか？
• RQ5 変動するフェデレーテッドラーニング環境下で、クライアント選択の公平性が最終的なモデル性能に及ぼす影響はどの程度か？

主な発見

• E3CSは、FedCS や Random といった最先端の選択方式と比較して、固定の精度閾値に到達するまでの収束が最大2倍速い。
• インクリメンタル公平性を組み込んだE3CS-incは、初期学習段階で高い収束速度を維持しながら、最終的なモデル精度の低下を回避する。
• クライアント効果的参加（CEP）の影響は、主に初期学習段階で顕著であり、収束に近づくにつれて低下する。
• CEPは高いが公平性が低い選択方式（例：FedCS）は、頻繁に選択されるクライアントに過剰適合することで、最終的な精度が低下する。
• 非IIDデータ設定では、高CEPと低CEPの方式の性能差が拡大するため、タスクの難易度がCEPの収束速度への影響を強化することが示された。
• 公平性の高い方式（例：Random(A)）は、後期の学習段階でやがてバイアスの強い方式を上回る性能を示し、学習が進むにつれて公平性の重要性が高まることを確認した。