[論文レビュー] Decentralized Federated Learning with Unreliable Communications

Hao Ye, Le Liang+1 more|arXiv (Cornell University)|Aug 5, 2021

Privacy-Preserving Technologies in Data被引用数 11

ひとこと要約

本稿では、信頼性の低い通信ネットワーク上で運用するフェデレーテッドラーニング向けに、柔軟な分散型確率的勾配降下法であるSoft-DSGDを提案する。部分的に受信したメッセージを用いてモデルを更新し、リンクの信頼性に基づいて混合重みを最適化することで、パケット損失が発生しても中央集権的SGDと同等の漸近的収束速度を達成する。これにより、中央サーバーを必要とせず、効率的かつスケーラブルな学習が可能になる。

ABSTRACT

Decentralized federated learning, inherited from decentralized learning, enables the edge devices to collaborate on model training in a peer-to-peer manner without the assistance of a server. However, existing decentralized learning frameworks usually assume perfect communication among devices, where they can reliably exchange messages, e.g., gradients or parameters. But the real-world communication networks are prone to packet loss and transmission errors. Transmission reliability comes with a price. The commonly-used solution is to adopt a reliable transportation layer protocol, e.g., transmission control protocol (TCP), which however leads to significant communication overhead and reduces connectivity among devices that can be supported. For a communication network with a lightweight and unreliable communication protocol, user datagram protocol (UDP), we propose a robust decentralized stochastic gradient descent (SGD) approach, called Soft-DSGD, to address the unreliability issue. Soft-DSGD updates the model parameters with partially received messages and optimizes the mixing weights according to the link reliability matrix of communication links. We prove that the proposed decentralized training system, even with unreliable communications, can still achieve the same asymptotic convergence rate as vanilla decentralized SGD with perfect communications. Moreover, numerical results confirm the proposed approach can leverage all available unreliable communication links to speed up convergence.

研究の動機と目的

• 信頼性の低い通信環境における分散型フェデレーテッドラーニングの課題に取り組むこと。特に、パケット損失や伝送エラーが収束を妨げる要因となる点を対象とする。
• TCPのような信頼性の高いトランスポートプロトコルに依存しないこと。これらは高い通信オーバーヘッドを引き起こし、スケーラビリティを制限する。
• 実際の信頼性の低い通信環境（例：UDPベースのネットワーク）下でも収束性能を維持できる分散型学習フレームワークを設計すること。
• リンクの信頼性に基づいて混合重みを動的に最適化することで、モデル集約のロバスト性を向上させること。
• 提案手法が、完全な通信を仮定した場合の通常の分散型SGDと同等の漸近的収束速度に達することを証明すること。

提案手法

• 信頼性の低い通信環境下で、部分的に受信したメッセージのみを用いてモデルパラメータを更新する分散型SGDの変種、Soft-DSGDを提案する。
• ピアツーピア通信リンクの信頼性マトリクスに基づいて、リンクの信頼性に配慮した混合重み最適化戦略を導入する。
• 各デバイスが局所的な更新を実行し、不安定なトランスポート層（例：UDP）を介して隣接デバイスと勾配を交換する確率的勾配降下フレームワークを採用する。
• 欠落または遅延したメッセージを考慮した、コンSENSUSに基づく集約メカニズムを採用し、送信成功確率に応じて寄与度を重み付ける。
• 確率的メッセージ損失の下での理論的収束バウンドを導出し、完全通信を仮定した分散型SGDと同等の収束速度を示す。
• 誤差伝播行列のスペクトル半径を最小化する最適混合重みを計算するための凸最適化問題を解く。

実験結果

リサーチクエスチョン

• RQ1 通信リンクが信頼性が低く、パケット損失が生じる状況下でも、分散型フェデレーテッドラーニングは収束性能を維持できるか？
• RQ2 UDPのような不安定なトランスポートプロトコルを使用することで、分散型SGDの収束速度が信頼性の高いプロトコルと比較して劣化するか？
• RQ3 リンクの信頼性に基づいて混合重みを適応的に最適化することで、信頼性の低いネットワーク上でも収束性能を回復できるか？
• RQ4 部分的メッセージ受信や不安定なリンク下でも、中央集権的SGDと同等の漸近的収束速度を達成することは可能か？
• RQ5 実際のネットワーク環境下で、従来の分散型学習フレームワークと比較して、提案手法の収束速度とロバスト性はどのようにスケーリングするか？

主な発見

• Soft-DSGDは、信頼性の低いリンクや部分的メッセージ受信下でも、完全通信を仮定した通常の分散型SGDと同等の漸近的収束速度を達成する。
• Soft-DSGDの収束速度は、理論的境界と一致する O(1/√(NT)) + O(N/T) であることが証明されている。
• 数値結果により、Soft-DSGDが利用可能なすべての不安定な通信リンクを活用して収束を加速することが確認され、損失メッセージを無視する手法を上回る性能を示す。
• ロバストな混合重み最適化のおかげで、勾配更新の最大3/8が失われても収束を維持できる。
• 混合重みの最適化は凸であるため、信頼性の高い集約行列の計算が安定的かつ効率的に行える。
• 本フレームワークは、UDPのような軽量なトランスポートプロトコルとも互換性があり、通信オーバーヘッドを低減し、デバイスの接続性とスケーラビリティを向上させる。