[論文レビュー] Gossip Dual Averaging for Decentralized Optimization of Pairwise Functions

Igor Colin, Aurélien Bellet+2 more|arXiv (Cornell University)|Jun 8, 2016

Distributed Control Multi-Agent Systems参考文献 27被引用数 29

ひとこと要約

本稿では、センサーやIoTネットワークにおけるペアワイズ関数の分散最適化のためのgossip双対平均アルゴリズムを提案する。各ノードは隣接ノードとのみ通信する。この手法により、双対変数を維持し、バイアス付き勾配推定を用いることで、通信制約やネットワークトポロジの影響にもかかわらず、集中型双対平均に近い収束速度を達成する。これにより、AUC最大化やメトリクス学習などのグローバルモデルの効率的でスケーラブルな学習が可能になる。

ABSTRACT

In decentralized networks (of sensors, connected objects, etc.), there is an important need for efficient algorithms to optimize a global cost function, for instance to learn a global model from the local data collected by each computing unit. In this paper, we address the problem of decentralized minimization of pairwise functions of the data points, where these points are distributed over the nodes of a graph defining the communication topology of the network. This general problem finds applications in ranking, distance metric learning and graph inference, among others. We propose new gossip algorithms based on dual averaging which aims at solving such problems both in synchronous and asynchronous settings. The proposed framework is flexible enough to deal with constrained and regularized variants of the optimization problem. Our theoretical analysis reveals that the proposed algorithms preserve the convergence rate of centralized dual averaging up to an additive bias term. We present numerical simulations on Area Under the ROC Curve (AUC) maximization and metric learning problems which illustrate the practical interest of our approach.

研究の動機と目的

• 大規模かつ完全に分散型のネットワーク（例：IoTおよびセンサーネットワーク）におけるペアワイズ関数の分散最適化を解決すること。
• 中央集権的制御を回避し、非同期通信環境下でも動作するgossipベースのアルゴリズムを開発すること。
• 分散環境下での制約付きおよび正則化付きペアワイズ最適化問題の変種を処理すること。
• 通信およびデータ分布の制約があるにもかかわらず、集中型双対平均と同等の収束速度を達成すること。

提案手法

• 各ノードが双対変数を維持し、局所的および隣接ノードのデータからのバイアス付き勾配推定を用いて更新するgossipベースの双対平均フレームワークを提案する。
• 完全なデータ交換なしにペアワイズ関数の近似勾配を計算するための軽量なデータ伝搬スキームを導入する。
• 局所的双対変数をペアワイズ通信を通じて集約する双対平均更新ルールを用い、共通解への収束を保証する。
• 同期的および非同期的設定の両方における収束を分析し、反復回数が増えるにつれて急速に消える加法的バイアス項まで収束することを示す。
• AUC最大化やメトリクス学習などの問題にこの手法を適用し、ペアワイズ相互作用をモデル化する仮想ノードのネットワークを用いる。
• ネットワークラプラシアンのスペクトル解析を用いて収束速度を限定し、ネットワークの接続性およびトポロジと関連付ける。

実験結果

リサーチクエスチョン

• RQ1 双対平均に基づくgossipアルゴリズムは、中央集権的制御なしに分散型ペアワイズ関数最適化を効果的に解けるか？
• RQ2 提案されたgossip双対平均法の収束速度は、分散環境下での集中型双対平均と比べてどの程度か？
• RQ3 ネットワークトポロジおよび非同期性は、提案されたアルゴリズムの性能および収束にどのような影響を与えるか？
• RQ4 勾配推定のバイアスはどの程度の速さで減少し、実際の最適化性能に顕著な影響を与えるか？
• RQ5 アルゴリズムは、分散環境下で制約付きおよび正則化付きのペアワイズ最適化問題の変種を処理できるか？

主な発見

• 提案されたgossip双対平均アルゴリズムは、反復回数が増えるにつれて急速に消える加法的バイアス項を除き、集中型双対平均に非常に近い収束速度を達成する。
• AUC最大化およびメトリクス学習における数値シミュレーションでは、接続性の高いネットワークではバイアス項の影響がほとんど認められず、実用的無視可能性が確認された。
• Watts-Strogatzネットワークおよび完全ネットワークの両方で同程度の性能を示し、ネットワークトポロジに対して高いロバストネスを示した。
• 合成データおよび実世界のデータ（例：Breast Cancer Wisconsinデータセット）を用いた実験では、50回のランで最小限の分散で目的関数が安定して収束した。
• 合成および実データの両方で、反復回数の増加に伴いバイアス項が急速に減少することが観察され、理論的仮定であるバイアスの速やかな減少を支持した。
• データの集約やグローバルな調整を必要とせず、分散型メトリクス学習およびAUC最大化に成功した。