[論文レビュー] Distributed Stochastic Approximation Algorithm With Expanding Truncations

Jinlong Lei, Han-Fu Chen|arXiv (Cornell University)|Oct 27, 2014

Neural Networks Stability and Synchronization被引用数 2

ひとこと要約

本稿では、多エージェントネットワークにおける局所関数の和の根を見つけるために、拡張型打ち切りを用いた分散確率的近似アルゴリズム（DSAAWET）を提案する。拡張型打ち切りを用いることで、局所関数の成長率制約が不要なまま推定値が有界となることを保証し、先行研究よりも弱い条件下でも、グローバル関数の根集合内の共通集合への確実収束を達成する。

ABSTRACT

In this paper, a novel distributed stochastic approximation algorithm (DSAA) is proposed to seek roots of the sum of local functions, each of which is associated with an agent from multiple agents connected over a network. At each iteration, each agent updates its estimate for the root utilizing the noisy observations of its local function and the information derived from the neighboring agents. The key difference of the proposed algorithm from the existing ones consists in the expanding truncations (so it is called the DSAAWET), by which the boundedness of the estimates can be guaranteed without imposing the growth-rate constraints on the local functions. The estimates generated by the DSAAWET are shown to converge almost surely to a consensus set, which belongs to a connected subset of the root set of the sum function. In comparison with the existing results, we impose weaker conditions on the local functions and on the observation noise. We then apply the proposed algorithm to two applications, one from signal processing and the other one from distributed optimization, and establish the almost sure convergence. Numerical simulation results are also included.

研究の動機と目的

• 各エージェントが局所関数にのみアクセス可能な分散根の特定問題に対処すること。
• 従来の分散確率的近似アルゴリズムで一般的に要求される、局所関数の成長率制約を排除すること。
• 関数の成長に関する事前知識が不要な、独創的な拡張型打ち切り機構により推定値の有界性を保証すること。
• 局所関数およびノイズに関するより弱い仮定の下で、グローバル和関数の根集合内の共通集合への確実収束を達成すること。

提案手法

• 各エージェントがノイズを含む局所観測値と隣接エージェントからの情報を利用して推定値を更新する分散確率的近似アルゴリズム（DSAAWET）を提案する。
• 反復回数に応じて動的にスケーリングされる拡張型打ち切りを導入し、関数の成長に関する事前知識がなくても推定値の有界性を保証する。
• 時間変動するネットワークトポロジーを介して、局所推定値と隣接エージェントの情報の組み合わせを実現する共通化に基づく更新ルールを採用する。
• 収束を保証しつつ、安定性を拡張型打ち切り機構で維持するため、減少するステップサイズ列を用いる。
• マルティンゲール差分列と確実収束技術を用いた確率的近似理論を用いて収束性を分析する。
• グローバル和関数の根集合の連結部分集合に含まれる共通集合への収束を確立する。

実験結果

リサーチクエスチョン

• RQ1 局所関数の成長率制約を課さずに、分散確率的近似アルゴリズムがグローバル関数の和関数の根集合への確実収束を達成できるか？
• RQ2 関数の挙動に関する事前知識に依存せずに、分散確率的近似における推定値の有界性をどのように保証できるか？
• RQ3 拡張型打ち切りが多エージェントシステムにおける収束特性およびノイズ耐性に与える影響は何か？
• RQ4 提案されたアルゴリズムは、信号処理や分散最適化といった実世界の問題に効果的に適用可能か？

主な発見

• DSAAWETアルゴリズムは、グローバル和関数の根集合の部分集合である共通集合へのエージェント推定値の確実収束を保証する。
• 拡張型打ち切り機構により、局所関数の成長率制約がなくても推定値の有界性が保証される。
• 従来の分散確率的近似手法と比較して、局所関数および観測ノイズの両方に対してより弱い仮定が課される。
• アルゴリズムは信号処理および分散最適化問題に成功裏に適用され、両ケースで理論的収束性が確立された。
• 数値シミュレーションにより理論的結果が検証され、さまざまなネットワーク構成およびノイズ条件下でも安定かつ収束する挙動が示された。