[論文レビュー] Asymptotic Performance of Adaptive Distributed Detection over Networks.

Paolo Braca, Stefano Maranò+2 more|arXiv (Cornell University)|Jan 22, 2014

Distributed Sensor Networks and Detection Algorithms被引用数 9

ひとこと要約

本稿は、継続的な学習とトラッキングを可能にする定常ステップサイズを用いた分散ネットワークにおける適応的分散検出を分析する。検出誤り確率が 1/μ に対して指数的に減少することを確立し、誤り指数がエージェント数に対して線形にスケーリングされることを示し、中央集権的確率的勾配法の性能と一致することを示す。

ABSTRACT

This work examines the close interplay between cooperation and adaptation for distributed detection schemes over fully decentralized networks. The combined attributes of cooperation and adaptation are necessary to enable networks of detectors to continually learn from streaming data and to continually track drifts in the state of nature when deciding in favor of one hypothesis or another. The results in the paper establish a fundamental scaling law for the probabilities of miss-detection and false-alarm, when the agents interact with each other according to distributed strategies that employ constant step-sizes. The latter are critical to enable continuous adaptation and learning. The work establishes three key results. First, it is shown that the output of the collaborative process at each agent has a steady-state distribution. Second, it is shown that this distribution is asymptotically Gaussian in the slow adaptation regime of small step-sizes. And third, by carrying out a detailed large-deviations analysis, closed-form expressions are derived for the decaying rates of the false-alarm and miss-detection probabilities. Interesting insights are gained from these expressions. In particular, it is verified that as the step-size $\mu$ decreases, the error probabilities are driven to zero exponentially fast as functions of $1/\mu$, and that the exponents governing the decay increase linearly in the number of agents. It is also verified that the scaling laws governing errors of detection and errors of estimation over networks behave very differently, with the former having an exponential decay proportional to $1/\mu$, while the latter scales linearly with decay proportional to $\mu$. It is shown that the cooperative strategy allows each agent to reach the same detection performance, in terms of detection error exponents, of a centralized stochastic-gradient solution.

研究の動機と目的

• 分散検出ネットワークにおける協調と適応の相互作用を理解すること。
• 定常ステップサイズを用いた分散検出の漸近的性能を特徴づけること。
• 大規模ネットワークにおける誤検出確率および見逃し確率のスケーリング則を導出すること。
• 分散検出性能を中央集権的確率的勾配ソリューションと比較すること。

提案手法

• エージェントは定常ステップサイズを用いた分散戦略を採用し、ストリーミングデータからの継続的適応と学習を可能にする。
• 提案された戦略の下で、各エージェントにおける協調プロセスは定常分布に収束する。
• 大偏差解析を適用して、誤検出および見逃し確率の減少率の閉形式表現を導出する。
• ゆっくりとした適応状態（小さな μ）において、定常分布の漸近的正規性を確立する。
• 検出誤りのスケーリングと推定誤りのスケーリングを比較し、検出では指数的減少、推定では線形減少という異なる挙動を明らかにする。

実験結果

リサーチクエスチョン

• RQ1 協調と適応が分散ネットワークにおける検出性能にどのように共同で影響を与えるか？
• RQ2 定常ステップサイズの下で、検出誤り確率の漸近的挙動はいかなるものか？
• RQ3 誤り指数はエージェント数およびステップサイズ μ に対してどのようにスケーリングされるか？
• RQ4 分散検出性能は中央集権的確率的勾配検出と比べてどのように異なるか？
• RQ5 なぜ検出誤りと推定誤りは μ に対して異なる方法でスケーリングされるのか？

主な発見

• 各エージェントにおける協調的検出プロセスの出力は、定常分布に収束する。
• ゆっくりとした適応状態（小さな μ）において、定常分布は漸近的に正規分布に近づく。
• 誤検出および見逃し確率は 1/μ に対して指数的に減少し、減少率はエージェント数に対して線形に増加する。
• 検出の誤り指数は O(1/μ) のスケーリングを示す一方、推定誤り指数は O(μ) のスケーリングを示し、スケーリング挙動に根本的な違いがあることが明らかになる。
• 協調戦略により、各エージェントは中央集権的確率的勾配ソリューションと同等の検出誤り指数を達成可能である。