[論文レビュー] Bounds for Tracking Error in Constant Stepsize Stochastic Approximation

Bhumesh Kumar, Vivek S. Borkar+1 more|arXiv (Cornell University)|Feb 21, 2018

Target Tracking and Data Fusion in Sensor Networks被引用数 1

ひとこと要約

本稿は、ゆっくりと時間変化するターゲットを追跡する際の定ステップサイズ確率的近似アルゴリズムにおける追跡誤差の非漸近的バウンドを確立する。アレクセエフの非線形定数変化公式を用いて、すべての有限時間に対して成り立つ時間に一様な誤差バウンドを導出する。これにより、オンライン学習および適応制御システムにおける厳密な性能保証が得られる。

ABSTRACT

This work revisits the constant stepsize stochastic approximation algorithm for tracking a slowly moving target and obtains a bound for the tracking error that is valid for all time, using the Alekseev non-linear variation of constants formula.

研究の動機と目的

• 定ステップサイズ確率的近似がゆっくりと時間変化するターゲットを追跡する際の、有限時間性能バウンドの欠如に対処すること。
• 漸近的または定常状態の振る舞いのみに成立するのではなく、すべての時間に対して成り立つ、厳密な時間に一様な誤差バウンドを提供すること。
• 高度な微分方程式の道具を用いて、非 i.i.d. かつ時間変化する条件下における確率的近似の理論的理解を拡張すること。
• 追跡性能が重要な適応制御、オンライン学習、信号処理の実用的応用における理論的基盤を提供すること。

提案手法

• 確率的近似プロセスとその決定的対応物との乖離を分析するために、アレクセエフの非線形定数変化公式を適用する。
• ノイズを摂動とみなして、追跡誤差を確率的軌道と時間変化するターゲットの差分としてモデル化する。
• ドリフト関数のリプシッツ連続性とターゲットのゆっくりとした変化を活用して、期待追跡誤差のバウンドを導出する。
• 時間依存のリャプノフ関数のアプローチを用いて、誤差の時間的進化を制御する。
• ステップサイズ、ターゲットの変化率、ノイズの特性に依存するバウンドを確立する。
• 確率的微分方程式と摂動理論の結果を統合し、非漸近的かつ時間に一様な誤差バウンドを導出する。

実験結果

リサーチクエスチョン

• RQ1 すべての有限時間スケールにおいて、定ステップサイズ確率的近似アルゴリズムが達成可能な最大期待追跡誤差は何か？
• RQ2 誤差バウンドはステップサイズ、ターゲットの変化率、ノイズレベルにどのように依存するか？
• RQ3 非線形解析ツールを用いて、ゆっくりと時間変化するターゲット下での確率的近似に対して、時間に一様な誤差バウンドを導出できるか？
• RQ4 古典的なマルティングルやリャプノフベースの手法と比較して、アレクセエフの公式は追跡誤差の特徴付けをどの程度改善できるか？
• RQ5 有限時間スケールの解析を用いて、定ステップサイズスキームにおける追跡精度と収束速度のトレードオフを定量化することは可能か？

主な発見

• 本稿は、すべての有限時間において成り立つ非漸近的かつ時間に一様な期待追跡誤差バウンドを導出する。
• バウンドはステップサイズおよびターゲットの変化率に対して線形に、ノイズの大きさに対しては2次的に依存する。
• ドリフト関数の弱い正則性条件とターゲットの時間変動に対する条件のもとで、バウンドは有効である。
• アレクセエフの公式の使用により、標準的な線形化手法よりも誤差ダイナミクスのより鋭い特徴付けが可能になる。
• 結果として、収束速度と追跡精度の両方が重要な実用的追跡応用におけるステップサイズの選択に理論的根拠が得られる。
• ターゲットがゆっくりと周期的でない変化を示しても、バウンドは有効であり、現実の非ステーションリィ環境への適用範囲が拡張される。