[論文レビュー] Online estimation of the asymptotic variance for averaged stochastic gradient algorithms

Antoine Godichon‐Baggioni|arXiv (Cornell University)|Feb 3, 2017

Stochastic Gradient Optimization Techniques参考文献 43被引用数 15

ひとこと要約

本稿では、一般のヒルバート空間における平均化された確率的勾配推定値の漸近的分散を再帰的オンライン手法で推定するアルゴリズムを提案し、ほとんど確実かつ2次平均収束速度を確立する。標準的および平均化された確率的勾配アルゴリズムにおける漸近的正規性の結果を拡張し、高次元およびオンライン学習の設定において有効な推論を可能にする。

ABSTRACT

Stochastic gradient algorithms are more and more studied since they can deal efficiently and online with large samples in high dimensional spaces. In this paper, we first establish a Central Limit Theorem for these estimates as well as for their averaged version in general Hilbert spaces. Moreover, since having the asymptotic normality of estimates is often unusable without an estimation of the asymptotic variance, we introduce a new recursive algorithm for estimating this last one, and we establish its almost sure rate of convergence as well as its rate of convergence in quadratic mean. Finally, two examples consisting in estimating the parameters of the logistic regression and estimating geometric quantiles are given.

研究の動機と目的

• 高次元およびオンライン設定における平均化された確率的勾配アルゴリズムのための効率的で再帰的な漸近的分散推定の欠如に対処する。
• 一般のヒルバート空間における標準的および平均化された確率的勾配推定値の漸近的正規性を確立する。
• ややきつい正則性条件および局所的強い凸性の仮定の下で、提案された再帰的分散推定値の理論的収束速度を提供する。
• 大規模および逐次的データの文脈における確率的勾配法の実用的統計的推論（例：信頼区間）を可能にする。
• ロジスティック回帰および高次元および関数データ設定下での幾何的分位数推定を通じて、適用可能性を示す。

提案手法

• 局所的強い凸性およびモーメント条件の下で、分離可能なヒルバート空間における平均化された確率的勾配推定値の中心極限定理を導出する。
• GahbicheとPelletier（2000）にインspiredされた再帰的アルゴリズムを提案し、平均化推定値の漸近的分散を推定する。
• マルティンゲール差分列およびモーメントバウンドを用いて、再帰的分散推定値のほとんど確実収束および$ L^2 $収束速度を確立する。
• ヒルバート＝シュミット作用素を用いた関数的枠組みを活用し、一般のヒルバート空間値勾配およびその共分散構造を扱う。
• 再帰的推定値のバイアスおよび分散を制御するために、モーメントバウンドおよび指数和の不等式に関する技術的補題を適用する。
• オンライン観測値を用いて逐次的に分散推定値を更新することで、再帰的計算を保証し、過去のすべてのデータの保存を回避する。

実験結果

リサーチクエスチョン

• RQ1 局所的強い凸性の下で、一般のヒルバート空間における平均化された確率的勾配推定値の漸近的正規性を確立できるか？
• RQ2 平均化された確率的勾配推定値の漸近的分散の整合的かつ収束するオンライン推定を可能にする再帰的アルゴリズムは何か？
• RQ3 提案された再帰的分散推定値のほとんど確実収束および2次平均収束速度は何か？
• RQ4 提案手法は、高次元およびオンライン学習設定における有効な統計的推論（例：信頼区間）をどのように可能にするか？
• RQ5 この手法は、ロジスティック回帰や幾何的分位数推定といった実世界の問題に効果的に応用可能か？

主な発見

• 本稿では、ややきつい正則性および局所的強い凸性の仮定の下で、分離可能なヒルバート空間における平均化された確率的勾配推定値の中心極限定理を確立する。
• 提案された漸近的分散推定の再帰的アルゴリズムは、ほとんど確実収束および$ L^2 $収束を達成し、ステップサイズスケジュールおよび問題の幾何的構造に依存する収束速度を示す。
• 収束速度は、モーメントバウンドおよび指数和の不等式を用いて形式的に導出され、最適解からの距離に明示的な依存関係を示す。
• 本手法は、パラメトリックモデル（例：ロジスティック回帰）およびノンパラメトリックなロバスト統計（例：幾何的分位数）の両方の応用に適している。
• 再帰的分散推定値は、一貫性があり、計算的にも効率的であり、過去のデータを保存する必要なくオンライン更新のみで実現可能である。
• シミュレーション結果および理論的分析により、逐次的データストリームを伴う高次元および関数データ設定下で、本手法の有効性が確認される。