[論文レビュー] Convergence Rates of Biased Stochastic Optimization for Learning Sparse Ising Models

Jean Honorio|arXiv (Cornell University)|Jun 18, 2012

Stochastic Gradient Optimization Techniques参考文献 37被引用数 4

ひとこと要約

この論文は、スパースなイジングモデルの学習におけるバイアス付き確率的最適化の収束速度を分析し、前向き後向き分割（FBS）およびプロキシマル勾配（PG）手法に焦点を当てる。FBSはサンプル数が対数的に増加するだけで収束することを示し、加速付きPGはバイアス付き確率的勾配では収束が保証されないことを示している。

ABSTRACT

We study the convergence rate of stochastic optimization of exact (NP-hard) objectives, for which only biased estimates of the gradient are available. We motivate this problem in the context of learning the structure and parameters of Ising models. We first provide a convergence-rate analysis of deterministic errors for forward-backward splitting (FBS). We then extend our analysis to biased stochastic errors, by first characterizing a family of samplers and providing a high probability bound that allows understanding not only FBS, but also proximal gradient (PG) methods. We derive some interesting conclusions: FBS requires only a logarithmically increasing number of random samples in order to converge (although at a very low rate); the required number of random samples is the same for the deterministic and the biased stochastic setting for FBS and basic PG; accelerated PG is not guaranteed to converge in the biased stochastic setting.

研究の動機と目的

• バイアス付き勾配推定値しか利用できない場合の確率的最適化手法の収束挙動を分析すること。
• NP困難な目的関数を含むスパースなイジングモデルの学習へのこれらの手法の応用を調査すること。
• 決定的およびバイアス付き確率的誤差設定下での収束に必要なランダムサンプルの数を特徴づけること。
• 決定的誤差設定からの収束解析を、特にFBSおよびPG手法に対して確率的誤差設定へと拡張すること。
• 加速付きPG手法がバイアス付き確率的勾配下でも収束保証を維持できるかどうかを評価すること。

提案手法

• 決定的誤差下での前向き後向き分割（FBS）の収束速度解析を提案する。
• 勾配推定値のバイアスをモデル化するサンプラーの族を定義することで、解析をバイアス付き確率的誤差設定へと拡張する。
• FBSおよび基本的PG手法の確率的挙動を定量化するため、収束誤差の高確率的バウンドを導出する。
• 導出されたバウンドを用いて、決定的およびバイアス付き確率的設定下での収束に必要なランダムサンプル数を評価する。
• バイアス付き確率的勾配下での加速付きPG手法の収束特性を解析し、収束が保証されないことを示す。
• 理論的解析を用いて、FBSおよびPG手法の決定的設定とバイアス付き確率的設定との間のサンプル複雑度を比較する。

実験結果

リサーチクエスチョン

• RQ1 バイアス付き勾配推定値しか利用できない場合、FBSの収束速度はどのように振る舞うか？
• RQ2 FBSがバイアス付き確率的設定で収束するためには、どの程度のランダムサンプルが必要か？
• RQ3 基本的プロキシマル勾配（PG）手法の収束保証は、バイアス付き確率的設定へと拡張可能か？
• RQ4 加速付きPG手法は、バイアス付き確率的勾配下でも収束を維持できるか？
• RQ5 FBSのサンプル複雑度は、決定的設定とバイアス付き確率的設定とでどのように比較できるか？

主な発見

• FBSは、バイアス付き確率的設定下でも、サンプル数が対数的に増加するだけで収束するが、収束速度は非常に遅い。
• FBSおよび基本的PG手法において、決定的設定とバイアス付き確率的設定との両方で収束に必要なランダムサンプル数は同一である。
• 加速付きPG手法は、バイアス付き確率的勾配下では収束が保証されない。これは、基本的PGおよびFBSとは対照的である。
• 収束誤差の高確率的バウンドが導出され、バイアス付き勾配を伴う確率的最適化の理論的解析を可能にする。
• 一般のサンプラー族を特徴づけることで、解析はFBSおよびPG手法の特定の例に限らず、広く適用可能である。
• 結果は、サンプル制約下でのスパースなイジングモデルの学習においてFBSおよび基本的PGを用いる理論的根拠を提供する。