[論文レビュー] Competing with Gaussian linear experts

Fedor Zhdanov, Vladimir Vovk|arXiv (Cornell University)|Oct 24, 2009

Advanced Bandit Algorithms Research参考文献 17被引用数 6

ひとこと要約

本稿は、有限および無限次元ヒルバート空間におけるオンラインリッジ回帰およびそのベイジアン版について、正確な等式に基づく理論的保証を確立する。リッジ回帰は、最良の正則化付き線形予測子に対する最適な二乗損失を達成するのに対し、ベイジアンリッジ回帰は、対数損失においてすべてのガウス線形エキスパートと競合し、明示的なレグレット項を伴うタイトな相対損失バインディングをもたらす。

ABSTRACT

We study the problem of online regression. We prove a theoretical bound on the square loss of Ridge Regression. We do not make any assumptions about input vectors or outcomes. We also show that Bayesian Ridge Regression can be thought of as an online algorithm competing with all the Gaussian linear experts.

研究の動機と目的

• 有界な出力が仮定されない状況下で、オンラインリッジ回帰の二乗損失に関して、漸近的でない、等式に基づく理論的バインディングを確立すること。
• ベイジアンリッジ回帰が、対数損失においてすべてのガウス線形エキスパートと競合するオンラインアルゴリズムとして解釈可能であることを示すこと。
• 再生核ヒルバート空間（RKHS）を用いて、非パラメトリックな設定への理論的保証を拡張すること。
• カーネル化されたリッジ回帰およびカーネル化されたベイジアンリッジ回帰の相対損失バインディングを導出し、明示的なレグレット項を含めること。
• 有界な出力のもとで、レグレット項がO(√T)のオーダーにスケーリングされることを示し、普遍カーネル空間におけるすべての連続関数と競合可能であることを証明すること。

提案手法

• オンラインリッジ回帰の累積重み付き二乗損失と、最良の線形予測子の正則化付き累積損失との間の正確な等式（定理1）を導出する。
• リッジ回帰アルゴリズムにおける逆共分散行列の効率的インクリメンタル更新のため、Sherman-Morrisonの公式を適用する。
• ベイジアン推論を用いて予測分布をモデル化し、リッジ回帰の予測値が事後分布の平均に一致することを示す。
• 定理2を証明し、ベイジアンリッジ回帰の対数損失が、ガウス線形予測子クラスにおける最良の正則化付きエキスパートと競合することを示す。
• カーネル化されたリッジ回帰およびベイジアンリッジ回帰を用いて、無限次元RKHSへの結果の拡張を実施し、カーネル行列K_Tと正則化パラメータaを用いる。
• 行列式の恒等式およびdet(I + K_T/a)の対数的バインディングを用い、コロナリー4およびその拡張において明示的なレグレット項を導出する。

実験結果

リサーチクエスチョン

• RQ1 オンラインリッジ回帰の累積二乗損失に関して、上界のみでなく正確な等式を導出可能か？
• RQ2 ベイジアンリッジ回帰は、対数損失においてすべてのガウス線形エキスパートと競合する性能を達成するか？
• RQ3 リッジ回帰の理論的保証は、無限次元ヒルバート空間における非パラメトリックなカーネル化設定へ拡張可能か？
• RQ4 有界な出力のもとで、カーネル化されたリッジ回帰の相対損失バインディングにおけるレグレット項のオーダーは何か？
• RQ5 RBFカーネルなどの普遍カーネルを用いた場合、カーネル化されたリッジ回帰はコンパクト領域上のすべての連続関数と競合可能か？

主な発見

• 定理1は、オンラインリッジ回帰の累積重み付き二乗損失と、最良の線形予測子の正則化損失との間の正確な等式を確立し、同時に上界と下界を提供する。
• コロナリー1は、クリッピング付きリッジ回帰が、4Y² ln det(I + (1/a)Σx_t x_t^T)のレグレット項で有界であることを示し、aをc_F √Tとして選べば、O(√T)のオーダーに収束することを示す。
• 定理2は、ベイジアンリッジ回帰の対数損失が、ガウス線形予測子クラスにおける最良の正則化付きエキスパートと競合することを証明し、レグレット項として(1/2)ln det(I + (1/a)K_T)を有する。
• コロナリー4は、カーネル化されたリッジ回帰に結果を拡張し、二乗損失のレグレットが4Y² ln det(I + (1/a)K_T)で有界であり、最適なaのもとで同じO(√T)のスケーリングを示す。
• 式(19)は、未知のTに対してデータ依存のレグレットバインディングを提供し、有界な出力のもとで、普遍カーネル空間におけるすべての連続関数と競合可能であることを示す。
• 式(20)は、漸近的平均レグレットが消えることを確認し、RBFカーネルを用いた場合、カーネル化されたリッジ回帰がコンパクト領域上のすべての連続関数と普遍的に競合可能であることを示唆する。