[論文レビュー] Sparsity regret bounds for individual sequences in online linear regression

Sébastien Gerchinovitz|arXiv (Cornell University)|Jan 5, 2011

Advanced Bandit Algorithms Research参考文献 61被引用数 17

ひとこと要約

本稿は、個々の決定的系列におけるオンライン線形回帰に対してスパarsityレグレットバウンドを導入し、指数的重み付けとデータ駆動型切断を組み合わせた適応的アルゴリズム（SeqSEW）を提案する。この手法は真のパラメーターベクトルのスパarsityレベルに比例した最適なレグレットスケーリングを達成し、ストースティックな設定におけるガウスノイズに対する適応的リスクバウンドに関する未解決問題を解決する。

ABSTRACT

We consider the problem of online linear regression on arbitrary deterministic sequences when the ambient dimension d can be much larger than the number of time rounds T. We introduce the notion of sparsity regret bound, which is a deterministic online counterpart of recent risk bounds derived in the stochastic setting under a sparsity scenario. We prove such regret bounds for an online-learning algorithm called SeqSEW and based on exponential weighting and data-driven truncation. In a second part we apply a parameter-free version of this algorithm to the stochastic setting (regression model with random design). This yields risk bounds of the same flavor as in Dalalyan and Tsybakov (2011) but which solve two questions left open therein. In particular our risk bounds are adaptive (up to a logarithmic factor) to the unknown variance of the noise if the latter is Gaussian. We also address the regression model with fixed design.

研究の動機と目的

• 次元数 d が時間ラウンド数 T よりも大きい高次元オンライン線形回帰の課題に対処する。
• 真のパラメーターベクトルにおけるスパarsityを反映する決定的レグレットバウンドを構築する。これは、ストースティックな設定におけるスパarsityオラクル不等式に類似している。
• チューニングパラメータやノイズ分散の事前知識を必要としない適応的オンラインアルゴリズムを設計する。
• 決定的レグレットバウンドをストキャスティックな設定に拡張し、未知のガウスノイズ分散に適応するリスクバウンドを導出する。
• 先行研究が未解決のままにした、特に Dalalyan と Tsybakov (2012a) が提起した適応的推定に関する未解決問題を解決する。

提案手法

• ストースティックなスパarsityオラクル不等式の決定的対応として、スパarsityレグレットバウンドの新しい概念を提案する。
• 指数的重み付けを用いた線形予測子の集合と、データ駆動型の切断を組み合わせることでスパarsityを促進する SeqSEW アルゴリズムを導入する。
• ランダム設計におけるストキャスティック回帰モデルに、パラメータフリーな SeqSEW の変種を適用し、未知のノイズ分散に自動的に適応可能にする。
• サブガウスおよびサブエキポネンシャルな確率変数の最大不等式とモーメントバウンドを用いて、予測誤差の成長を制御する。
• 一般化逆関数と凸マジョライズを用いて、予測誤差の最大二乗偏差の下での尾部バウンドを導出する。
• ピジエ型の議論を用いて理論的保証を確立し、ジェンセンの不等式とモーメント仮定を組み合わせて、期待最大誤差のバウンドを求める。

実験結果

リサーチクエスチョン

• RQ1 決定的で個々の系列に依存するオンライン学習フレームワークにおいて、スパarsityオラクル型のレグレットバウンドを導出可能か？
• RQ2 オンラインアルゴリズムが真のパラメーターベクトルのスパarsityレベル s に比例したレグレットスケーリングを達成できるか、環境次元 d に比例するのではなく？
• RQ3 このようなレグレットバウンドが、特にノイズがガウス分布に従う場合に、未知のノイズ分散に適応可能か？
• RQ4 提案されたアルゴリズムが、正則化強度やノイズ分散といったチューニングパラメータの事前知識を必要としないか？
• RQ5 決定的レグレットバウンドを、ランダム設計におけるストキャスティック回帰モデルに拡張し、未知のノイズ分散に適応するリスクバウンドを導出可能か？

主な発見

• 本稿は、最適パラメーターベクトルの非ゼロ係数の数 s に比例してスケーリングされる SeqSEW アルゴリズムのスパarsityレグレットバウンドを確立する。これは環境次元 d に依存するのではなく、スパースな系列に対しては、標準の O(d log T) バウンドよりも著しく優れている。
• スパースな系列に対して、レグレットバウンドは O(s log T) のオーダーとなり、s ≪ d の場合に O(d log T) のバウンドよりも顕著に優れる。
• ランダム設計におけるストキャスティックな設定では、パラメータフリーな SeqSEW のバージョンが、未知のガウスノイズ分散にログファクターの誤差を除いて適応するリスクバウンドを提供する。
• 本手法は、ノイズ分散の事前知識を必要としないという点で、Dalalyan と Tsybakov (2012a) が提起した未解決問題を解決する。
• 理論的分析により、d ≫ T の場合でも、スパarsity仮定の下で最適なレグレットスケーリングが達成されることを確認した。
• 指数的重み付けとデータ駆動型切断を組み合わせることで、チューニングパラメータを必要とせず、未知のスパarsityおよびノイズレベルに自動的に適応可能である。