[論文レビュー] Efficient second order online learning by sketching

Haipeng Luo, Alekh Agarwal+2 more|arXiv (Cornell University)|Dec 5, 2016

Advanced Bandit Algorithms Research参考文献 34被引用数 36

ひとこと要約

この論文は、次元とスケッチサイズに関して線形実行時間複雑性を達成するため、スケッチ技術を活用する効率的なオンライン2次最適化アルゴリズムであるSketched Online Newton (SON) を導入する。これは、劣悪な条件のデータに対して、顕著に改善されたレジット保証を実現する。スパーススケッチ手法（例：Ojaのルール）を組み込むことで、SON は特徴のスパarsityに比例して計算量が線形に増加するようにし、従来の2次オンライン学習における計算のボトルネックを克服する。

ABSTRACT

We propose Sketched Online Newton (SON), an online second order learning algorithm that enjoys substantially improved regret guarantees for ill-conditioned data. SON is an enhanced version of the Online Newton Step, which, via sketching techniques enjoys a running time linear in the dimension and sketch size. We further develop sparse forms of the sketching methods (such as Oja's rule), making the computation linear in the sparsity of features. Together, the algorithm eliminates all computational obstacles in previous second order online learning approaches.

研究の動機と目的

• 劣悪な条件のデータ設定における2次オンライン学習の高い計算コストに対処すること。
• 2次最適化の利点を維持しながら、線形時間複雑性を達成するオンライン学習アルゴリズムの開発。
• 次元削減によるスケッチを用いることで、従来の2次オンライン手法における計算の障壁を排除すること。
• スパース特徴空間へのスケッチ技術の拡張により、データがスパースであっても効率性を保証すること。
• スケッチとオンラインニュートン法を組み合わせることで、オンライン学習におけるレジット保証を向上させること。

提案手法

• 次元削減にスケッチを用いることで、オンラインニュートンステップアルゴリズムの拡張版としてのSketched Online Newton (SON) を提案する。
• スケッチ技術を用いて、ヘッセ行列の近似計算を次元とスケッチサイズに関して線形時間に削減する。
• Ojaのルールのようなスパーススケッチ変種を導入し、特徴のスパarsityに比例して線形実行時間複雑性を維持する。
• ランダム化スケッチ射影を用いてヘッセ行列を近似することで、2次最適化の利点を保持する。
• スケッチされたヘッセ行列近似を用いたオンライン更新により、高次元設定でも効率的なパラメータ更新を可能にする。
• 低ランクスケッチと反復的オンライン学習更新を組み合わせることで、計算の効率性を確保する。

実験結果

リサーチクエスチョン

• RQ1 スケッチ技術は、計算複雑性を低減するために2次オンライン学習に効果的に適用可能か？
• RQ2 SON のレジット性能は、劣悪な条件のデータにおいて、既存のオンラインニュートン法と比べてどのように異なるか？
• RQ3 Ojaのルールのようなスパーススケッチルールは、計算効率を維持しながら最適化の正確性を保てるか？
• RQ4 スケッチサイズと次元の変化が、SON の収束性とレジットに与える影響は何か？
• RQ5 SON は、従来の2次オンライン学習アルゴリズムを妨げる計算のボトルネックを排除できるか？

主な発見

• SON は、特に劣悪な条件のデータにおいて、ベースラインのオンラインニュートン法と比較して顕著に改善されたレジット保証を達成する。
• アルゴリズムは、データの次元とスケッチサイズに関して線形時間で実行され、スケーラブルな2次学習を可能にする。
• Ojaのルールのようなスパーススケッチ変種により、特徴のスパarsityに比例して計算が線形に増加し、スパース入力でも効率性が向上する。
• 従来、2次オンライン学習の実用性を制限していた計算上の障害を、この手法は効果的に克服した。
• スケッチとオンラインニュートン更新を組み合わせることで、SON は、計算コストが著しく増大するリスクを負わずに、2次最適化の利点を維持する。