[論文レビュー] Incremental Learning-to-Learn with Statistical Guarantees

Giulia Denevi, Carlo Ciliberto+2 more|arXiv (Cornell University)|Mar 21, 2018

Machine Learning and Algorithms被引用数 17

ひとこと要約

本論文は、特徴表現をパrameter化する正定値行列を最適化するために、射影確率的部分勾配法を用いたリッジ回帰のための段階的自己学習フレームワークを提案する。逐次的に到着するタスクにオンラインで、記憶効率よく適応可能な、非漸近的かつ高確率的な過剰移転リスクの境界を確立し、バッチ手法と同等の統計的保証を示している。

ABSTRACT

In learning-to-learn the goal is to infer a learning algorithm that works well on a class of tasks sampled from an unknown meta distribution. In contrast to previous work on batch learning-to-learn, we consider a scenario where tasks are presented sequentially and the algorithm needs to adapt incrementally to improve its performance on future tasks. Key to this setting is for the algorithm to rapidly incorporate new observations into the model as they arrive, without keeping them in memory. We focus on the case where the underlying algorithm is ridge regression parameterized by a positive semidefinite matrix. We propose to learn this matrix by applying a stochastic strategy to minimize the empirical error incurred by ridge regression on future tasks sampled from the meta distribution. We study the statistical properties of the proposed algorithm and prove non-asymptotic bounds on its excess transfer risk, that is, the generalization performance on new tasks from the same meta distribution. We compare our online learning-to-learn approach with a state of the art batch method, both theoretically and empirically.

研究の動機と目的

• 過去のデータを保存せずに、逐次的に到着するタスクに適応する段階的自己学習アルゴリズムを開発すること。
• オンライン設定における一般化性能（過剰移転リスク）に関する非漸近的統計的保証を提供すること。
• バッチ学習から自己学習への理論的分析を、オンラインで段階的な学習シナリオに拡張すること。
• 歴史的なデータセットの保存を避けることで計算効率を確保しながらも、強力な一般化境界を維持すること。
• オンライン性能が、リスク境界の観点から、最先端のバッチ手法と同等またはそれに近い水準に達することを示すこと。

提案手法

• 本手法は、リッジ回帰の特徴変換をパrameter化する正定値行列を最適化するために、射影確率的部分勾配法（PSSA）を用いる。
• 目的は、メタ分布から抽出された将来のタスクにおけるリッジ回帰の経験的誤差を最小化することである。
• アルゴリズムは1つのタスクずつ処理し、各新しいデータセットにおける損失の部分勾配を用いて、表現行列を段階的に更新する。
• 更新ルールには、正定値行列集合に射影する操作が含まれており、実行可能性と安定性を保証する。
• 射影は固有値分解と固有値のソフトスレッショーディングを用いて計算され、根の探索にO(d log d)のコストを要するが、O(d³)の時間で解ける。
• 理論的分析では、オンライン凸最適化とマルティンゲール集中を用い、過剰移転リスクの高確率境界を導出する。

実験結果

リサーチクエスチョン

• RQ1 オンラインで段階的な自己学習アルゴリズムは、バッチ手法と同等の統計的保証を達成できるか？
• RQ2 オンラインアルゴリズムにおける過剰移転リスクは高確率的にどのように振る舞い、どのような収束速度を示すことができるか？
• RQ3 過去のデータセットを保存せずに、強力な一般化性能を維持することは可能か？
• RQ4 射影確率的部分勾配法は、オンラインメタラーニング設定における収束性と安定性を保証するために果たす役割は何か？
• RQ5 オンラインアルゴリズムの理論的境界は、バッチ学習から自己学習の既存の境界と比べてどのように異なるか？

主な発見

• 提案されたオンラインアルゴリズムは、過去のバッチ自己学習手法と同等のレートを示す、非漸近的かつ高確率的な過剰移転リスクの境界を達成する。
• アルゴリズムのレグルレーション境界により、タスク数が増加するに従い、最適な表現行列への収束が高確率で保証される。
• 理論的分析により、オンライン推定器の期待リスクが、タスク数と信頼水準に依存するレートで最適リスクに収束することが確認された。
• 射影ステップにより、表現行列が正定値かつトレースが有界のまま維持され、これは安定性と一般化にとって極めて重要である。
• 各更新の計算コストは、ヘシアンに類似した行列の固有値分解に支配され、O(d³)の効率的解法が可能である。
• 定理15の境界により、タスクがi.i.d.にサンプリングされる条件下で、オンライン推定器の平均リスクが高確率で最適リスクに収束することが保証される。