[論文レビュー] Fast rates in statistical and online learning

Tim van Erven, Peter Grünwald+3 more|arXiv (Cornell University)|Jul 9, 2015

Machine Learning and Algorithms参考文献 52被引用数 4

ひとこと要約

本稿は、統計的学習とオンライン学習における高速収束レートを統一するため、適切な学習のための中心的条件とオンラインアルゴリズムのための確率的ミキシナビリティを導入することで、弱い仮定の下でこれらが同値であることを示し、Tsybakovのマージン条件やBernstein条件といった重要な概念を一般化することで、有界でない損失に対しても$O(1/n)$の収束レートを達成可能にする。

ABSTRACT

The speed with which a learning algorithm converges as it is presented with more data is a central problem in machine learning --- a fast rate of convergence means less data is needed for the same level of performance. The pursuit of fast rates in online and statistical learning has led to the discovery of many conditions in learning theory under which fast learning is possible. We show that most of these conditions are special cases of a single, unifying condition, that comes in two forms: the central condition for 'proper' learning algorithms that always output a hypothesis in the given model, and stochastic mixability for online algorithms that may make predictions outside of the model. We show that under surprisingly weak assumptions both conditions are, in a certain sense, equivalent. The central condition has a re-interpretation in terms of convexity of a set of pseudoprobabilities, linking it to density estimation under misspecification. For bounded losses, we show how the central condition enables a direct proof of fast rates and we prove its equivalence to the Bernstein condition, itself a generalization of the Tsybakov margin condition, both of which have played a central role in obtaining fast rates in statistical learning. Yet, while the Bernstein condition is two-sided, the central condition is one-sided, making it more suitable to deal with unbounded losses. In its stochastic mixability form, our condition generalizes both a stochastic exp-concavity condition identified by Juditsky, Rigollet and Tsybakov and Vovk's notion of mixability. Our unifying conditions thus provide a substantial step towards a characterization of fast rates in statistical learning, similar to how classical mixability characterizes constant regret in the sequential prediction with expert advice setting.

研究の動機と目的

• 統計的学習とオンライン学習の両設定において高速収束レートを説明する、単一の統一的条件を同定すること。
• モデル内に仮説を出力する適切な学習と、モデル外の予測を許容するオンライン学習の間のギャップを、コアな条件の2つの形態を導入することで埋めること。
• 弱い仮定の下で中心的条件と確率的ミキシナビリティが同値であることを示し、高速レートの統一的枠組みを提供すること。
• 中心的条件がBernstein条件およびTsybakovのマージン条件を一般化することを示し、特に有界でない損失に対して有効であることを示すこと。
• 中心的条件の下での高速レートの直接的証明を提示し、モデルの不適合状況下での擬似確率分布集合の凸性と関連付けること。

提案手法

• 常にモデル$\mathcal{F}$内の仮説を出力する適切な学習アルゴリズムのための中心的条件を導入し、驚くほど弱い仮定の下で$O(1/n)$収束を保証する。
• モデル外の予測を許容しつつも高速レートを維持できるオンライン版の対応形態として確率的ミキシナビリティを提案する。
• 弱い正則性仮定の下で中心的条件と確率的ミキシナビリティが同値であることを確立する。
• 指数モーメントの上限とドミニエートドコンバージェンス定理を用いて、超過リスクの集中不等式を導出する。
• 有界なメトリックエントロピーを持つ仮説クラスに対する和集合の上限を適用し、非最適な仮説が選択される確率を制御する。
• 中心的条件と擬似確率分布集合の凸性の関係を活用し、モデルの不適合状況下での密度推定と関連付ける。

実験結果

リサーチクエスチョン

• RQ1 統計的学習とオンライン学習の両設定において、高速収束レートを統一するための単一の条件は何か？
• RQ2 中心的条件と確率的ミキシナビリティはどのように関係し、どのような仮定の下で同値となるか？
• RQ3 中心的条件は、特に有界でない損失に対して、Bernstein条件およびTsybakovのマージン条件を一般化できるか？
• RQ4 中心的条件の下で、擬似確率分布集合の凸性が果たす役割は何か？
• RQ5 中心的条件を用いて、アグノスティック（非実現可能）な設定でも高速$O(1/n)$レートを達成できるか？

主な発見

• 中心的条件は、驚くほど弱い仮定の下でも、適切な学習アルゴリズムにおける$O(1/n)$収束レートの直接的証明を可能にする。
• 中心的条件は片側性を持つため、二面的な条件（例：Bernstein条件）よりも、有界でない損失に対してより適している。
• 有界損失の下では中心的条件はBernstein条件と同値であり、両者ともTsybakovのマージン条件を一般化する。
• 確率的ミキシナビリティは、Vovkのミキシナビリティの概念およびJuditsky, Rigollet, Tsybakovの確率的指数凸性条件を一般化する。
• 中心的条件は、擬似確率分布の集合が凸であることを示し、モデルの不適合状況下での密度推定と関連付ける。
• ERMに対して、高確率$1 - \delta$で、超過リスクが$\frac{5\max\{V, 1/\eta^*\}(\log(1/\delta) + \log N)}{n}$で抑えられ、中心的条件の下で高速レートが達成される。