[論文レビュー] Fast rates with high probability in exp-concave statistical learning

Nishant A. Mehta|arXiv (Cornell University)|May 4, 2016

Machine Learning and Algorithms参考文献 25被引用数 11

ひとこと要約

この論文は、指数的凸性を満たす統計的学習に対して、高速な $O(d\log(1/\delta)/n)$ の超過リスクレートを高確率 $1-\delta$ で達成する、新たな信頼度向上アルゴリズムを提示している。これは長年の未解決問題を解消するものである。指数的凸性から導かれるベルンシュタイン条件を活用し、オンラインからバッチへの変換にフリードマンの不等式を適用することで、従来の期待値内での境界を改善し、この設定における経験的リスク最小化に対して、初めての高確率的 $O(d/n)$ レートを達成する。

ABSTRACT

We present an algorithm for the statistical learning setting with a bounded exp-concave loss in $d$ dimensions that obtains excess risk $O(d \log(1/δ)/n)$ with probability at least $1 - δ$. The core technique is to boost the confidence of recent in-expectation $O(d/n)$ excess risk bounds for empirical risk minimization (ERM), without sacrificing the rate, by leveraging a Bernstein condition which holds due to exp-concavity. We also show that with probability $1 - δ$ the standard ERM method obtains excess risk $O(d (\log(n) + \log(1/δ))/n)$. We further show that a regret bound for any online learner in this setting translates to a high probability excess risk bound for the corresponding online-to-batch conversion of the online learner. Lastly, we present two high probability bounds for the exp-concave model selection aggregation problem that are quantile-adaptive in a certain sense. The first bound is a purely exponential weights type algorithm, obtains a nearly optimal rate, and has no explicit dependence on the Lipschitz continuity of the loss. The second bound requires Lipschitz continuity but obtains the optimal rate.

研究の動機と目的

• 指数的凸性統計的学習における期待値内高速レートと高確率的高速レートのギャップを埋めること。
• 指数的凸損失関数に対して、高確率的超過リスク境界が $O(d\log(1/\delta)/n)$ のオーダーで達成可能かどうかという未解決問題を解消すること。
• $O(d/n)$ レートを保ちつつ、高確率的保証を達成する信頼度向上技術を開発すること。
• オンラインからバッチへの変換結果を指数的凸損失に拡張し、レグレット境界が高確率的超過リスク境界を示すことを示すこと。
• 損失のリプシッツ連続性への依存が最小限である、新しい分位数適応型高確率的境界を、モデル選択集約に対して提示すること。

提案手法

• コアとなる手法は、既存の期待値内 $O(d/n)$ 境界の信頼度を向上させる二段階の経験的リスク最小化（ERM）アプローチであり、高確率的 $O(d\log(1/\delta)/n)$ の超過リスクを達成する。
• 指数的凸性と中心条件の間の関係を確立し、これにより超過損失確率変数の分散にベルンシュタイン条件が導かれる。
• ベルンシュタイン条件による分散制御を活用し、マーティングルのフリードマンの不等式を分析に用いて、高確率的境界を導出する。
• 第二段階を $K$ 次元シンプレックス上での低次元の確率的指数的凸最適化問題に再定式化する、新しい還元法を導入する。ここで $K = O(\log(1/\delta))$ である。
• 任意のオンライン指数的凸学習者に対して、オンラインからバッチへの変換を適用し、そのレグレット境界が直接的に高確率的超過リスク境界に変換されることを示す。
• モデル選択に対しては、純粋に指数的重みに基づくアルゴリズムを提案し、損失のリプシッツ連続性に明示的な依存がないほぼ最適なレートを達成する。

実験結果

リサーチクエスチョン

• RQ1 指数的凸統計的学習に対して、高確率的超過リスク境界が $O(d\log(1/\delta)/n)$ のオーダーで達成可能か。
• RQ2 標準的な ERM 法は、高確率的超過リスクが $O(d(\log n + \log(1/\delta))/n)$ のオーダーで達成可能か。
• RQ3 オンラインのレグレット境界が、オンラインからバッチへの手法を用いて、指数的凸設定で高確率的超過リスク境界に変換可能か。
• RQ4 有限クラス上のモデル選択集約が、高確率的高速レートを達成し、損失のリプシッツ連続性への依存を最小限に抑えることができるか。
• RQ5 ある事前分布が最適な仮説の近傍に高い質量を割り当てる場合に、それを改善する分位数適応型高確率的境界を設計可能か。

主な発見

• 提案された信頼度向上 ERM アルゴリズムは、確率 $1-\delta$ 以上で $O(d\log(1/\delta)/n)$ の超過リスク境界を達成し、指数的凸学習における高確率的高速レートの未解決問題を解決する。
• 標準的な ERM は、確率 $1-\delta$ 以上で $O(d(\log n + \log(1/\delta))/n)$ の超過リスクを達成する。これは従来報告されていなかったが、既存の文献から導出可能である。
• 損失と指数的凸性が有界である限り、任意のオンライン指数的凸学習者で、そのレグレット境界 $R_n$ がオンラインからバッチへの変換により、高確率的超過リスク境界 $O(R_n/n)$ に直接変換可能である。
• 新しいモデル選択集約アルゴリズムは、高確率的で $O((\log|\mathcal{F}| + \log n)/n)$ のレートを達成し、損失関数のリプシッツ連続性に明示的な依存がない。
• 第二のモデル選択手法は最適なレートを達成するが、リプシッツ連続性を必要とするため、レートの最適性と滑らかさへの依存の間のトレードオフを示している。
• 本論文は、指数的凸性がベルンシュタイン条件を導くことを確立し、これにより分散制御が可能となり、フリードマンの不等式による高確率的信頼度向上の根拠が得られる。