[論文レビュー] A Primer on PAC-Bayesian Learning

Benjamin Guedj|arXiv (Cornell University)|Jan 16, 2019

Machine Learning and Algorithms参考文献 75被引用数 53

ひとこと要約

この論文は、PAC-Bayesフレームワークの自己完結型の調査を提供し、一般化特性を概説し、PAC-Bayesian学習の主要な理論的およびアルゴリズム的発展を概観する。

ABSTRACT

Generalised Bayesian learning algorithms are increasingly popular in machine learning, due to their PAC generalisation properties and flexibility. The present paper aims at providing a self-contained survey on the resulting PAC-Bayes framework and some of its main theoretical and algorithmic developments.

研究の動機と目的

• PAC一般化特性と柔軟性のために一般化ベイズ学習の利用を動機づける。
• PAC-ベイズフレームワークとその核となる理論結果を要約する。
• PAC-Bayesian手法の主要なアルゴリズム開発と実践的な影響をレビューする。

提案手法

• PAC-Bayesianフレームワークとそのベイズ学習およびPAC保証との関係を説明する。
• 主な理論結果とそれらが一般化境界に与える影響を概説する。
• PAC-Bayesian学習における顕著なアルゴリズムアプローチと実践上の考慮事項を論じる。

実験結果

リサーチクエスチョン

• RQ1 一般化保証を可能にする核心的なPAC-Bayes原理は何か？
• RQ2 主要な理論結果は何で、それらはどのようにアルゴリズムへ翻訳されるのか？
• RQ3 PAC-Bayesian学習における著名なアルゴリズム開発とその実践的影響は何か？

主な発見

• PAC-Bayesフレームワークの自己完結型の調査を提供する。
• 一般化への影響を含む必須の理論結果とその意味をレビューする。
• PAC-Bayesian学習内の重要なアルゴリズム開発を要約する。