[論文レビュー] Posterior Variance Analysis of Gaussian Processes with Application to Average Learning Curves

Armin Lederer, Jonas Umlauft+1 more|arXiv (Cornell University)|Jun 4, 2019

Gaussian Processes and Bayesian Inference参考文献 39被引用数 10

ひとこと要約

本稿は、リプシッツ連続カーネルを備えたガウス過程の事後分散に対する、テスト点の近隣に位置する訓練点にのみ依存する、新しい局所的上限を提案する。この上限は、訓練データが有限または無限に増加する状況において、既存の手法よりも速い収束速度と高い精度を示す。

ABSTRACT

The posterior variance of Gaussian processes is a valuable measure of the learning error which is exploited in various applications such as safe reinforcement learning and control design. However, suitable analysis of the posterior variance which captures its behavior for finite and infinite number of training data is missing. This paper derives a novel bound for the posterior variance function which requires only local information because it depends only on the number of training samples in the proximity of a considered test point. Furthermore, we prove sufficient conditions which ensure the convergence of the posterior variance to zero. Finally, we demonstrate that the extension of our bound to an average learning bound outperforms existing approaches.

研究の動機と目的

• テスト点の周辺にのみ依存する理論的裏付けのある局所的上限を、ガウス過程の事後分散に対して開発すること。
• 訓練データが増加する際に、事後分散がゼロに収束する十分条件を導出すること。
• 局所的事後分散上限を、カーネル比較に適したロバストな平均学習曲線上限へと拡張すること。
• 提案された平均学習曲線上限が、既存の解析的上限よりも精度と収束速度の両面で優れていることを示すこと。
• 強化学習や制御などの安全を要する応用において、事後分散の使用に理論的根拠を与えること。

提案手法

• テスト点の周囲における訓練データ密度にのみ依存する、新たな事後分散上界を、情報半径を用いて定義することで導出する。
• テスト点の半径 ρ 内の訓練サンプル数に依存する局所的上限を導入し、計算効率を確保する。
• 訓練データ分布およびカーネルの滑らかさ（リプシッツ連続性）に対する弱い条件下で、上限がゼロに収束することを証明する。
• マトérn や平方指数カーネルなどの特定のカーネルクラスに対して、その構造的性質を活用して、より速い減衰率を達成する。
• 入力空間に沿った与えられた分布に対する積分を用いて、局所的事後分散上限を平均学習曲線へと拡張する。
• 各 N に対して最適な局所的半径 n を選ぶためのグリーディ最適化戦略を採用し、平均学習曲線上限のタイトさを向上させる。

実験結果

リサーチクエスチョン

• RQ1 テスト点の周囲の局所的訓練データ密度にのみ依存する事後分散上限を導出可能か？
• RQ2 訓練データが増加する際に、提案された事後分散上限がゼロに収束する条件は何か？
• RQ3 局所的事後分散上限を、よりタイトな平均学習曲線上限へと拡張する方法は何か？
• RQ4 提案された平均学習曲線上限は、既存の解析的上限よりも減衰速度と精度の両面で優れているか？
• RQ5 どの確率分布が、事後分散上限の収束条件を満たすか？

主な発見

• 提案された事後分散上限は、訓練データ分布およびリプシッツ連続カーネルに対する弱い条件下でゼロに収束し、学習の一貫性を保証する。
• 上限の減衰率は O(N^(-1/2)) であり、マトérn カーネルの真の事後分散減衰率と一致し、既存の上限よりも優れた収束特性を示す。
• 平方指数カーネル、マトérn カーネル、有理二次カーネル、周期的カーネルの各場合において、本稿の平均学習曲線上限は [23] からの上限よりも一貫してタイトで、収束が速い。
• 数値比較の結果、新しい平均学習曲線上限は真の平均学習曲線の上側を常に維持するが、既存の近似（例：[16], [33]）は頻繁にそれを交差しており、誤差の可能性があることを示している。
• 本手法は異なるカーネルタイプに対してロバストであり、連続入力空間に対しても有効であるため、アクティブラーニングや実験設計への広範な応用が可能である。
• 安全を要する応用において、信頼性の高い局所的不確実性測度を提供することで、よりタイトな一様誤差バウンディングを実現できる。