[論文レビュー] A unified recipe for deriving (time-uniform) PAC-Bayes bounds

Ben Chugg, Hongjian Wang+1 more|arXiv (Cornell University)|Feb 7, 2023

Statistical Methods and Inference被引用数 7

ひとこと要約

この論文は、4つの手法（マルチンゲール/ミクスチャ法、変化測度の変分、ヴィルの不等式）を組み合わせて、ノンi.i.d. かつ非定常な損失を含む任意時点有効な境界を導出し、古典的なPAC-Bayes結論を統合・拡張する一般的で時刻一様なPAC-Bayesフレームワークを提示する。

ABSTRACT

We present a unified framework for deriving PAC-Bayesian generalization bounds. Unlike most previous literature on this topic, our bounds are anytime-valid (i.e., time-uniform), meaning that they hold at all stopping times, not only for a fixed sample size. Our approach combines four tools in the following order: (a) nonnegative supermartingales or reverse submartingales, (b) the method of mixtures, (c) the Donsker-Varadhan formula (or other convex duality principles), and (d) Ville's inequality. Our main result is a PAC-Bayes theorem which holds for a wide class of discrete stochastic processes. We show how this result implies time-uniform versions of well-known classical PAC-Bayes bounds, such as those of Seeger, McAllester, Maurer, and Catoni, in addition to many recent bounds. We also present several novel bounds. Our framework also enables us to relax traditional assumptions; in particular, we consider nonstationary loss functions and non-i.i.d. data. In sum, we unify the derivation of past bounds and ease the search for future bounds: one may simply check if our supermartingale or submartingale conditions are met and, if so, be guaranteed a (time-uniform) PAC-Bayes bound.

研究の動機と目的

• 広いクラスの確率過程に対して、任意の停止時点でも有効な一般的な時刻一様PAC-Bayes境界を提供する。
• マルチンゲール様の構造を同定して、既存のPAC-Bayes境界を単一フレームワークに統合する。
• PAC-Bayes境界内で、i.i.d.でないデータや非定常な損失を含む従来の仮定を緩和する。
• クラシカルな境界（Seeger、McAllester、Maurer、Catoni）との具体的な系と、新しい境界の導出方法を示す。

提案手法

• 非負のスーパーマルガイン天井または逆サブマルガインで上界される過程に対する一般的なマスタ境界（定理3.1）を特定する。
• 補助パラメータの事前分布上で積分することで時刻一様境界を作る混合法（KLに基づく変分形）を用いる。
• Donsker-Varadhanの変化測度公式（またはφ-ダイバージェンス/ Rényi の派生）を適用してPAC-Bayes風不等式を得る。
• Villeの不等式（前向きサブマルガインまたは逆サブマルガイン形）を用いて時刻一様な保証を達成する。
• このフレームワークが、既存境界を多く系として取り出す系を回復し、非i.i.d.および非定常設定へ拡張することを示す。

実験結果

リサーチクエスチョン

• RQ1 マルチゲール様の道具を用いて、広範な確率過程に対して時刻一様（任意の時点で有効）PAC-Bayes境界を導出できるか。
• RQ2 混合・変化測度・Villeの不等式がどのように組み合わさって、古典的なPAC-Bayes境界を再現・拡張するか。
• RQ3 統一的な時刻一様PAC-Bayesフレームワーク内で、標準仮定（i.i.d.、定常性）からどのような緩和が許されるか。
• RQ4 マスタ定理を逆サブマルガイン構造やKL以外の他の発散に適用することで、どのような新しい境界が得られるか。

主な発見

• 時刻一様なマスタPAC-Bayes境界（定理3.1）は、非負のスーパーマルガインまたは逆サブマルガインで上界される任意の過程に適用可能。
• 正の値を持つマルチプルマルガインを混合することで、Villeの不等式を介して広範な損失過程に適用可能な時刻一様境界を生み出す。
• Donsker-Varadhanの変化測度公式はKLベースのPAC-Bayes境界を時刻一様設定へ拡張し、古典的境界の系が得られる系の系を含む系の系を得る。
• このフレームワークは非i.i.d.データと非定常な損失に対応し、既存境界と新しい境界の統一的導出経路を可能にする。
• 本論文は、各境界を一から再導出するのではなく、マルチゲール条件を確認することで時刻一様PAC-Bayes境界を導出する方法を体系的に示す。