[論文レビュー] Defensive forecasting for optimal prediction with expert advice

Vladimir Vovk|ArXiv.org|Aug 10, 2007

Advanced Bandit Algorithms Research参考文献 21被引用数 14

ひとこと要約

この論文は、予測者が予測をした後に専門家がそれに応じて助言を変える可能性がある状況においても、2値の結果に対する最適な予測を達成する防御的予測手法を導入する。この手法は、任意の完全に混合可能な損失関数（例えば、二乗損失や対数損失を含む）に対して、アグリゲーティング・アルゴリズムと同等の最適な性能保証 $ L_N \leq \min_k L_N^k + \frac{\ln K}{\eta} $ を達成することを証明している。また、専門家の助言が予測者の予測に連続的に依存する状況にも対応可能である。

ABSTRACT

The method of defensive forecasting is applied to the problem of prediction with expert advice for binary outcomes. It turns out that defensive forecasting is not only competitive with the Aggregating Algorithm but also handles the case of "second-guessing" experts, whose advice depends on the learner's prediction; this paper assumes that the dependence on the learner's prediction is continuous.

研究の動機と目的

• 予測者が専門家の助言に従う際の敵対的状況、特に専門家の助言が予測者の予測に依存する状況においても、最適な性能を達成できる堅牢な予測手法の開発。
• 専門家の助言が予測者の出力に連続的に依存する「再考」を行う専門家を扱えるように、防御的予測を拡張すること。
• 完全に混合可能な損失関数に対して、防御的予測がアグリゲーティング・アルゴリズムと同等の最適な性能保証を達成することを確立すること。
• 超マーティンググレットと予測の連続性を用いた、専門家助言付き予測のゲーム理論的基盤を提供すること。
• 防御的予測が、二乗損失や対数損失といった標準的な損失関数を統一的な枠組みで扱えることを示すこと。

提案手法

• 予測者が $ p_n \in [0,1] $ を予測し、レアリティが $ \omega_n \in \{0,1\} $ を公開する2値予測プロトコルに防御的予測を適用する。専門家は、予測値 $ p_n $ に対して連続関数 $ \gamma_n^k(p_n) $ を用いて助言を提供する。
• 累積損失の差分の指数関数を $ \kappa \leq \eta $ でスケーリングした、予測連続性を満たす超マーティングレット $ S_N $ を構築する。これにより、$ S_N $ の期待値が非増加となることが保証される。
• この手法は、損失関数 $ \lambda $ の $ \eta $-混合可能性に依存しており、任意の $ p, g \in [0,1] $ に対して不等式 $ p \exp(\kappa(b - b')) + (1-p)\exp(\kappa(a - a')) \leq 1 $ が成り立つような超予測集合の存在を保証する。
• 予測者が、専門家の助言に対する期待損失を最小化するように $ p_n $ を選択する。超マーティングレットの性質を用いて、長期的な性能バウンドを保証する。
• プロトコルを標準形式に再定式化し、意思決定空間を $ [0,1] $ に、損失関数を $ (a_p, b_p) = \arg\min_{(x,y) \in \text{superprediction set}} py + (1-p)x $ を用いて適切なスコアルールに変換する。
• ゲーム理論的枠組みを用いて理論的保証を導出し、予測者の戦略が累積損失が常に最良の専門家の損失から $ \frac{\ln K}{\eta} $ 以内に保たれることを保証する。

実験結果

リサーチクエスチョン

• RQ1 防御的予測は、専門家助言付き予測において、アグリゲーティング・アルゴリズムと同等の最適な性能保証を達成できるか？
• RQ2 防御的予測は、予測者の予測に連続的に依存する「再考」を行う専門家を扱えるように拡張できるか？
• RQ3 損失関数にどのような条件が課されると、性能バウンド $ L_N \leq \min_k L_N^k + \frac{\ln K}{\eta} $ が達成可能になるか？
• RQ4 防御的予測は、二乗損失や対数損失といった標準的な損失関数に対しても、専門家助言の文脈で適用可能か？
• RQ5 防御的予測のゲーム理論的枠組みは、専門家の助言が予測者の出力に依存する状況でも、性能保証を維持できるように適応可能か？

主な発見

• 防御的予測は、任意の $ \eta $-混合可能な損失関数に対して、アグリゲーティング・アルゴリズムと同等の最適な性能保証 $ L_N \leq \min_k L_N^k + \frac{\ln K}{\eta} $ を達成する。
• 専門家の助言が予測者の予測に連続的に依存する状況でも、この手法は有効であり、アグリゲーティング・アルゴリズムでは明確に取り扱えない状況にも対応可能である。
• 二乗損失や対数損失は完全に混合可能であるため、防御的予測はそれらに対しても同じ最適なレジットバウンド $ \frac{\ln K}{\eta} $ を保証する。
• 予測連続性を満たす超マーティングレットの存在により、予測者が専門家の行動にかかわらず常に $ p_n $ を選択し、性能保証を維持できる。
• 理論的枠組みは一般性に富み、完全に混合可能な損失関数に適用可能であり、その鍵となる条件は、有効な超マーティングレットを構築できる超予測集合の存在である。
• 結果はすべての $ N $ に対して一様に成り立つため、任意の時刻ステップで予測者の累積損失が最良の専門家の損失を $ \frac{\ln K}{\eta} $ を超えないように保証される。