[論文レビュー] Performative Prediction

Juan C. Perdomo, Tijana Zrnic+2 more|arXiv (Cornell University)|Feb 16, 2020

Game Theory and Applications参考文献 35被引用数 15

ひとこと要約

本稿では、予測がそれ自身が予測しようとしている結果に影響を与えるという現象、すなわち「効果的予測（performative prediction）」を形式化するフレームワークを提案する。このフィードバックループはリスク最小化の枠組みで形式化され、性能的安定性（performative stability）が主要な均衡概念として定立され、滑らかさ、強い凸性、リプシッツ連続性の仮定のもとで、繰り返しリスク最小化が線形収束することを証明している。これらの条件のいずれかが満たされない場合には収束が失敗する。

ABSTRACT

When predictions support decisions they may influence the outcome they aim to predict. We call such predictions performative; the prediction influences the target. Performativity is a well-studied phenomenon in policy-making that has so far been neglected in supervised learning. When ignored, performativity surfaces as undesirable distribution shift, routinely addressed with retraining. We develop a risk minimization framework for performative prediction bringing together concepts from statistics, game theory, and causality. A conceptual novelty is an equilibrium notion we call performative stability. Performative stability implies that the predictions are calibrated not against past outcomes, but against the future outcomes that manifest from acting on the prediction. Our main results are necessary and sufficient conditions for the convergence of retraining to a performatively stable point of nearly minimal loss. In full generality, performative prediction strictly subsumes the setting known as strategic classification. We thus also give the first sufficient conditions for retraining to overcome strategic feedback effects.

研究の動機と目的

• 意思決定システムにおける、予測がそれ自身の予測しようとしている結果に影響を与えるという現象（パフォーマンスの性質、performativity）を形式化すること。
• モデル主導の意思決定によって引き起こされる分布シフトを扱い、標準的なリスク最小化の有効性を損なう問題に対処すること。
• 予測と結果の間の動的フィードバックを考慮したリスク最小化フレームワークを構築すること。
• 予測が自身が引き起こす結果の分布に対して最適であるという新しい均衡概念「性能的安定性」を定義・分析すること。
• 繰り返しリスク最小化が性能的安定かつ近似的に最適な解に収束するための十分条件を確立すること。

提案手法

• モデルパラメータ $\theta$ から誘導されるデータ分布 $\mathcal{D}(\theta)$ への写像を導入し、意思決定が結果の分布に与える影響を捉える。
• 効果的リスク $\mathrm{PR}(\theta) = \mathbb{E}_{Z \sim \mathcal{D}(\theta)} \ell(Z; \theta)$ を定義し、モデルが自身が引き起こす分布上で性能を評価する。
• 繰り返しリスク最小化をヒューリスティックとして提案：$\theta_{t+1} = \arg\min_\theta \mathbb{E}_{Z \sim \mathcal{D}(\theta_t)} \ell(Z; \theta)$ で、繰り返し再訓練をモデル化する。
• 性能的安定性の概念を導入し、$\theta$ が $\mathcal{D}(\theta)$ 上でリスクを最小化する、すなわち $\mathrm{PR}(\theta) = \min_{\theta'} \mathbb{E}_{Z \sim \mathcal{D}(\theta)} \ell(Z; \theta')$ である点を定義する。これにより、予測と結果の整合性が保証される。
• 収束性と性能の向上を図るため、正則化付きの繰り返しリスク最小化を分析し、強い凸性と滑らかさを用いて最適な効果的リスクからの逸脱をバウンディングする。
• 動的安定性を保証するため、$\mathcal{D}(\cdot)$ の $\theta$ に対するリプシッツ連続性（ユークリッドノルム）および分布（ワサースタイン距離）における連続性を導入する。

実験結果

リサーチクエスチョン

• RQ1 繰り返しリスク最小化が、効果的予測設定において安定な予測モデルに収束するための条件は何か？
• RQ2 性能的安定性と最小効果的リスクの関係は何か？
• RQ3 パフォーマンスが戦略的分類をどのように包含するか、そしてこのようなフィードバック駆動環境での収束を保証する条件は何か？
• RQ4 正則化は効果的予測における収束性と性能を向上させられるか？また、得られる解は最適な効果的リスクにどの程度近いか？
• RQ5 滑らかさ、強い凸性、またはリプシッツ連続性といった重要な仮定が失敗した場合、何が起こるか？

主な発見

• 損失関数が滑らかで、強く凸的であり、かつ $\mathcal{D}(\cdot)$ が十分にリプシッツ連続であれば、繰り返しリスク最小化は性能的安定点に線形収束する。
• 滑らかさ、強い凸性、リプシッツ連続性のいずれかの仮定が満たされない場合、繰り返しリスク最小化は収束しない可能性がある。
• 性能的安定性は最小効果的リスクを意味しないし、逆に最小効果的リスクも安定性を意味しない。
• 正則化付きの繰り返しリスク最小化は、最適な効果的リスクから $O\left(\frac{\sqrt{\varepsilon}}{1-\varepsilon}\right)$ のオーダーで近似された目的値を達成する。ここで $\varepsilon$ は正則化の強さを測る指標である。
• $\varepsilon = 0$ の場合、正則化付き解は元の問題の性能的最適解に収束する。
• 提示された条件下では収束速度は線形であり、サブオプティマルさのバウンディングは逆条件数およびリプシッツ定数に依存する。