[论文解读] Performative Prediction

Juan C. Perdomo, Tijana Zrnic+2 more|arXiv (Cornell University)|Feb 16, 2020

Game Theory and Applications参考文献 35被引用 15

一句话总结

本文提出了表现性预测（performative prediction）框架，其中预测会影响其试图预测的结果，通过风险最小化方法形式化这一反馈回路。该研究将表现性稳定（performative stability）确立为关键的均衡概念，并证明在光滑性、强凸性和Lipschitz连续性假设下，重复风险最小化会线性收敛至此类稳定点；若任一条件被违反，则收敛可能失败。

ABSTRACT

When predictions support decisions they may influence the outcome they aim to predict. We call such predictions performative; the prediction influences the target. Performativity is a well-studied phenomenon in policy-making that has so far been neglected in supervised learning. When ignored, performativity surfaces as undesirable distribution shift, routinely addressed with retraining. We develop a risk minimization framework for performative prediction bringing together concepts from statistics, game theory, and causality. A conceptual novelty is an equilibrium notion we call performative stability. Performative stability implies that the predictions are calibrated not against past outcomes, but against the future outcomes that manifest from acting on the prediction. Our main results are necessary and sufficient conditions for the convergence of retraining to a performatively stable point of nearly minimal loss. In full generality, performative prediction strictly subsumes the setting known as strategic classification. We thus also give the first sufficient conditions for retraining to overcome strategic feedback effects.

研究动机与目标

• 形式化决策系统中预测影响其预测结果的现象，即表现性（performativity）。
• 解决由模型驱动决策引发的分布偏移问题，该问题会破坏标准风险最小化方法。
• 开发一种考虑预测与结果之间动态反馈的风险最小化框架。
• 定义并分析一种新的均衡概念——表现性稳定，即预测在其所诱导的结果分布上达到最优。
• 建立重复风险最小化收敛至表现性稳定且近似最优解的充分条件。

提出的方法

• 引入映射 $\mathcal{D}(\theta)$，将模型参数 $\theta$ 映射到其诱导的数据分布，以捕捉决策如何影响结果分布。
• 定义表现性风险 $\mathrm{PR}(\theta) = \mathbb{E}_{Z \sim \mathcal{D}(\theta)} \ell(Z; \theta)$，用于评估模型在自身所导致分布上的性能。
• 提出重复风险最小化作为启发式方法：$\theta_{t+1} = \arg\min_\theta \mathbb{E}_{Z \sim \mathcal{D}(\theta_t)} \ell(Z; \theta)$，以建模迭代再训练过程。
• 引入表现性稳定的概念，即 $\theta$ 在 $\mathcal{D}(\theta)$ 上最小化风险，亦即 $\mathrm{PR}(\theta) = \min_{\theta'} \mathbb{E}_{Z \sim \mathcal{D}(\theta)} \ell(Z; \theta')$，确保预测与结果之间的一致性。
• 分析正则化重复风险最小化以提升收敛性与性能，利用强凸性和光滑性来界定与最优表现性风险的偏差。
• 采用 $\mathcal{D}(\cdot)$ 关于 $\theta$（在欧几里得范数下）和分布（在Wasserstein距离下）的Lipschitz连续性，以确保动态系统的稳定性。

实验结果

研究问题

• RQ1 在何种条件下，重复风险最小化会在表现性预测设置中收敛至稳定预测模型？
• RQ2 表现性稳定与最小表现性风险之间存在何种关系？
• RQ3 表现性如何涵盖策略分类（strategic classification），在何种条件下可确保此类反馈驱动环境中的收敛？
• RQ4 正则化能否提升表现性预测中的收敛性与性能，且所得解与最优表现性风险的接近程度如何？
• RQ5 当关键假设（光滑性、强凸性或Lipschitz连续性）失效时，会发生什么？

主要发现

• 当损失函数光滑、强凸且 $\mathcal{D}(\cdot)$ 足够Lipschitz连续时，重复风险最小化会线性收敛至表现性稳定点。
• 若三个假设（光滑性、强凸性、Lipschitz连续性）中任一不成立，重复风险最小化可能根本无法收敛。
• 表现性稳定并不蕴含最小表现性风险，反之亦然。
• 正则化重复风险最小化可使目标值逼近最优表现性风险的 $O\left(\frac{\sqrt{\varepsilon}}{1-\varepsilon}\right)$ 范围内，其中 $\varepsilon$ 衡量正则化强度。
• 当 $\varepsilon = 0$ 时，正则化解收敛至原始问题的最优表现性解。
• 在给定条件下，收敛速率为线性，且次优性界依赖于条件数的倒数与Lipschitz常数。