[论文解读] Performative Prediction in a Stateful World

Gavin Brown, Shlomi Hod+1 more|arXiv (Cornell University)|Nov 8, 2020

Machine Learning and Data Classification参考文献 6被引用 13

一句话总结

本文提出了一种具有状态依赖性的表现性预测框架，其中目标群体对已部署分类器的响应取决于特征的过去分布，通过建模跨群体的延迟适应来实现。该研究证明了在重复风险最小化及其延迟变体下收敛至均衡，展示了在现实响应动态下接近最优且群体层面结果差异减少的特性。

ABSTRACT

Deployed supervised machine learning models make predictions that interact with and influence the world. This phenomenon is called performative prediction by Perdomo et al. (ICML 2020). It is an ongoing challenge to understand the influence of such predictions as well as design tools so as to control that influence. We propose a theoretical framework where the response of a target population to the deployed classifier is modeled as a function of the classifier and the current state (distribution) of the population. We show necessary and sufficient conditions for convergence to an equilibrium of two retraining algorithms, repeated risk minimization and a lazier variant. Furthermore, convergence is near an optimal classifier. We thus generalize results of Perdomo et al., whose performativity framework does not assume any dependence on the state of the target population. A particular phenomenon captured by our model is that of distinct groups that acquire information and resources at different rates to be able to respond to the latest deployed classifier. We study this phenomenon theoretically and empirically.

研究动机与目标

• 建模历史分类器部署如何通过状态依赖响应动态影响群体行为。
• 分析在群体以不同速率适应预测的环境中，再训练算法的收敛性。
• 研究当信息在社会群体间传播存在延迟时，表现性预测的公平性影响。
• 通过引入分布历史和转移动态，将先前的无状态表现性预测框架进行泛化。
• 评估算法设计（如延迟再训练）是否能缓解群体间的性能诱导差异。

提出的方法

• 将表现性建模为一个在线学习博弈，其中状态依赖的转移映射 Tr(d; θ) 将当前分布 d 和分类器 θ 映射到下一分布。
• 提出三个理论示例：具有延迟响应的 k 个群体、指数衰减响应和马尔可夫转移，均推广了先前的无状态模型。
• 分析两种再训练算法：重复风险最小化（RRM）和 k-延迟 RRM，其中每个群体对 k 个回合前的分类器作出响应。
• 为两种算法建立了收敛至表现性稳定均衡的必要与充分条件。
• 通过经验模拟评估模型准确率和每组负率（NR），以衡量战略响应中的公平性。
• 在转移函数有界敏感性和损失函数为凸函数的假设下，应用理论保证。

实验结果

研究问题

• RQ1 在具有延迟群体响应的有状态表现性预测设置中，重复风险最小化在何种条件下收敛？
• RQ2 k-延迟再训练变体与标准 RRM 相比，在收敛速度和均衡质量方面有何差异？
• RQ3 群体间响应动态的延迟在多大程度上导致预测结果的持续差异？
• RQ4 算法设计选择（如延迟再训练）是否能减少表现性预测中各群体的劣势？
• RQ5 理论收敛保证在依赖历史的现实响应函数下是否依然成立？

主要发现

• 所提出的有状态框架通过引入分布历史和转移动态，推广了先前的无状态表现性预测框架。
• 在对转移映射的温和假设下，证明了重复风险最小化及其 k-延迟变体均可收敛至表现性稳定均衡。
• 经验模拟显示，k-延迟 RRM 算法的收敛速度慢于标准 RRM，k=3 且 ε=25 时尤为明显。
• 在早期轮次（1 ≤ t < 10），k-延迟 RRM 中最占优势的群体比最不利群体多获得 2.09% 的负预测（即更有利结果），表明仍存在残余差异。
• 对于 RRM，在前 10 轮中，最占优势群体比最不利群体多获得 2.37% 的负预测，表明不同算法间差异水平相似。
• 理论结果表明，两种算法均收敛至接近最优的分类器，且收敛性依赖于转移函数对先前状态的敏感度。