[论文解读] Performative Prediction: Past and Future

Moritz Hardt, Celestine Mendler-Dünner|arXiv (Cornell University)|Oct 25, 2023

Complex Systems and Time Series Analysis被引用 4

一句话总结

本文提出了一种形式化框架——行为预测（performative prediction），用于研究机器学习预测如何影响其本欲预测的数据本身，从而引发改变结果的反馈回路。该研究建立了均衡概念，区分了学习与引导（steering）机制，并引入了行为影响力（performative power）作为衡量预测影响力的新指标，为数字市场中的算法系统提供了新的优化与治理洞见。

ABSTRACT

Predictions in the social world generally influence the target of prediction, a phenomenon known as performativity. Self-fulfilling and self-negating predictions are examples of performativity. Of fundamental importance to economics, finance, and the social sciences, the notion has been absent from the development of machine learning that builds on the static perspective of pattern recognition. In machine learning applications, however, performativity often surfaces as distribution shift. A predictive model deployed on a digital platform, for example, influences behavior and thereby changes the data-generating distribution. We discuss the recently founded area of performative prediction that provides a definition and conceptual framework to study performativity in machine learning. A key element of performative prediction is a natural equilibrium notion that gives rise to new optimization challenges. What emerges is a distinction between learning and steering, two mechanisms at play in performative prediction. Steering is in turn intimately related to questions of power in digital markets. The notion of performative power that we review gives an answer to the question how much a platform can steer participants through its predictions. We end on a discussion of future directions, such as the role that performativity plays in contesting algorithmic systems.

研究动机与目标

• 为机器学习中的行为性（performativity）提供形式化，即预测会改变数据生成过程，从而挑战传统假设中数据不可变的观念。
• 解决社会系统中预测的根本性问题，即预测会影响行为（如推荐系统或交通路由），导致自我实现或自我否定的结果。
• 在行为预测中区分两种机制：学习（拟合当前数据）与引导（通过部署模型影响未来数据分布）。
• 定义并量化行为影响力，作为平台通过其预测对结果施加影响力的度量，适用于反垄断与监管分析。
• 探讨行为性在集体行动与算法治理中的作用，将研究从个体预测扩展至系统性社会动态。

提出的方法

• 提出一种行为风险公式：PR(θ) = Risk(θ, D(θ₀)) + [Risk(θ, D(θ)) − Risk(θ, D(θ₀))], 将当前性能与引导效应分离。
• 引入行为均衡作为不动点，其中预测 θ 满足 θ = R(θ)，将 GMS 定理（Grunberg, Modigliani, Simon）推广至机器学习领域。
• 区分无模型与基于模型的优化方法以寻找行为均衡，分析其收敛性与稳定性。
• 将行为影响力定义为模型通过其预测影响数据分布的能力，形式化数字市场中的影响力。
• 将该框架应用于算法集体行动，表明行为影响力可使受共享预测影响的参与者实现协调行为。
• 运用优化、统计与控制理论工具，分析在行为反馈下的稳定性、收敛性与策略行为。

实验结果

研究问题

• RQ1 在何种条件下，当预测影响其试图预测的结果时，该预测可能成为自我实现或自我否定的？
• RQ2 在预测会改变数据生成过程的机器学习系统中，如何定义并计算一个稳定的均衡？
• RQ3 从数据中学习与通过模型部署引导数据分布之间有何区别？二者如何共同影响预测性能？
• RQ4 如何正式度量行为影响力，并用于评估数字平台的市场主导地位或监管风险？
• RQ5 行为性在何种方式下促进或限制算法系统中的集体行动？如何建立其数学模型？

主要发现

• 行为风险公式将当前性能与引导的潜在收益分离，表明最优模型可能更重视影响力而非即时准确性。
• 当预测 θ 满足 θ = R(θ) 时，行为均衡存在，该定义将 GMS 定理推广至机器学习，确保在反馈下的一致性。
• 学习与引导之间的区分表明，模型部署可成为一种战略性干预，而不仅仅是统计拟合。
• 行为影响力被正式定义为模型影响数据分布的能力，为数字市场中的影响力提供可量化的度量。
• 该框架揭示了行为性可使算法系统中的参与者实现集体行动，即受共享预测影响的个体以协调方式响应。
• 本文指出了当前形式化框架的局限性，如无法完全捕捉 Hacking 的循环效应（looping effect）或经济理论的行为性，为未来研究指明了方向。