[논문 리뷰] Performative Prediction: Past and Future

Moritz Hardt, Celestine Mendler-Dünner|arXiv (Cornell University)|2023. 10. 25.

Complex Systems and Time Series Analysis인용 수 4

한 줄 요약

이 논문은 기계학습 예측이 예측 대상이 되는 데이터 자체에 영향을 미치며, 결과적으로 피드백 루프를 만들어 내는 방식을 공식화한 프레임워크인 '퍼포매티브 예측(performative prediction)'을 제안한다. 이는 결과를 변화시키는 피드백 루프를 유도하며, 균형 개념을 수립하고, 학습과 조종의 차이를 명확히 하며, 예측 영향력을 측정하는 '퍼포매티브 파wer'를 도입함으로써 디지털 시장 내 알고리즘 시스템의 최적화 및 거버넌스에 대한 새로운 통찰을 제공한다.

ABSTRACT

Predictions in the social world generally influence the target of prediction, a phenomenon known as performativity. Self-fulfilling and self-negating predictions are examples of performativity. Of fundamental importance to economics, finance, and the social sciences, the notion has been absent from the development of machine learning that builds on the static perspective of pattern recognition. In machine learning applications, however, performativity often surfaces as distribution shift. A predictive model deployed on a digital platform, for example, influences behavior and thereby changes the data-generating distribution. We discuss the recently founded area of performative prediction that provides a definition and conceptual framework to study performativity in machine learning. A key element of performative prediction is a natural equilibrium notion that gives rise to new optimization challenges. What emerges is a distinction between learning and steering, two mechanisms at play in performative prediction. Steering is in turn intimately related to questions of power in digital markets. The notion of performative power that we review gives an answer to the question how much a platform can steer participants through its predictions. We end on a discussion of future directions, such as the role that performativity plays in contesting algorithmic systems.

연구 동기 및 목표

• 예측이 데이터 생성 과정을 변화시킴으로써 기계학습에서의 '퍼포매티비티'를 공식화함으로써, 전통적인 고정된 데이터 가정에 도전한다.
• 사회적 시스템에서의 예측 기초 문제를 다루며, 추천 시스템이나 교통 루팅과 같이 예측이 행동에 영향을 주어 자기실현적 또는 자기부정적 결과를 낳는 상황을 분석한다.
• 퍼포매티브 예측의 두 메커니즘인 '학습(fitting to current data)'과 '조종(reshaping future data distributions through model deployment)'을 구분한다.
• 플랫폼의 예측을 통해 결과에 미치는 영향력을 측정하는 지표로 '퍼포매티브 파워'를 정의하고 정량화함으로써, 반독점 및 규제 분석에 유용한 기초를 마련한다.
• 집단적 행동과 알고리즘 거버넌스에서의 퍼포매티비티의 역할을 탐색하며, 개인적 예측을 넘어서 체계적 사회적 역학으로 확장한다.

제안 방법

• 퍼포매티브 리스크 공식화를 제안: PR(θ) = Risk(θ, D(θ₀)) + [Risk(θ, D(θ)) − Risk(θ, D(θ₀))], 현재 성능와 조종 효과를 분리한다.
• 예측 θ가 θ = R(θ)를 만족할 때 존재하는 고정점으로서의 퍼포매티브 균형을 정의하며, 기계학습에 일반화된 GMS 정리(Grunberg, Modigliani, Simon)를 제시한다.
• 퍼포매티브 균형을 찾기 위한 모델 자유형 및 모델 기반 최적화 접근법을 구분하고, 수렴성과 안정성에 대해 분석한다.
• 예측을 통해 데이터 분포를 얼마나 이동시킬 수 있는지 정량화한 퍼포매티브 파워를 정의함으로써, 디지털 시장 내 영향력의 공식화를 가능하게 한다.
• 알고리즘 집단 행동에 이 프레임워크를 적용하여, 공통된 예측에 영향을 받는 에이전트들이 조율된 방식으로 행동할 수 있음을 보여준다.
• 안정성, 수렴성, 전략적 행동을 분석하기 위해 최적화, 통계학, 제어 이론의 도구를 활용한다.

실험 결과

연구 질문

• RQ1 예측이 예측 대상 결과에 영향을 주는 상황에서, 어떤 조건에서 예측이 자기실현적 또는 자기부정적일 수 있는가?
• RQ2 예측이 데이터 생성 과정을 변화시키는 기계학습 시스템에서, 안정적인 균형을 어떻게 정의하고 계산할 수 있는가?
• RQ3 데이터로부터의 학습과 모델 배포를 통한 데이터 분포 조종 사이의 차이점은 무엇이며, 이 두 요소가 예측 성능에 어떻게 동시에 영향을 미치는가?
• RQ4 퍼포매티브 파워는 어떻게 공식적으로 측정할 수 있으며, 이를 통해 디지털 플랫폼의 시장 지배력이나 규제 리스크를 평가할 수 있는가?
• RQ5 퍼포매티비티는 알고리즘 시스템에서 집단적 행동을 어떻게 가능하게 하거나 제약을 둔다는가? 이를 수학적으로 어떻게 모델링할 수 있는가?

주요 결과

• 퍼포매티브 리스크 공식화는 현재 성능와 조종 효과를 분리함으로써, 최적의 모델이 즉각적인 정확성보다 영향력 확보를 우선시할 수 있음을 보여준다.
• 예측 θ가 θ = R(θ)를 만족할 때 퍼포매티브 균형이 존재하며, 이는 기계학습에 일반화된 GMS 정리이며 피드백 하에서의 일관성을 보장한다.
• 학습과 조종의 구분은 모델 배포가 단순한 통계적 피팅을 넘어서 전략적 개입임을 드러낸다.
• 퍼포매티브 파워는 모델이 데이터 분포를 얼마나 이동시킬 수 있는지의 정도로 정의되며, 디지털 시장 내 영향력에 대한 정량적 지표를 제공한다.
• 프레임워크는 퍼포매티비티가 공통된 예측에 반응하는 에이전트들이 조율된 방식으로 행동할 수 있도록 하여 알고리즘 시스템 내 집단 행동을 가능하게 한다는 점을 드러낸다.
• 논문은 현재 공식화의 한계를 지적하며, 하킹의 '루핑 효과'(looping effect)나 경제학 이론의 퍼포매티비티를 완전히 포괄하지 못한다는 점을 지적하고,未래 연구 방향을 제시한다.