[논문 리뷰] Performative Prediction

Juan C. Perdomo, Tijana Zrnic외 2명|arXiv (Cornell University)|2020. 02. 16.

Game Theory and Applications참고 문헌 35인용 수 15

한 줄 요약

이 논문은 예측이 예측 대상이 되는 결과에 영향을 미치는 '행위적 예측(performativity)'를 정량화하는 프레임워크를 제안한다. 이는 위험 최소화 접근법을 통해 피드백 루프를 수학적으로 기술하며, 수행 가능한 안정성(performative stability)을 핵심 균형 개념으로 정의한다. 부드러움, 강凸성, 리프시츠 연속성 조건을 만족할 경우 반복적 위험 최소화가 선형 수렴성을 보이며, 이러한 조건 중 하나라도 위반되면 수렴 실패가 발생함을 증명한다.

ABSTRACT

When predictions support decisions they may influence the outcome they aim to predict. We call such predictions performative; the prediction influences the target. Performativity is a well-studied phenomenon in policy-making that has so far been neglected in supervised learning. When ignored, performativity surfaces as undesirable distribution shift, routinely addressed with retraining. We develop a risk minimization framework for performative prediction bringing together concepts from statistics, game theory, and causality. A conceptual novelty is an equilibrium notion we call performative stability. Performative stability implies that the predictions are calibrated not against past outcomes, but against the future outcomes that manifest from acting on the prediction. Our main results are necessary and sufficient conditions for the convergence of retraining to a performatively stable point of nearly minimal loss. In full generality, performative prediction strictly subsumes the setting known as strategic classification. We thus also give the first sufficient conditions for retraining to overcome strategic feedback effects.

연구 동기 및 목표

• 결정 제도에서 예측이 예측 대상 결과에 영향을 미치는 현상인 '행위성(performativity)'을 수식화하기 위해.
• 모델 기반 결정보다 표준 위험 최소화의 성립을 해칠 수 있는 분포 이동 문제를 다루기 위해.
• 예측과 결과 간의 동적 피드백을 고려한 위험 최소화 프레임워크를 개발하기 위해.
• 예측이 유도하는 결과 분포에 대해 최적인 예측을 갖는 새로운 균형 개념인 수행 가능한 안정성을 정의하고 분석하기 위해.
• 반복적 위험 최소화가 수행 가능한 안정성과 근접한 최적 해로 수렴하는 데 필요한 충분한 조건을 확립하기 위해.

제안 방법

• 모델 파라미터 $\theta$ 에서 생성되는 데이터 분포 $\mathcal{D}(\theta)$ 를 나타내는 사상 $\mathcal{D}(\theta)$ 를 도입하여, 의사결정이 결과 분포에 미치는 영향을 기술한다.
• 예측이 유도하는 분포에서의 모델 성능을 평가하는 수행 위험 $\mathrm{PR}(\theta) = \mathbb{E}_{Z \sim \mathcal{D}(\theta)} \ell(Z; \theta)$ 를 정의한다.
• 반복적 위험 최소화를 히우리스틱으로 제안한다: $\theta_{t+1} = \arg\min_\theta \mathbb{E}_{Z \sim \mathcal{D}(\theta_t)} \ell(Z; \theta)$, 이는 반복적 재학습을 모델링한다.
• 수행 가능한 안정성 개념을 도입한다. 이는 $\theta$ 가 $\mathcal{D}(\theta)$ 에서 위험을 최소화할 때 성립하며, 즉 $\mathrm{PR}(\theta) = \min_{\theta'} \mathbb{E}_{Z \sim \mathcal{D}(\theta)} \ell(Z; \theta')$ 를 만족함으로써 예측과 결과 간의 일관성을 확보한다.
• 수렴성과 성능 향상을 위해 정규화된 반복적 위험 최소화를 분석하며, 강凸성과 부드러움을 이용해 최적 수행 위험에서의 편차를 유계로 제한한다.
• 유클리드 노름에 대한 $\mathcal{D}(\cdot)$ 의 리프시츠 연속성과 워샤르슈타인 거리에 따른 분포에 대한 연속성을 활용하여 안정적인 동역학을 보장한다.

실험 결과

연구 질문

• RQ1 반복적 위험 최소화가 행동적 예측 환경에서 안정된 예측 모델로 수렴하는 조건은 무엇인가?
• RQ2 수행 가능한 안정성과 최소 수행 위험 간의 관계는 무엇인가?
• RQ3 행위성이 전략적 분류를 어떻게 포함하는가? 이러한 피드백 기반 환경에서 수렴을 보장하는 조건은 무엇인가?
• RQ4 정규화가 행동적 예측에서 수렴성과 성능을 향상시킬 수 있는가? 그리고 얻어진 해는 최적 수행 위험에 얼마나 가까운가?
• RQ5 핵심 가정인 부드러움, 강凸성, 리프시츠 연속성이 실패할 경우 어떤 일이 발생하는가?

주요 결과

• 손실 함수가 부드럽고, 강凸적이며, $\mathcal{D}(\cdot)$ 가 충분히 리프시츠 연속일 경우 반복적 위험 최소화는 수행 가능한 안정점으로 선형 수렴성을 보인다.
• 부드러움, 강凸성, 리프시츠 연속성 중 어느 하나의 가정이라도 실패하면 반복적 위험 최소화가 수렴하지 않을 수 있다.
• 수행 가능한 안정성은 최소 수행 위험을 의미하지 않으며, 최소 수행 위험도 안정성을 의미하지는 않는다.
• 정규화된 반복적 위험 최소화는 최적 수행 위험과의 목표값 차이가 $O\left(\frac{\sqrt{\varepsilon}}{1-\varepsilon}\right)$ 이내가 되며, 여기서 $\varepsilon$ 는 정규화 강도를 측정한다.
• $\varepsilon = 0$ 일 경우 정규화된 해는 원래 문제의 수행 최적해로 수렴한다.
• 제시된 조건 하에서 수렴 속도는 선형이며, 부적합성의 상한은 역 조건수와 리프시츠 상수에 의존한다.