[논문 리뷰] Performative Prediction in a Stateful World

Gavin Brown, Shlomi Hod외 1명|arXiv (Cornell University)|2020. 11. 08.

Machine Learning and Data Classification참고 문헌 6인용 수 13

한 줄 요약

이 논문은 대상 집단의 반응이 이전의 특성 분포에 의존하고, 그로 인해 그룹 간에 지연된 적응이 발생하는 상태 기반 수행 예측 프레임워크를 제안한다. 반복적인 리스크 최소화와 그 지연된 변형에 대해 평형 상태 수렴을 증명하며, 현실적인 반응 역학 하에서 그룹 수준의 결과에서 근접 최적성과 감소된 이질성을 보여준다.

ABSTRACT

Deployed supervised machine learning models make predictions that interact with and influence the world. This phenomenon is called performative prediction by Perdomo et al. (ICML 2020). It is an ongoing challenge to understand the influence of such predictions as well as design tools so as to control that influence. We propose a theoretical framework where the response of a target population to the deployed classifier is modeled as a function of the classifier and the current state (distribution) of the population. We show necessary and sufficient conditions for convergence to an equilibrium of two retraining algorithms, repeated risk minimization and a lazier variant. Furthermore, convergence is near an optimal classifier. We thus generalize results of Perdomo et al., whose performativity framework does not assume any dependence on the state of the target population. A particular phenomenon captured by our model is that of distinct groups that acquire information and resources at different rates to be able to respond to the latest deployed classifier. We study this phenomenon theoretically and empirically.

연구 동기 및 목표

• 이전의 분류기 배포가 상태에 의존하는 반응 역학을 통해 집단 행동에 어떤 영향을 미치는지 모델링하기 위해.
• 각 그룹이 다른 속도로 예측에 적응하는 환경에서 재학습 알고리즘의 수렴성을 분석하기 위해.
• 정보 유포가 사회적 그룹 간에 지연될 경우 수행 예측의 공정성 영향을 조사하기 위해.
• 분포 역사와 전이 역학을 통합함으로써 이전의 무상태 수행 예측 프레임워크를 일반화하기 위해.
• 알고리즘 설계(예: 지연된 재학습)가 그룹 간 성과 불균형을 완화할 수 있는지 평가하기 위해.

제안 방법

• 현재 분포 d와 분류기 θ를 입력으로 받아 다음 분포를 출력하는 상태 기반 전이 맵 Tr(d; θ)를 사용해 수행성을 모델링한다.
• 세 가지 이론적 예시를 도입한다: 지연된 반응이 있는 k개 그룹, 지수 감쇠 반응, 마코프 전이. 이는 이전의 무상태 모델을 일반화한다.
• 두 가지 재학습 알고리즘을 분석한다: 반복적 리스크 최소화(RRM)와 k-지연 RRM. 여기서 각 그룹은 k라운드 이전의 분류기 반응을 한다.
• 두 알고리즘 모두에 대해 수행적으로 안정된 평형 상태로 수렴하기 위한 필수 및 필요 조건을 확립한다.
• 모델 정확도와 각 그룹의 부정 예측 비율(NR)을 측정하여 전략적 반응 이점의 공정성 평가를 위한 실증 시뮬레이션을 수행한다.
• 전이 함수의 유한 감도와 볼록 손실 함수를 가정할 때 이론적 보장을 적용한다.

실험 결과

연구 질문

• RQ1 지연된 그룹 반응이 있는 상태 기반 수행 예측 설정에서 반복적 리스크 최소화가 수렴하는 조건은 무엇인가?
• RQ2 k-지연 재학습 변형은 표준 RRM에 비해 수렴 속도와 평형 품질 측면에서 어떻게 비교되는가?
• RQ3 그룹 간 지연된 반응 역학이 예측 결과의 지속적 이질성으로 이르는 정도는 어느 정도인가?
• RQ4 지연된 재학습과 같은 알고리즘 설계 선택이 수행 예측에서 각 그룹의 열등함을 줄일 수 있는가?
• RQ5 이론적 수렴 보장이 역사에 의존하는 현실적인 반응 함수 하에서도 유지되는가?

주요 결과

• 제안된 상태 기반 프레임워크는 분포 역사와 전이 역학을 통합함으로써 이전의 무상태 수행 예측 프레임워크를 일반화한다.
• 전이 맵에 대한 약한 가정 하에 반복적 리스크 최소화와 그 k-지연 변형 모두에 대해 수행적으로 안정된 평형 상태로의 수렴이 증명된다.
• k-지연 RRM 알고리즘은 표준 RRM보다 수렴 속도가 느리며, k=3과 ε=25인 실증 시뮬레이션에서 이를 확인했다.
• 초기 라운드(1 ≤ t < 10)에서 k-지연 RRM의 가장 유리한 그룹은 가장 열등한 그룹보다 2.09% 더 많은 부정 예측(즉, 유리한 결과)을 받았으며, 잔류 이질성이 있음을 시사한다.
• RRM의 경우 첫 10라운드 동안 가장 유리한 그룹은 가장 열등한 그룹보다 2.37% 더 많은 부정 예측을 받았으며, 이는 알고리즘 간 유사한 수준의 이질성이 있음을 시사한다.
• 이론적 결과는 두 알고리즘이 근사 최적의 분류기 근처로 수렴하며, 이 수렴은 전이 함수의 이전 상태에 대한 감도에 따라 달라진다는 것을 보여준다.