[논문 리뷰] Causal Modeling for Fairness in Dynamical Systems

Elliot Creager, David Madras외 2명|arXiv (Cornell University)|2019. 09. 18.

Advanced Causal Inference Techniques참고 문헌 35인용 수 10

한 줄 요약

이 논문은 동적 시스템에서의 공정성 모델링을 위한 통합 프레임워크로 인과적 방향 비순환 그래프(DAG)를 제안하며, 그룹 및 개인 수준에서 단기 및 장기 결과에 대한 간섭 분석을 가능하게 한다. 이는 시스템 동역학이 알려지지 않은 경우 인과 모델링이 오프-정책 추정을 향상시키며, 동역학이 알려진 경우에 영리한 시뮬레이터로 기능함을 보여주며, 핵심 결과로는 정책의 강건성이 소외된 집단에 대한 결과 예측 가정에 매우 민감함을 시사한다.

ABSTRACT

In many application areas---lending, education, and online recommenders, for example---fairness and equity concerns emerge when a machine learning system interacts with a dynamically changing environment to produce both immediate and long-term effects for individuals and demographic groups. We discuss causal directed acyclic graphs (DAGs) as a unifying framework for the recent literature on fairness in such dynamical systems. We show that this formulation affords several new directions of inquiry to the modeler, where causal assumptions can be expressed and manipulated. We emphasize the importance of computing interventional quantities in the dynamical fairness setting, and show how causal assumptions enable simulation (when environment dynamics are known) and off-policy estimation (when dynamics are unknown) of intervention on short- and long-term outcomes, at both the group and individual levels.

연구 동기 및 목표

• 인과적 방향 비순환 그래프(DAG)를 사용하여 동적 시스템에서의 공정성에 관련된 다양한 문헌을 통합하기 위해.
• 환경의 동역학이 알려진 경우 정책 간섭의 시뮬레이션을 가능하게 하기 위해.
• 시스템의 동역학이 알려지지 않은 경우 관찰 데이터와 인과적 가정을 활용하여 오프-정책 추정 및 학습을 향상시키기 위해.
• 모델 확장 및 민감도 분석을 통해 장기적 공정성 영향을 분석하기 위해.
• 특히 민감한 집단의 결과 예측에 대한 모델 불일치에 대한 정책의 강건성 평가하기 위해.

제안 방법

• 내생적 및 외생적 노드와 구조적 방정식을 갖는 구조적 인과 모델(SCM)을 사용하여 동적 시스템에서의 공정성 정의하기.
• do-연산자를 적용하여 간섭 분포를 계산하고, 관찰 조건부 확률과의 차이를 명확히 하기.
• 시간 단계 간의 의사결정 규칙 변화를 시뮬레이션하기 위해 정책 간섭(do(f_T → π))를 적용하기.
• 상태 변수를 반복적으로 갱신함으로써(SCM) 다단계 모델로 확장하기 (예: X^{t+1} = f_X(X^t, Y^t, T^t)).
• 구조적 방정식에 대한 간섭(예: do(f_Y → f̂_Y))를 통해 민감도 분석을 실시하여 모델 부정확성에 대한 강건성 평가하기.
• SCM의 모oduularity를 활용하여 장기적 영향을 시뮬레이션하고, 분포 이동 상황에서의 정책 성능 평가하기.

실험 결과

연구 질문

• RQ1 인과적 DAG는 다양한 적용 분야에서 동적 시스템의 공정성에 대해 통합적 프레임워크로 어떻게 기능할 수 있는가?
• RQ2 단기적으로 공정해 보이는 정책이 장기적으로는 어떤 공정성 영향을 미칠 수 있는가?
• RQ3 시스템의 동역학이 알려지지 않은 경우 인과 모델은 오프-정책 추정을 어떻게 향상시킬 수 있는가?
• RQ4 결과 예측의 모델 부정확성은 정책의 강건성과 공정성에 어떤 영향을 미치는가?
• RQ5 기관의 수익과 집단 수준의 결과는 구조적 방정식에 대한 가정에 얼마나 민감한가?

주요 결과

• 기관의 수익은 모델 불일치에 대해 상대적으로 강건하며, 특히 치료 기능에 대한 간섭(do(f_T → f̂_T^EO))에서 그러한 경향이 뚜렷하다.
• 집단별 결과 변화는 모델 부정확성에 매우 민감하며, 특히 p(Y|X)를 p(Y|X,A) 대신 사용하는 간섭에서 그러한 민감도가 두드러진다.
• 구조적 인과 모델(SCM)의 반복적 확장은 장기적 영향 시뮬레이션을 가능하게 하며, A에 의존하는 T^t 및 Y^t 동역학으로 인해 지속적인 집단 수준의 격차를 드러낸다.
• 구조적 방정식 간섭(예: do(f_Y → f̂_Y))를 통한 민감도 분석은 결과 예측에 대한 잘못된 가정에 대한 정책의 취약성을 효과적으로 정량화한다.
• 인과적 프레임워크는 체계적인 모델 확장 및 분석을 가능하게 하며, 온-정책 평가 및 분포 이동 상황에서의 강건성 테스트를 지원한다.
• 특히 시스템 동역학이 알려지지 않은 경우 관찰 데이터와 명시적 인과적 가정을 활용함으로써 인과 모델링이 오프-정책 학습 및 추정을 향상시킨다.