[논문 리뷰] A Causal Perspective on Meaningful and Robust Algorithmic Recourse

Gunnar König, Timo Freiesleben외 1명|arXiv (Cornell University)|2021. 07. 16.

Machine Learning and Algorithms참고 문헌 20인용 수 11

한 줄 요약

이 논문은 모델이 특정 행동이 예측을 변화시키기만 하고 실제 목표 변수를 개선하지는 않는 문제를 해결하기 위해 의미 있는 알고리즘적 복구(MAR)와 그의 완화된 형태인 효과적인 알고리즘적 복구(EAR)를 제안한다. 인과적 구조 모델과 진짜 원인에 대한 간섭을 활용함으로써, MAR은 복구 행동이 의미 있고 모델 재학습에 대해 안정된 방식으로 보장한다. 이는 표준 역설명이 실제 결과를 개선하지 못하는 채 모델을 회피하는 데 유인할 수 있는 한계를 해결한다.

ABSTRACT

Algorithmic recourse explanations inform stakeholders on how to act to revert unfavorable predictions. However, in general ML models do not predict well in interventional distributions. Thus, an action that changes the prediction in the desired way may not lead to an improvement of the underlying target. Such recourse is neither meaningful nor robust to model refits. Extending the work of Karimi et al. (2021), we propose meaningful algorithmic recourse (MAR) that only recommends actions that improve both prediction and target. We justify this selection constraint by highlighting the differences between model audit and meaningful, actionable recourse explanations. Additionally, we introduce a relaxation of MAR called effective algorithmic recourse (EAR), which, under certain assumptions, yields meaningful recourse by only allowing interventions on causes of the target.

연구 동기 및 목표

• 표준 알고리즘적 복구가 실제 목표 변수를 개선하지는 않지만 예측만 변화시키는 행동을 권고할 수 있는 문제를 해결하기 위해.
• 모델 감사(재검토 가능성)와 실행 가능한 복구를 구분하여, 후자의 경우 더 엄격한 제약 조건을 요구함으로써 의미 있는 복구를 보장하기 위해.
• 목표 변수의 진짜 원인에 대한 간섭에 초점을 맞춤으로써, 모델 재학습에 대해 안정된 복구 행동을 보장하는 인과적 프레임워크를 개발하기 위해.
• 목표 변수에 대한 완전한 구조적 역설명이 필요로 하지 않는 조건 하에서 MAR을 EAR로 완화하여 의미 있는 복구를 계산적으로 실현 가능하게 하되 의미를 유지하기 위해.
• 의미 없는 복구가 분포 이동을 유도하고 장기적인 모델 신뢰성을 약화시킬 수 있음을 보여주기 위해.

제안 방법

• 모델 예측 $\hat{Y}$와 기저 목표 변수 $Y$ 둘 다를 일관되게 향상시키는 간섭만 允가하는 제약 조건으로 의미 있는 알고리즘적 복구(MAR)를 제안한다.
• 데이터 생성 과정을 정의하고 목표 변수 $Y$의 직접 원인, 자식, 배우자(배우자)를 식별하기 위해 구조적 인과 모델(SCM)을 사용한다.
• 행동 가능한 변수 $X_i$ 에 대해 $do(X_i := a_i)$ 간섭을 적용하여 다양한 행동 하에서의 역설명적 결과를 시뮬레이션한다.
• 예측기가 이러한 간섭 하에서 안정적이라는 가정 하에, MAR의 완화된 형태인 EAR를 도입하며, 이는 $Y$의 원인에 대한 간섭만 요구한다.
• 목표 변수 $Y$의 마르코프 블랭킷이 원인에 대한 간섭 하에서도 안정적인 조건을 유도한다. 이는 조건부 분포가 권고된 행동 하에서도 이동하지 않음을 보장한다.
• 간섭 안정성과 조건부 불변성 개념을 활용하여, 모델 재학습 후에도 복구 행동이 유효함을 보장한다.

실험 결과

연구 질문

• RQ1 모델 재학습에 대해 안정된 복구를 확보하기 위해 권고된 행동이 예측과 진짜 목표 변수 양쪽을 향상시키도록 보장함으로써 알고리즘적 복구를 어떻게 강화할 수 있는가?
• RQ2 모델 입력에 대한 간섭이 $\hat{Y}$와 $Y$ 양쪽 모두에서 일관된 개선을 이끌어내기 위해 충족되어야 할 인과 조건은 무엇인가?
• RQ3 MAR의 엄격한 요구 조건을 어떻게 완화하여 의미 있는 복구를 계산적으로 실현 가능하게 하되 의미를 유지할 수 있는가?
• RQ4 어떤 가정 하에서 EAR은 $Y$의 원인에 한정된 간섭만으로 의미 있는 복구를 제공하는가?
• RQ5 비인과적 변수를 통해 모델을 회피하는 의미 없는 복구는 어떻게 분포 이동을 유도하고 모델의 안정성을 해칠 수 있는가?

주요 결과

• MAR는 모든 권고된 행동이 모델의 예측 $\hat{Y}$와 기저 목표 변수 $Y$ 둘 다를 향상시키므로, 게임화를 방지하고 장기적 안정성을 확보한다.
• 완벽한 예측기($f(x) = y$)와 예측기의 특징 집합 $S$ 의 간섭 안정성이라는 가정 하에, EAR은 역설명적 예측 $\hat{y}^{SCF}$ 가 진짜 역설명적 목표 $y^{SCF}$ 와 일치함을 보장한다.
• 목표 변수 $Y$ 의 모든 직접 원인, 자식, 배우자가 관측된 경우, $Y$ 의 마르코프 블랭킷은 원인에 대한 간섭 하에서도 안정적이며, 이는 조건부 분포가 일관되게 유지됨을 보장한다.
• 모토레이팅 예시에서 '미니밴'과 같은 비인과적 변수는 모델이 악용될 수 있으며, 이는 실제 위험을 개선하지 못하면서도 예측만 변화시키는 복구를 초래한다. 이는 인과적 사고의 필요성을 강조한다.
• 조건부 분포가 불변이더라도, 결합 분포가 이동하는 간섭은 모델 재학습 시 권고가 무효화될 수 있음을 보여주며, 이는 인과적 안정성의 필요성을 강조한다.
• 논문은 모델 당국이 의미 없는 권고의 위험을 줄이기 위해, 표면적 상관관계보다 진짜 원인을 관측하는 것을 우선시해야 한다고 보여주며, 모델 감사와 실행 가능한 복구를 일치시킨다.