[논문 리뷰] Towards Robust and Reliable Algorithmic Recourse

Sohini Upadhyay, Shalmali Joshi외 1명|arXiv (Cornell University)|2021. 02. 26.

Explainable Artificial Intelligence (XAI)참고 문헌 31인용 수 37

한 줄 요약

ROAR는 모델 이동 하에서도 여전히 유효한 대체 사례(counterfactual recourses)를 생성하기 위한 미니맥스 프레임워크를 제안하며, 이론적 경계와 강한 실험적 강건성을 보여준다(실제 데이터 세트에서 기준보다 67–100% 더 강건함).

ABSTRACT

As predictive models are increasingly being deployed in high-stakes decision making (e.g., loan approvals), there has been growing interest in post hoc techniques which provide recourse to affected individuals. These techniques generate recourses under the assumption that the underlying predictive model does not change. However, in practice, models are often regularly updated for a variety of reasons (e.g., dataset shifts), thereby rendering previously prescribed recourses ineffective. To address this problem, we propose a novel framework, RObust Algorithmic Recourse (ROAR), that leverages adversarial training for finding recourses that are robust to model shifts. To the best of our knowledge, this work proposes the first solution to this critical problem. We also carry out detailed theoretical analysis which underscores the importance of constructing recourses that are robust to model shifts: 1) we derive a lower bound on the probability of invalidation of recourses generated by existing approaches which are not robust to model shifts. 2) we prove that the additional cost incurred due to the robust recourses output by our framework is bounded. Experimental evaluation on multiple synthetic and real-world datasets demonstrates the efficacy of the proposed framework and supports our theoretical findings.

연구 동기 및 목표

• 데이터 분포 변화로 인해 예측 모델이 업데이트될 때도 여전히 유효한 recourse 방법의 필요성을 제시한다.
• 가능한 모델 이동에 저항하는 강건한 대체 사례를 생성하기 위한 미니맥스 목표를 제안한다.
• 비강건한 recourses의 무효화 확률과 강건한 recourses의 비용 증가에 대한 이론적 경계를 제시한다.
• 다양한 이동 시나리오에서 합성 및 실제 데이터 세트에 걸친 ROAR의 실험적 강건성을 보여준다.

제안 방법

• ROAR를 도입한다, Delta라는 합리적인 모델 이동 집합에 대해 최악의 손실을 최소화하는 미니맥스 목표.
• 전반적인 예측 모델을 파라미터 공간의 섭동 delta를 가능하게 하기 위해 로컬 선형 대리함수 f_w로 근사한다.
• 대응 대체 사례 x''를 min_{x'' in A} max_{delta in Delta} ell(f_{w+delta}(x''), 1) + lambda c(x, x'') 의 해로 정의한다.
• Delta를 각 특징에 대한 경계(delta_min <= delta_i <= delta_max) 또는 노름 구역(||delta||_p <= delta_max) 중 하나로 명시한다.
• 모델 섭동의 최대화를 교대하고 그래디언트를 통해 recourse를 업데이트하는 적대적 학습에서 영감을 얻은 최적화 절차(Algorithm 1)를 개발하여 수렴될 때까지 수행한다.

실험 결과

연구 질문

• RQ1 분포 변화에 의해 유도된 모델 이동에 기존 recourse 방법들이 얼마나 취약한가?
• RQ2 가능한 모델 섭동 하에서 여전히 유효한 recourse를 형식화하고 최적화하여 recourse 비용을 제어할 수 있는가?
• RQ3 강건한 recourse를 사용할 때 무효화 확률과 비용 증가의 이론적 한계(하한/상한)는 무엇인가?
• RQ4 교정, 시계열 및 지리공간 이동이 있는 데이터 세트에서 과도한 비용 없이도 강건한 recourse가 실제 세계의 강건성을 향상시키는가?

주요 결과

• ROAR 기반의 recourse는 실제 데이터 세트 전반에 걸쳐 최첨단 비교대비 대비 모델 이동에 훨씬 더 견고하다(강건성 67–100% 증가).
• ROAR는 원래 모델에 대해 높은 유효성을 달성하고(대개 >95%), 이동된 모델에 대한 강건성도 크게 향상시킨다.
• 이 프레임워크는 이론적 보장을 제공한다: 비강건한 recourses의 무효화 확률에 대한 하한과 강건한 recourses의 추가 비용에 대한 상한.
• 강건한 recourses는 모델링된 이동하에서 비강건 대비 비용 증가가 한정되어 있어 실용적 실현 가능성을 보전한다.
• 독일 신용, SBA 및 지리공간/시간 데이터 세트에 대한 실증 평가가 여러 기준선(CFE, AR, MINT, ROAR 변형들)보다 ROAR의 효과를 입증한다.