[논문 리뷰] On the Adversarial Robustness of Causal Algorithmic Recourse

Ricardo Dominguez-Olmedo, Amir-Hossein Karimi외 1명|arXiv (Cornell University)|2021. 12. 21.

Adversarial Robustness in Machine Learning인용 수 6

한 줄 요약

이 논문은 인과적 알고리즘적 복구에서 적대적 강건성을 수식화하여, 최소비용 복구가 작은 특성 불확실성에 취약함을 보여준다. 선형 및 미분 가능한 분류기에서 강건한 복구를 생성하기 위한 방법을 제안하고, 局부 선형성과 실행 가능성(행동 가능성)을 향상시키는 정규화항을 도입하여, 강건한 복구의 가능성을 크게 높이며 비용을 최소화한다.

ABSTRACT

Algorithmic recourse seeks to provide actionable recommendations for individuals to overcome unfavorable classification outcomes from automated decision-making systems. Recourse recommendations should ideally be robust to reasonably small uncertainty in the features of the individual seeking recourse. In this work, we formulate the adversarially robust recourse problem and show that recourse methods that offer minimally costly recourse fail to be robust. We then present methods for generating adversarially robust recourse for linear and for differentiable classifiers. Finally, we show that regularizing the decision-making classifier to behave locally linearly and to rely more strongly on actionable features facilitates the existence of adversarially robust recourse.

연구 동기 및 목표

• 알고리즘적 의사결정에서 작은 특성 불확실성 하에서 최소비용 복구의 취약성을 다루기 위해.
• 신뢰할 수 있고 계약처럼 간주될 수 있는 복구 약속을 위한 강건한 복구의 필요성을 수식화하기 위해.
• 입력의 가능한 특성 변화 범위(불확실성 집합) 내에서 모든 변형에 대해 유효한 복구 권고를 생성하는 방법을 개발하기 위해.
• 강건한 복구의 존재를 가능하게 하는 모델 정규화항을 식별하고 검증하기 위해.

제안 방법

• 개개인의 보고된 특성 주변의 불확실성 집합 $ B(x) $ 에 대해 복구의 적대적 강건성을 강건 최적화 문제로 수식화한다.
• 선형 및 미분 가능한 분류기에서 강건한 복구를 생성하기 위한 이중 최적화 방법을 제안하며, 특성 변화에 대한 최소-최대 문제를 해결한다.
• 실행 가능한 특성에 의존하도록 유도하고 비선형 행동을 방지하기 위해, 실행 가능한 局부 선형성 정규화(ALLR)를 도입한다.
• 가장 나쁜 경우의 특성 이동을 시뮬레이션하기 위해 편미분 기반 내부 최대화를 사용하여, 모든 특성 변화에 대해 복구의 유효성을 보장한다.
• 다섯 개인 표본 데이터셋에 대해 선형 분류기와 신경망 분류기에 이 방법을 적용하여 강건성과 비용을 평가한다.
• ALLR의 효과를 기존의 ERM, 행동 전용 훈련, 이전 정규화항과의 비교를 통해 추론 실험(ablation study)로 검증한다.

실험 결과

연구 질문

• RQ1 최소비용 복구는 임의로 작은 특성 불확실성에 대해 강건한가? 그렇지 않다면 실패하는 이유는 무엇인가?
• RQ2 제한된 불확실성 집합 내에서 가능한 모든 특성 변화에 대해 유효한 복구 권고를 생성할 수 있는가?
• RQ3 의사결정 분류기의 어떤 구조적 및 인도적 편향이 적대적 강건한 복구의 존재를 가능하게 하는가?
• RQ4 분류기를 국소 선형성과 실행 가능성 중심으로 정규화함으로써, 강건한 복구의 가능성과 비용은 어떻게 영향을 받는가?

주요 결과

• 최소비용 복구는 임의로 작은 특성 불확실성에 대해 증명 가능하게 취약하며, 이는 복구를 계약처럼 간주하는 데 신뢰를 약화시킨다.
• 제안된 강건한 복구 생성 방법은 입력 주변 $ \epsilon $-구내의 모든 변화에 대해 유효한 권고를 성공적으로 생성한다. $ \epsilon $ 가 작을수록 더욱 유의미하다.
• 실행 가능한 국소 선형성 정규화(ALLR)는 표준 ERM 대비 강건한 복구가 존재하는 개인 비율을 최대 100%까지 증가시킨다.
• ALLR로 훈련된 분류기는 ERM와 유사하거나 더 낮은 비용으로 강건한 복구를 달성하면서도 경쟁적인 예측 성능를 유지한다.
• 특히 비선형 모델에서 ALLR는 Ross 등(2021)의 이전 정규화항보다 강건한 복구를 촉진하는 데 뛰어난 성능을 보인다.
• 신경망에 대해서도 이 방법은 합리적으로 작은 $ \epsilon $ 에서 효과를 발휘하지만, 내부 최대화의 비볼록성으로 인해 $ \epsilon $ 가 클수록 성능이 다소 저하된다.