[논문 리뷰] A survey of algorithmic recourse: definitions, formulations, solutions, and prospects

Amir-Hossein Karimi, Gilles Barthe외 2명|arXiv (Cornell University)|2020. 10. 08.

Ethics and Social Impacts of AI참고 문헌 197인용 수 45

한 줄 요약

이 논문은 알고리즘적 구제(recours)를 조사하고 대조적 설명을 결과적 권고와 구분하며, 통일된 정의, 형식화 및 해결책을 제시하는 동시에 향후 연구 방향과 윤리적 연결 고리를 개략적으로 제시합니다.

ABSTRACT

Machine learning is increasingly used to inform decision-making in sensitive situations where decisions have consequential effects on individuals' lives. In these settings, in addition to requiring models to be accurate and robust, socially relevant values such as fairness, privacy, accountability, and explainability play an important role for the adoption and impact of said technologies. In this work, we focus on algorithmic recourse, which is concerned with providing explanations and recommendations to individuals who are unfavourably treated by automated decision-making systems. We first perform an extensive literature review, and align the efforts of many authors by presenting unified definitions, formulations, and solutions to recourse. Then, we provide an overview of the prospective research directions towards which the community may engage, challenging existing assumptions and making explicit connections to other ethical challenges such as security, privacy, and fairness.

연구 동기 및 목표

• 광범위한 설정에서 구제를 위한 정의, 형식화 및 기술적 해결책을 통일한다.
• 인과 프레임워크 내에서 대조적 설명과 결과적 권고를 구분한다.
• 작용성, 그럴듯함, 다양성, 희소성과 같은 제약 및 실질적 고려 사항을 요약한다.
• 공정성, 프라이버시, 책임성과 같은 더 넓은 윤리적 ML 주제 내에서 구제를 위치시킨다.

제안 방법

• 대조적 설명과 결과적 권고를 구분하는 통합 정의를 제시한다(Q1 대 Q2).
• 반사실(counterfactuals)와 행동에 대한 식(1) 및 식(2)로 제약 최적화 문제로서 구제를 형식화한다.
• 거리 및 비용 지표(예: MAD를 가진 맨해튼 거리, 혼합 ||d||p 노름)와 이들이 해결책에 어떤 영향을 미치는지 논의한다.
• 구제에 사용되는 모델 유형(트리 기반, 커널 기반, 미분 가능성 있는 모델 및 기타)을 분류하고 데이터 유형도 다룬다.
• 실행 가능성과 타당성 제약 조건 및 다양성/희소성이 해결책에 어떻게 통합되는지 자세히 설명한다.
• 테이블 1에 정리된 50편 이상 기술 논문의 조사를 제공하고, 개방형 도전과제와 향후 방향을 강조한다.

실험 결과

연구 질문

• RQ1 알고리즘적 의사결정에서 구제란 무엇이며, 이를 설명과 권고 전반에 걸쳐 어떻게 통합할 수 있는가?
• RQ2 현실적인 제약 하에서 대조적 설명과 결과적 권고를 어떻게 형식화하고 해결할 수 있는가?
• RQ3 인과성, 실행 가능성, 타당성은 Feasible한 구제를 생성하는 데 어떤 역할을 하는가?
• RQ4 구제를 더 넓은 윤리적 ML 우려와 연결하는 주된 방법론적 격차와 향후 방향은 무엇인가?

주요 결과

• 대부분의 구제 연구는 결과적 권고보다는 대조적 설명 생성에 초점을 맞춘다.
• 미분 가능 모델이 구제 방법에서 가장 널리 지원되는 클래스이다.
• 해결책은 최적성, 범위, 런타임, 접근성 등의 특성 간의 균형을 이룬다. 단일의 통합 벤치마크는 없다.
• 결과적 권고는 인과 모델(SCM)을 필요로 하며, 천인법 추론-행동-예측(abduction-action-prediction) 단계로 인해 계산적으로 더 부담스러울 수 있다.
• 실행 가능성과 타당성 제약은 별개이며, 구제의 실현 가능하고 신뢰할 수 있는 결과를 얻기 위해 함께 고려되어야 한다.
• 조사는 광범위한 논문들(Table 1)을 강조하고 구제를 보안, 프라이버시 및 공정성과 연결하는 향후 연구 방향을 제시한다.